Backend developer в GigaChat Alignment

Компания "Сбербанк"

Мы — GigaChat Alignment. Делаем модель полезной и надёжной: SFT/DPO, дистилляция в маленькие модели, LoRA-сервис, метрики и валидирующие пайплайны. Быстро проверяем гипотезы, ускоряем обучение и выкатываем улучшения в прод — сначала для внутренних клиентов, потом для всей России.

Направления

Улучшение SFT / DPO: тестирование новый подходов к обучению, ускорение пайплайнов, генерация новых данных, дистиляция знаний из больших LLM в маленькие.

Развитие метрик качества GigaChat-а, например, через оценку способности решать задачи олимпиад международного уровня. Развитие внутреннего LLM-AS-A-JUDGE

Разработка сервиса Lora обучения GigaChat и GigaEmbeder. Повышение стабильности и воспроизводимости запусков, создание пайплайнов валидации и генерации данных с помощью ЛЛМ.

На эти роли мы ищем талантливого NLP Engineer, с которым будем вместе совершенствовать и развивать GigaChat. Для всех этих экспериментов у нас есть кластер с большим числом A/H 100'ых.

Обязанности

• Управление и мониторинг существующих ML-пайплайнов, обеспечение их стабильной работы
• Разработка и поддержка сервиса ролевых доступов для пользователей и сервисов
• Автоматизация процессов сбора метрик и мониторинга моделей
• Настройка и сопровождение CI/CD процессов для ML-проектов
• Работа с PostgreSQL для хранения данных, метрик моделей и информации о доступах
• Поддержка и развитие внутренних MLOps-инструментов (аналог ClearML/MLflow)
• Настройка и поддержка оркестрации пайплайнов (Airflow или аналоги)

Требования

• Отличные навыки Python, глубокое понимание FastAPI и архитектуры сервисов
• Опыт работы с PostgreSQL и другими СУБД
• Знание CI/CD процессов и инструментов (GitLab CI, GitHub Actions, Jenkins и т.д.)
• Навыки автоматизации процессов, мониторинга и логирования
• Желателен опыт работы с MLOps-фреймворками (ClearML, MLflow или аналогами) будет плюсом
• Понимание и опыт настройки оркестрации задач (Airflow) будет плюсом
• Опыт фронтенд-разработки или интеграции визуализаций метрик и управления доступами будет плюсом

Условия

• Удалённо по России.
• Возможность оформления в аккредитованную IT-компанию.
• Годовая премия по итогам работы до 6 окладов.
• Регулярный пересмотр зарплат.
• Корпоративный спортзал и зоны отдыха.
• Более 400 программ СберУниверситета для роста.
• Программа адаптации и помощь руководителя на старте.
• Крупнейшее DS&AI community — более 600 DS банка, регулярный обмен знаниями, опытом и лучшими практиками, интерактивные лекции и мастер-классы от ведущих ВУЗов и экспертов технологических компаний, дайджест о самых последних разработках в области DS&AI и отчеты с крупнейших конференций мира, регулярные внутренние митапы.
• Расширенный ДМС, льготное страхование для семьи, корпоративная пенсионная программа.
• Ипотека для сотрудников по дисконтной программе.
• СберПрайм+ и скидки у партнёров.
• Бонус за рекомендации в команду.