NLP Engineer (Gigaсhat)

Компания "Сбербанк"

Мы команда GigaChat - создаём и развиваем core-технологию генеративной языковой модели. Она может писать тексты, создавать изображения и даже код на Python. Она умеет отвечать на вопросы, вести диалог, сочинять стихи и рассказы, придумывать идеи для бизнеса, писать письма и многое другое.

Ведем набор на 4 направления:

разработку фреймворка распределенного обучения GigaFSDP, исследование обучений в FP8;

развитие метрик качества GigaChat-a, например, через оценку способности решать задачи олимпиад международного уровня;

команду инфраструктуры обучений, 5-D параллелизм, в том числе ускорение обучений мультимодальных моделей;

разработку низкоуровневых оптимизаций операций на аппаратном уровне.

На эти роли мы ищем талантливого NLP Engineer, с которым мы будем вместе совершенствовать и развивать GigaChat. Для всех этих экспериментов у нас есть кластер с большим числом A/H 100'ых

Обязанности

• довести качество до ChatGPT на русском и дальше обогнать его;
• помогать решать бизнес-задачи с помощью нашей технологии сначала для внутренних клиентов в Сбере, а потом и внешним;
• придумывать и внедрять новые применения для LLM;
• помогать выводить в прод все, что мы обучим;
• постоянно держаться up-to-date со свежими статьями

Требования

• уверенное владение Python, Pytorch;
• знание базовых алгоритмов и математики;
• знания в DL, опыт обучения просто моделей и больших моделей;
• опыт обучения моделей для продакшен;
• понимание текущего состояния эволюции больших LLM's;
• C++ & CUDA;
• будет плюсом наличие публикаций

Условия

• комфортный современный офис в Москве и Санкт-Петербурге
• возможность выбрать удобный гибридный график
• ежегодный пересмотр зарплаты годовая премия
• зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• программа адаптации и помощь руководителя на старте (для стартовых позиций)
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• ипотека для сотрудников выгоднее до 7%
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера