ML инженер (LLM Platform Engineer)( Сбербанк )
Город:
Москва
Занятость:
Полная занятость
Компания "Сбербанк"
Наша задача - создать Fabrique агентного роя (ASC AI Fabrique) - систему автоматического самовоспроизводящегося и самосовершенствующегося разработки, которая создает ИИ-агентов для оптимизации различных бизнес-процессов клиентских менеджеров. ASC AI Fabrique представляет собой рой специализированных ИИ-агентов, задача которых - выполнять полный SDLC (жизненный цикл разработки программного обеспечения) для создания других ИИ-агентов.
ASC AI Fabrique — это мета-генеративная фабрика цифровых сотрудников (ИИ-агентов), построенная на парадигме Agentic Swarm Coding. Система способна автономно проектировать, кодировать, тестировать и разворачивать ИИ-агентов по текстовому бизнес-описанию.
Обязанности
- развертывание и оптимизация LLM моделей на multi-GPU установках с tensor/pipeline/data parallelism
- организация MLOps-процессов и системная оценка качества моделей
- обеспечение production latency <2s>95% для инфраструктуры inference
- профилирование и оптимизация использования VRAM (CUDA OOM prevention)
- мониторинг GPU-производительности.
Требования
- Python (asyncio, multiprocessing, typing) Advanced уровня
- Bash/Shell scripting Advanced уровня для автоматизации развертывания
- практический опыт с vLLM, TensorRT-LLM, TGI для serving моделей
- опыт работы с квантизацией (AWQ, GPTQ, GGUF) для снижения требований к VRAM
- знание оптимизаций Flash Attention и Paged Attention
- навыки работы с PyTorch, JAX, ONNX для универсального развертывания
- опыт отладки GPU memory и понимание CUDA (Intermediate C++/CUDA).
Будет плюсом:
- опыт развертывания моделей на multi-GPU
- практика профилирования VRAM usage в production-средах
- опыт работы с моделями 480B+ параметров на кластерах GPU
- знание специфических GPU scheduling инструментов (Volcano, Kueue).
Условия
- комфортный современный офис рядом с м. Кутузовский проспект, формат работы - гибрид (3 дня офис, 2 удаленно)
- корпоративный спортзал и зоны отдыха
- более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
- расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
- бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
- вознаграждение за рекомендацию друзей в команду Сбера.
24 Марта
Инженер-химик( Авиационная корпорация Рубин )
Балашиха
от 80 000 руб.
Компания "Авиационная корпорация Рубин" Обязанности: Отбор проб и проведение количественного химического анализа воздуха рабочей зоны ,...
22 Марта
Full-stack QA Engineer( Альфа Капитал )
Москва
Компания "Альфа Капитал" Привет! Мы работаем на рынке инвестиций и занимаемся доверительным управлением. Входим в ТОП-5, в цифрах это: 1,5...
21 Марта
Технический писатель в сфере ИБ/Инженер по сертификации
Королев
от 200 000 руб.
Компания "АЛТЭКС-СОФТ" Компания АЛТЭКС-СОФТ, разработчик решений в области информационной безопасности, основное направление работ связано с...
23 Марта
Инженер-технолог-программист станков с ЧПУ
Подольск
от 150 000 руб.
Компания "ЧЗЭМ ЭНЕРГОМАШ" Чеховский завод «Энергомаш» (ЧЗЭМ) — ведущий производитель трубопроводной арматуры высокого давления, основанный в...
23 Марта
Инженер по автоматизации тестирования (Java, Selenium)( Гриндата )
Москва
Компания "Гриндата" Какой опыт нам важен: проработка, написание сценариев тестирования написание и поддержка UI автотестов на базе Java...
Вакансия размещена в отрасли