Senior CUDA Engineer
Город:
Москва
Занятость:
Полная занятость
Компания "Сбербанк"
Мы разрабатываем высокопроизводительные CUDA-операторы для PyTorch, обеспечивающие обучение и инференс мультимодальных моделей с максимальной утилизацией GPU-ресурсов. Фокус — низкоуровневая оптимизация, кастомные ядра, memory management и эффективная работа с новыми архитектурами GPU.
Обязанности
- разработка и оптимизация кастомных CUDA-операторов и расширений для PyTorch (C++/CUDA).
- профилирование и устранение узких мест в вычислительных ядрах (Nsight Compute, nvprof).
- оптимизация использования памяти (shared memory, registers, coalesced access, persistent kernels).
- реализация алгоритмов параллельных вычислений с учётом архитектурных особенностей современных GPU (Ampere, Hopper и новее).
- интеграция CUDA-оптимизаций в распределённые пайплайны обучения и инференса.
- тесная работа с командами Research и Distributed Learning для поддержки кастомных моделей и операторов.
Требования
- экспертный уровень C++ и CUDA.
- опыт оптимизации производительности для NVIDIA GPU.
- знание внутреннего устройства PyTorch (ATen, dispatcher, TensorIterator).
- навыки профилирования на GPU и поиска и устранения узких мест в реализации нейросетевых операторов.
- опыт работы с Mixed Precision и кастомными кернелами.
Бонус: Опыт с Triton, CUTLASS, cuBLASLt, NCCL; участие в open-source проектах PyTorch.
Условия
- комфортный современный офис рядом с м. Кутузовская
- формат работы гибрид
- ежегодный пересмотр зарплаты, квартальная и годовая премия
- корпоративный спортзал и зоны отдыха
- более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
- программа адаптации и помощь руководителя на старте
- расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
- ипотека выгоднее до 7% для каждого сотрудника
- бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
- вознаграждение за рекомендацию друзей в команду Сбера
27 Ноября
Senior DevOps Engineer (PaaS App.Farm)
Москва
Компания "РСХБ-Интех" О ПРОЕКТЕ: Мы называем нашу платформу App.Farm. Команда занимается разработкой и развитием платформы для ускорения...
27 Ноября
Backend AQA Engineer (Python, микросервисы) Middle+\Senior
Москва
до 340 000 руб.
Компания "Центр Орбита" Группа Компаний Орбита - ведущий разработчик цифровых решений, российская аккредитованная ИТ-компания. Масштабный...
27 Ноября
Москва
Компания "Центр Орбита" Группа Компаний Орбита - ведущий разработчик цифровых решений, российская аккредитованная ИТ-компания Масштабный...
27 Ноября
Java-разработчик (Senior)( Центр Орбита )
Москва
до 300 000 руб.
Компания "Центр Орбита" Группа Компаний Орбита - ведущий разработчик цифровых решений, российская аккредитованная ИТ-компания Масштабный...
27 Ноября
DevOps-инженер/SRE (Blockchain) Senior Гибридный формат работы
Москва
до 340 000 руб.
Компания "Центр Орбита" Группа Компаний Орбита - ведущий разработчик цифровых решений, российская аккредитованная ИТ-компания. Масштабный...
Вакансия размещена в отрасли