Компания "Сбербанк"
Наша команда обеспечивает кибербезопасность GenAI-моделей, LLM-приложений, AI-агентов и мультиагентных систем, используемых миллионами пользователей. Основной фокус: кибербезопасность GenAI-моделей разных модальностей с помощью автоматизированных бенчмарков и обеспечение безопасности AI-агентов, тестирование их логики принятия решений, а также доступных инструментов.
Вам предстоит:
- проведение тестирований моделей разных модальностей с помощью автоматизированных бенчмарков
- поиск и адаптация релевантных наборов данных (датасетов)
- адаптация и настройка новых или уже существующих бенчмарков для тестирования устойчивости моделей к различным видам атак
- проведение практического пентеста AI-агентов и мультиагентных систем с фокусом на специфичные уязвимости (промпт-инъекции, манипуляция контекстом, нарушение логики оркестрации, компрометация инструментов RAG/API), выявление угроз и уязвимостей на уровне поведения, логики взаимодействия агентов, используемых инструментов
- разработка рекомендаций и требований безопасности для повышения безопасности агентных систем
- подготовка заключений и отчетной документации по результатам оценки защищенности.
- взаимодействие с командами разработки для внедрения мер безопасности.
- отслеживание современных трендов и методов атак в области безопасности AI-агентов
- участие и выступление на ключевых внутренних и внешних мероприятиях, посвященных кибербезопасности ИИ.
Что для нас важно:
- высшее образование в области информационной безопасности, компьютерных наук либо эквивалентный практический опыт
- 2+ года релевантного опыта работы (включая пентест, академическую среду или CTF)
- знание английского языка на уровне чтения технической литературы
- понимание архитектур и специфических векторов атак для GenAI-моделей разных модальностей (текст, код, изображение, аудио)
- опыт работы с фреймворками и библиотеками для тестирования LLM/GenAI.
- понимание основ пентеста и методик создания моделей угроз применительно к агентным системам
- понимание принципов работы, архитектур и протоколов взаимодействия AI-агентов и мультиагентных систем
- глубокое понимание тактик атак из MITRE ATLAS и уязвимостей из OWASP Top 10 for LLM применительно к агентам
- опыт анализа сложных распределенных систем на наличие уязвимостей и «узких» мест
- владение Python для написания скриптов автоматизации тестирования и анализа
- умение формализовать неочевидные проблемы в поведении агента как конкретные уязвимости и риски для бизнеса
- навыки формирования отчетной документации и интерпретации результатов тестирования как бизнес-рисков.
Будет большим плюсом:
- опыт в разработке и адаптации бенчмарков, а также умение анализировать и сравнивать результаты тестирования различных моделей
- участие в CTF или специализированных соревнованиях по безопасности AI
- опыт практического тестирования поведения AI-приложений или агентов (подойдет исследовательский/хобби-проект или CTF)
- практический опыт работы с фреймворками для создания агентов
- опыт представления результатов своей работы широкой аудитории
- понимание вызовов, связанных с безопасностью (security/safety) автономных агентов.
Мы предлагаем:
- комфортный современный офис
- офисный формат работы
- ежегодный пересмотр зарплаты, годовая премия
- корпоративный спортзал и зоны отдыха
- более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
- программа адаптации и помощь руководителя на старте
- расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
- гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
- бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
- вознаграждение за рекомендацию друзей в команду Сбера.