MLSecOps Engineer (AI Safety)

Компания "Okko"

Основной задачей является обеспечение безопасности данных и контекстной плоскости LLM-систем: разработка и поддержка guardrails, защита от prompt injection-атак, обеспечение безопасности RAG- и MCP-интеграций, изоляция памяти и контекстов агентов, а также организация непрерывного adversarial-тестирования.

Обязанности:

• Изолировать контексты агентов, разделение памяти по пользователю/сессии/тенанту на уровне хранилища, защита системных промптов;
• Изоляция процессов на уровне ОС (namespaces, инспекция syscalls, seccomp, landlock);
• Разрабатывать и поддерживать guardrails (input/output), механизмы контроля ПДн и чувствительных данных, защиту от прямых и косвенных Prompt Injection, Jailbreak-атак, токсичного и NSFW-контента, а также фильтрацию выходных данных;
• Обеспечивать безопасность RAG-систем: выполнять санитизацию PII и секретов до индексации, защищать пайплайны от data poisoning, реализовывать разграничение доступа к данным (RBAC/ABAC, chunk-level ACL/RBAC) и изоляцию retrieval между тенантами;
• Обеспечивать безопасность MCP-интеграций: моделировать угрозы (tool poisoning, rug-pull, cross-server shadowing и др.) и реализовывать контрмеры;
• Разрабатывать авторизацию tool-вызовов вне процесса модели (на стороне брокера/политики, не внутри харнеса) чтобы инъекция во втянутом контенте не расширяла права агента;
• Реализовывать adversarial-автотесты на ежедневный прогон (jailbreak, инъекции, утечки, poisoning) как блокирующий CI/CD-гейт;
• Организовывать трассировку агентных систем, логирование prompt/response-потоков, классификацию чувствительных данных, детектирование аномалий и попыток атак, интеграцию с SIEM и DLP-решениями.

Требования

• Свободное владение Python;
• Опыт построения/эксплуатации guardrails в проде (input/output, детекция инъекций/jailbreak);
• Опыт реализации chunk-level RBAC и санитизацию PII в векторном хранилище (Qdrant/Milvus, self-hosted);
• Опыт внедрения блокирующих гейтов в CI/CD (adversarial-прогон как блокирующий гейт);
• Понимание архитектуры современных LLM- и агентных систем: inference, RAG, MCP, tool calling, memory, orchestration frameworks;
• Понимание механизмов атак на LLM-системы: Prompt Injection, Indirect Prompt Injection, Jailbreak, Tool Poisoning, Data Poisoning, Model Denial of Service, System Prompt Leakage, Excessive Agency и др.;
• Опыт работы с RBAC/ABAC, OAuth2/OIDC, сервисными аккаунтами и принципом Least Privilege;
• Практический опыт работы с Docker, Kubernetes и CI/CD-пайплайнами;
• Навыки моделирования угроз, подготовки архитектурной документации и требований безопасности;
• Знание OWASP Top 10 for LLM Applications (2025) и OWASP Top 10 for Agentic Applications.

• Необходимое оборудование и софт для работы;
• Официальное трудоустройство;
• ДМС со стоматологией, офисный врач, доплата больничного листа, корпоративные скидки;
• Льготные условия ипотеки в рамках зарплатного проекта;
• Бесплатная подписка на сервисы партнеров;
• Корпоративный спорт;
• Насыщенная корпоративная жизнь;
• Электронная библиотека издательства МИФ, в которую входят почти 2 тыс. единиц контента по бизнесу, саморазвитию, здоровому образу жизни и другим актуальным темам.

Открыть контакты работодателя

Зарегистрируйтесь или войдите, чтобы открыть контакты работодателя