Инженер LLM / SRE (LLM-платформа)

Компания "МАТРИ"

О проекте
Локальная мультиагентная платформа для анализа бизнес‑процессов на основе LLM. Платформа развёртывается в инфраструктуре заказчика (on‑premise), интегрируется с корпоративными системами и масштабируется на новые бизнес‑случаи.

Наша задача — создать надёжную, управляемую и защищённую AI‑платформу, готовую к промышленной эксплуатации.

Кого мы ищем
Опытного инженера LLM / SRE, который сможет сочетать навыки backend‑разработки, работы с LLM и эксплуатации.

Вы будете отвечать за разработку мультиагентных сценариев, развёртывание локальных моделей, интеграции и обеспечение стабильной работы платформы.

Ключевые обязанности

• Разработка, развёртывание и сопровождение мультиагентной архитектуры (агенты, маршрутизация, RAG‑конвейеры).
• Проектирование и оптимизация промптов, систем контроля качества генерации и agent‑flows.
• Развёртывание локальных LLM, управление версиями моделей и оптимизация inference.
• Интеграция с корпоративными системами через REST/API, обеспечение безопасности передач данных.
• Настройка CI/CD процессов для микросервисов (Docker, GitLab CI/GitHub Actions), автоматизация развёртываний и откатов.
• Настройка мониторинга, логирования и алертинга (Prometheus, Grafana, Loki/ELK), сбор метрик качества генерации.
• Участие в инцидент‑менеджменте, root cause analysis и повышении надёжности (SRE‑взаимодействия).
• Подготовка документации, обучение внутренних команд и поддержка code review.

Требования (обязательные)

• Python 3.10+ — уверенная разработка сервисов, знание async/await, практический опыт написания тестов.
• Практический опыт работы с LLM / Generative AI: PoC или production‑проекты, ежедневное использование моделей в инженерной деятельности.
• Опыт построения RAG‑pipeline и работы с фреймворками вроде LangChain / LlamaIndex / LangGraph.
• Опыт развёртывания серверных приложений в Linux‑окружении.
• Уверенное владение Docker и Docker Compose; базовые навыки оркестрации (Kubernetes).
• Опыт интеграции через REST API, умение работать с корпоративными системами.
• Готовность к работе on‑premise / гибридно; технический английский для чтения документации.

Желательные навыки (будут преимуществом)

• Опыт эксплуатации AI‑инфраструктуры: управление моделями, настройка inference на CPU/GPU, оптимизация latency.
• Опыт работы с векторными базами (Qdrant, Milvus, pgvector).
• Навыки SRE/DevOps: Prometheus, Grafana, Loki/ELK, GitLab CI/GitHub Actions на production‑уровне.
• Опыт работы с Yandex Cloud / Yandex AI Studio.
• Опыт PostgreSQL, Redis, SQL.
• Опыт в MLOps и управлении ML‑pipelines.

Опыт

• Коммерческий опыт разработки: от 2 лет (или эквивалентные проекты/портфолио).
• Практический опыт с LLM/GenAI: от 1 года (PoC или production).
• Docker/Linux/развёртывание серверных приложений: от 1 года.

Примеры реальных задач

• Свернуть RAG‑pipeline по корпоративной документации, снизив latency и сохранив точность поиска.
• Настроить CI/CD процесс для обновления локальной модели с автоматическим откатом при регрессе.
• Построить метрики качества генерации и интегрировать мониторинг с алертами при деградации.

Soft skills и культура

• Умение формализовать требования и коммуницировать с заказчиком.
• Самостоятельность, ответственность за участок платформы, умение приоритизировать задачи.
• Готовность к командной работе в кросс‑функциональной команде инженеров и ML‑research.

Условия работы

• Формат: on‑premise / гибрид (точный режим обсуждается на собеседовании).
• Проектная занятость (+/-6 месяцев).
• Команда: компактная команда инженеров и ML‑research.
• Конкурентная оплата.

Как откликнуться
В сопроводительном письме, пожалуйста, опишите кратко один проект с LLM: цель, стек, ваша роль, результат (включая метрики, если есть).

Открыть контакты работодателя

Зарегистрируйтесь или войдите, чтобы открыть контакты работодателя