Компания "Октопустех"
ОктопусТех – надёжный партнёр в разработке IT-решений и автоматизации процессов.
О проекте:
Мы – команда, которая разрабатывает собственные решения на основе LLM моделей. Нашей целью является предоставление возможности генерировать достоверные тексты, без артефактов, искажений для выбранных областей знаний.
Чем предстоит заниматься:
- Выбором opensource и проприетарных моделей (LLM), их оценкой, дообучением и адаптацией для задач генерации текста, саммаризации, поддержания осознанного диалога, правильной фактологии.
- Решением задач путем составления промптов, настройкой параметров моделей, применением RAG для достижения релевантности и необходимого качества генераций; устранением артефактов.
- Отслеживанием появления новых моделей (LLM) и их модификаций; оценкой качества их генерации, выбором подходящий моделей автоматизированными методами; доработкой бенчмарков при необходимости.
В Ваши обязанности будет входить:
- Тестирование, выбор и настройка моделей (LLM) для текстовых задач, оценка качества генераций и возможности интеграции их в продукт.
- Обработка данных для формирования датасетов, пригодных для дальнейшего обучения моделей.
- Проведение экспериментов, анализ эффективности и производительности моделей, настройка параметров моделей (LLM).
- Поддержание заданного уровня качества генерации для новых моделей и новых задач (промптинг, RAG, pipeline и т. д.).
- Решение задачи узкоспециализированной текстовой генерации (например, профессиональные ответов на основе справочника).
- Разработка, дообучение и тюнинг мультимодальных моделей.
- Быть в контексте актуальных моделей, их архитектуры, возможностей.
Наши пожелания к опыту:
- Опыт решения задач классификации текста, token-classification, NER, text2text-задачи.
- Уверенно понимать архитектуру и механизм работы нейронных сетей, в т. ч. Transfromer-based моделей.
- Знать принципы разметки данных, иметь продуктовый опыт подготовки датасетов для разных сценариев использования моделей.
- Знать методы обучения моделей, иметь опыт обучения и инференса LLM.
- Иметь опыт применения методов fine-tuning и Retrieval-Augmented Generation (RAG) для адаптации и обогащения моделей новыми знаниями.
- Понимать причины появления артефактов генерации, использовать методы их устранения в проектах.
- Уверенные навыки работы с проприетарными LLM по API (OpenAI, Anthropic, Gemini, Yandex).
- Иметь опыт разворачивания и использования opensource моделей LLM на локальном сервере или в облаке (Mistral, Gemma, Llama и др.).
- Знание экосистемы HuggingFace, иметь навыки интеграции моделей из нее.
- Понимание принципов промт-инжиниринга, хорошее владение практическими методами составления промптов.
- Опыт использования бенчмарков для оценки LLM.
- Уверенное владение Python, иметь опыт написания кода с помощью LLM (OpenAI, Anthropic, Gemini, Claude).
- Желателен опыт использования векторных баз данных.
- Навыки работы с Linux, Jupyter Notebook, PyCharm/VSCode, уметь создавать окружение для работы с LLM.
- Опыт работы c GitHub/GitLab, gitlfs, Jira, Google Workspace/Яндекс.Документы.
Будет плюсом
- Опыт создания и применения бенчмарков.
- Опыт оптимизации нейронных сетей по скорости и объему VRAM, включая методы квантизации.
- Навыки использования и обучения мультимодальных моделей.
- Успешное развертывание и интеграцию моделей LLM на сервера, обеспечение их стабильной работы, создание масштабируемой архитектуры.
Мы предлагаем:
- Официальное трудоустройство - оформление по ТК РФ в IT - аккредитованную компанию, белая зарплата, отпускные и больничные;
- гибкое начало и окончание рабочего дня;
- удаленный формат работы;
- ДМС после прохождения испытательного срока;
- мощное оборудование, достаточное для любых экспериментов с LLM.