Компания "WeMakeTeam"
Описание проекта:
Стек проекта: Python, Trino, dbt, Airflow, Spark, Hadoop, Hive, Postgres, Greenplum, Kubernetes, Gitlab.RL
Требования к кандидату:
• знаешь SQL на уровне оптимизации сложных запросов;
• знаешь принципы работы классических и MPP-СУБД;
• опыт разработки на Python и/или Java, Scala;
• опыт оркестрации ETL-пайплайнов с помощью Airflow;
• опыт работы с dbt;
• опыт работы с продуктами экосистемы Hadoop (HDFS, YARN, HIVE, Sqoop).
• опыт Apache Spark (Spark DataFrames, Spark SQL);
• знаком с банковской предметной областью;
• знакомство с банковской предметной областью;
• опыт работы с Kafka, Trino;
• опыт работы с контейнерными технологиями и оркестрацией: kubernetes, helm;
• знания и опыт CI/CD-практик и инструментов;
Задачи на проекте:
• Мигрировать процессы для отчетности и аналитики и настраивать их регламентную
загрузку;
• работать с общебанковской data-платформой (data lake, dwh);
• разрабатывать end-to-end пайплайны по сбору и обработке данных: выбирать
оптимальный формат, структуру хранения и архитектуру интеграционных решений;
• анализировать и оптимизировать производительность пайплайнов, инструментов и
дата-сервисов;
• развивать архитектуру данных и внедрять новые технологические решения и сервисы;
• управлять обновлениями, настройками, устранять выявленные уязвимости,
восстанавливать сервисы после сбоев, обрабатывать инциденты.
23 Апреля
Java / Kotlin разработчик (Software Engineer)
Москва
до 450 000 руб.
Компания "Консалт Плюс" Компания отвечает за создание и развитие высоконагруженной корпоративной системы. Мы гордимся тем, что нашими...
23 Апреля
Технический лидер в Big Data (TechLead)
Москва
Компания "АТОЛ, группа компаний" Мы ищем технического лидера, который видит себя не просто senior-разработчиком, а архитектором процессов и...
23 Апреля
Data Scientist Управления модельных рисков и валидации
Москва
Компания "Банк ВТБ (ПАО)" Обязанности: Валидация моделей и оценка модельного риска с целью снижения вероятности реализации модельного риска...
23 Апреля
Москва
от 150 000 до 170 000 руб.
Компания "iiko, Компания Aйко" iiko – это компания, которая создаёт и развивает инновационные решения для автоматизации ресторанного бизнеса....
23 Апреля
Москва
до 60 000 руб.
Компания "ИЦ АЙ-ТЕКО" Компания « АЙ-ТЕКО» — ведущий российский системный интегратор и поставщик информационных технологий для корпоративных...
Вакансия размещена в отрасли