Компания "WeMakeTeam"
Описание проекта:
Стек проекта: Python, Trino, dbt, Airflow, Spark, Hadoop, Hive, Postgres, Greenplum, Kubernetes, Gitlab.RL
Требования к кандидату:
• знаешь SQL на уровне оптимизации сложных запросов;
• знаешь принципы работы классических и MPP-СУБД;
• опыт разработки на Python и/или Java, Scala;
• опыт оркестрации ETL-пайплайнов с помощью Airflow;
• опыт работы с dbt;
• опыт работы с продуктами экосистемы Hadoop (HDFS, YARN, HIVE, Sqoop).
• опыт Apache Spark (Spark DataFrames, Spark SQL);
• знаком с банковской предметной областью;
• знакомство с банковской предметной областью;
• опыт работы с Kafka, Trino;
• опыт работы с контейнерными технологиями и оркестрацией: kubernetes, helm;
• знания и опыт CI/CD-практик и инструментов;
Задачи на проекте:
• Мигрировать процессы для отчетности и аналитики и настраивать их регламентную
загрузку;
• работать с общебанковской data-платформой (data lake, dwh);
• разрабатывать end-to-end пайплайны по сбору и обработке данных: выбирать
оптимальный формат, структуру хранения и архитектуру интеграционных решений;
• анализировать и оптимизировать производительность пайплайнов, инструментов и
дата-сервисов;
• развивать архитектуру данных и внедрять новые технологические решения и сервисы;
• управлять обновлениями, настройками, устранять выявленные уязвимости,
восстанавливать сервисы после сбоев, обрабатывать инциденты.
28 Января
Москва
Компания "Сбербанк" В нашем трайбе SberWorks (Сбер) команда DataLake отвечает за хранение и получение данных на базе Hadoop - развитие и...
28 Января
Москва
Компания "Postgres Professional" Сейчас мы ищем талантливого System Software Engineer , готового работать на стыке ПО и инфраструктуры....
28 Января
Москва
от 174 000 до 175 000 руб.
Компания "РостДжоб" ООО "RostJob" — ведущая аутсорсинговая IT-компания, предоставляющая высококлассные решения для клиентов по всему миру. Мы...
28 Января
Senior Data Analyst( ПлатежиТут )
Москва
от 200 000 до 300 000 руб.
Компания "ПлатежиТут" Мы делаем финтех-продукты на стыке платежей и e-commerce. Через наши сервисы проходит 800 тысяч транзакций и миллиард...
28 Января
Senior Python Engineer (AI / Production Systems) - вне РФ
Москва
Компания "Star-staff" Ищу Senior Python Engineer в продуктовую команду, которая разрабатывает платформу в сфере digital design / home & space...
Вакансия размещена в отрасли