Pular para o conteúdo principal
Candidaturas encerradas

AWS Data Engineer | Senior

Ir para candidatura

Descrição da vaga

.

Responsabilidades e atribuições

  • Desenvolver e otimizar soluções de dados em larga escala em ambientes distribuídos e em nuvem (AWS);
  • Criar DAGs e workflows de orquestração de processos de transformação e integração de dados utilizando Airflow;
  • Implementar scripts e aplicações em Python e Scala para atender às regras de negócio e necessidades específicas da BU;
  • Aplicar regras de negócio e validações para garantir a consistência, integridade e qualidade dos dados, especialmente na camada Gold;
  • Realizar transformações complexas utilizando Spark (PySpark) e SQL, assegurando performance e escalabilidade;
  • Utilizar Amazon S3 para armazenamento e AWS EMR para processamento distribuído de grandes volumes de dados;
  • Implementar e gerenciar tabelas Iceberg e arquivos Parquet, garantindo versionamento, governança e otimização do armazenamento;
  • Empregar ClickHouse como tecnologia complementar para análises de alta performance;
  • Garantir qualidade, governança e monitoramento contínuo dos pipelines de dados, promovendo automação e observabilidade;
  • Colaborar com áreas de negócio e times de produto para traduzir requisitos em soluções técnicas robustas.

Requisitos e qualificações


  • Proficiência em Airflow – orquestração e agendamento de pipelines de dados;
  • Experiência com em Amazon S3 – armazenamento distribuído;
  • Experiência com em AWS EMR – processamento distribuído e escalável;
  • Banco de Dados SQL – modelagem, consultas e otimização;
  • Experiência comSpark (PySpark) – processamento de dados em larga escala;
  • Experiência com Python e Scala – desenvolvimento de scripts e aplicações de transformação;
  • Conhecimento em Iceberg – versionamento e governança de dados;
  • Conhecimento em Parquet – formato otimizado de armazenamento columnar.

Diferencial : ClickHouse,Java,Parquet avançado,Scrum e metodologias ágeis .




Não possui todos os requisitos para a vaga?


Está tudo bem! Na Compass UOL, estimulamos o desenvolvimento contínuo de novos talentos e transformamos desafios em oportunidades.

Informações adicionais


#remote

"remote"

Etapas do processo

  1. Etapa 1: Cadastro
  2. Etapa 2: LLIA - Mapeamento de Stack
  3. Etapa 3: LLIA - Mapeamento Comportamental
  4. Etapa 4: Entrevista Fit Cultural
  5. Etapa 5: Entrevista com a liderança
  6. Etapa 6: Contratação

Become a Compasser, be part of AI/R.

Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.


We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.

To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.

We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.

Join us and be part of the AI-driven revolution.