Data Engineer | SR
Descrição da vaga
.
Responsabilidades e atribuições
- Atender alta complexidade nos fluxos de Data Processing;
- Otimizar processamentos em batch, que ocorrem a cada 4 horas;
- Analisar e reduzir custos da plataforma em cloud;
- Realizar evolução das práticas de observabilidade, monitoramento e qualidade dos dados;
- Responsável pela estruturação de Data Profiling, Data Quality e Governança de Dados.
Requisitos e qualificações
- Fonte de dados principal: ERP TOTVS com base de dados Progress;
- Formato dos dados: JSON;
- Ingestão: Mecanismo de CDC (Change Data Capture) implementado em Progress/4GL;
- Processamento: Realizado em batch (~4h/4h) com necessidade de otimização;
- Ambiente Cloud: Amazon Web Services (AWS);
- Experiência em engenharia de dados, com forte conhecimento em arquitetura de Data Lake / Lakehouse;
- Sólido domínio de pipelines de dados em AWS e boas práticas de performance;
- Conhecimento em ingestão via CDC, especialmente com fontes Progress/4GL ou similares;
- Experiência com Data Quality, Data Observability, Governança de Dados e Data Profiling;
- Proatividade para identificar gargalos técnicos e sugerir melhorias com foco em performance e custo-benefício;
- Capacidade de atuar em equipe multidisciplinar, com bom relacionamento e comunicação.
Não possui todos os requisitos para a vaga?
Está tudo bem! Na Compass UOL, estimulamos o desenvolvimento contínuo de novos talentos e transformamos desafios em oportunidades.
Informações adicionais
#remote
"remote"
Etapas do processo
- Etapa 1: Cadastro
- Etapa 2: LLIA - Mapeamento de Stack
- Etapa 3: LLIA - Mapeamento Comportamental
- Etapa 4: Entrevista Fit Cultural
- Etapa 5: Entrevista com a Liderança/Cliente
- Etapa 6: Carta Oferta
- Etapa 7: Contratação
Become a Compasser, be part of AI/R.
Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies.
We equip our team with proprietary and external AI-driven tools to design and build digital-native platforms, integrating cutting-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets.
To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies.
We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth.
Join us and be part of the AI-driven revolution.