A Bridge & Co. está buscando um(a) Engenheiro(a) de Dados Pleno para construir e sustentar os pipelines de dados do Data Hub. O profissional será responsável por todo o ciclo, desde a ingestão até a normalização, de/para e validação automatizada, garantindo a confiabilidade da base de dados antes que seja consumida pelas áreas de negócio.
Responsabilidades
- Construir e sustentar pipelines de ingestão e normalização de dados no Databricks.
- Desenvolver as rotinas de de/para e de validação automatizada dos dados.
- Garantir a confiabilidade da base de dados antes que ela seja consumida em painéis e visualizações pelas áreas de negócio.
- Criar testes automatizados de qualidade de dados e estruturar a observabilidade dos pipelines.
- Lidar com dados inconsistentes e fontes instáveis, mantendo os pipelines funcionando de forma confiável.
- Refatorar pipelines e códigos legados sempre que necessário.
- Medir e comunicar os ganhos de eficiência de cada iniciativa.
- Manter versionamento, CI/CD e documentação técnica atualizados, além de estimar prazos das entregas.