Scala Data Engineer | Mid (Remote)

Descrição

Resumo da Vaga: O profissional irá criar workflows, implementar scripts em Python/Scala, aplicar regras de negócio, e garantir a consistência de dados usando AWS e tecnologias de governança. Principais Destaques: 1. Atuação com orquestração de processos de transformação e dados. 2. Uso de tecnologias modernas como AWS, Iceberg, ClickHouse. 3. Parte de empresa focada em IA e tecnologias avançadas. . **Responsabilidades e atribuições** * Criação de workflows para orquestração de processos de transformação; * Implementação de scripts em Python e Scala; * Aplicação de regras de negócio (ex.: exclusão de dados originados no positivo); * Garantia de consistência e integridade dos dados na camada Gold; * Utilização de AWS S3 para armazenamento e AWS EMR para processamento distribuído; * Implementação de tabelas com Iceberg para versionamento e governança; * Uso de ClickHouse como tecnologia complementar. **Requisitos e qualificações** * Proficiência em SQL; * Entendimento de modelagem de dados; * Experiência com ETL; * Experiência com cloud AWS (S3 e EMR); * Experiência com Python; * Experiência com Scala; * Conhecimento desejável: ClickHouse. Compass UOL is a global firm and part of the AI Revolution Company, together transforming organizations using Artificial Intelligence, Generative AI, and other of today’s most advanced technologies. We equip our team with proprietary and external AI\-driven tools to design and build digital\-native platforms, integrating cutting\-edge technologies and enabling companies to innovate, transform their businesses, and drive success in their markets. To achieve this, we attract and develop the best talent, creating opportunities that enhance people’s lives and highlight the positive impact of disruptive technologies. We empower borderless talent and promote knowledge and opportunities in the latest market trends, driving significant personal and professional growth. **Join us and be part of the AI\-driven revolution.**