Data Engineer GCP (Google Cloud Plataform)
Onde
Em resumo IA · um número não foi encontrado no anúncio
Engenheiro de dados para desenvolver pipelines de dados na Google Cloud Platform, em regime remoto, com responsabilidade pela implementação, testes e deployments da arquitetura definida pelo Data Architect.
Descrição
- Função
- Compreender problemas de negócio e técnicos, desenvolver pipelines de dados segundo a arquitetura definida, implementar infraestrutura (sobretudo com Terraform), realizar revisões de código e testes, e acompanhar os deployments incluindo a monitorização pós-deployment. Responsável também pela manutenção e evolução de pipelines em pySpark.
- Requisitos
- Conhecimento geral da Google Cloud Platform e pelo menos 1 ano de experiência em GCP
- Pelo menos 2 anos com Apache Airflow
- Pelo menos 2 anos com Google BigQuery, incluindo otimização de tabelas e queries e desenho de arquitetura de bases de dados
- Pelo menos 1 ano com Terraform
- Valorizado
- Apache Spark (pySpark), Pub/Sub, Kafka, Google Cloud Storage, Dataflow (Apache Beam), conhecimentos gerais de Azure
- Condições
- Contrato: não indicado
- Salário: não indicado
- Horário: não indicado
- Local: remoto
- Benefícios
- não indicados
We are looking for a skilled Data Engineer to join our team. As a Data Engineer, you will be
responsible for understanding business and technological challenges, develop data pipelines
tackling those challenges, and ensuring their smooth deployment. You will as well be
responsible of the applications of standard industry and within-the-company good practices,
and the application and evolution of our various patterns. This is a remote position.
MAIN RESPONSABILITIES
• Projects understanding and Communication
o Understand problems from a user perspective and communicate to clearly
understand the issue.
o Ensure the architecture provided by the Data Architect is clearly understood by
yourself.
o Communicate with the Data Architect and your peers on the technical solution
you’re developing and communicate with the Project Manager in charge of the
project you’re working on.
• Development
o Write and communicate on new or updated interface contracts.
o Develop data pipelines based on the defined architecture.
o Ensure the regular good practices are applied.
o Deploy requested infrastructure, particularly using Terraform.
o Make peer reviews and ask to your peers to review your code when merging a
new version of the codebase.
• Testing
o Define tests with your project manager, based on the functional and technical
requirements of the pipeline you’re developing.
o Perform those tests and communicate regularly on the results.
o Regularly summarize the results of your tests in a dedicated document.
• Deployments
o Present to the Data Architect in charge of the architecture, and the Lead
DataOps, the development that was performed through our Deployment
Reviews.
o Track and communicate on any potential errors in the entire period of active
monitoring following a deployment.
o Ensure diligent application of deployment process, logging, and monitoring
strategy.
REQUESTED HARD SKILLS
• Google Cloud Platform: General knowledge of the platform and various services,
and at least one year of experience with GCP.
• Azure Cloud Platform: A general knowledge of the platform is a plus.
• Apache Airflow: At least two years of experience with the Airflow orchestrator,
experience with Google Composer is a plus.
• Google BigQuery: Extensive experience (at least 2 years) with GBQ, know how to
optimize tables and queries, and able to design database architecture. The
candidate should know more than the regular creation of tables, and should be
aware of trade-offs in developing and deploying some infrastructure versus others.
• Terraform: At least one years of experience with Terraform.
• Apache Spark: This is an optional expertise we would highly value. Some of our
pipelines are slowly being rewritten using pySpark, the Data Engineer should be
able to maintain get them evolving.
• Additional knowledge and experience that are a plus:
o Pub/Sub
o Kafka
o Google Cloud Storage
o Dataflow (or Apache Beam)
Como me candidatar
Candidatar no anúncio original ↗
Preparar candidatura
Uma carta de apresentação e uma apresentação curta para esta oferta, escritas a partir do teu perfil, e o que aprender a seguir.
Entra e cria o teu perfil a partir do CV. É privado: não o partilhamos com ninguém.
Algo errado ou ilegal neste anúncio? Reportar
Ofertas semelhantes
- Data EngineerElevus · Lisboa
- Data EngineerWelvaart · Lisboa
- Cloud Data EngineerPwC · Lisboa,Porto
- Distributed Cloud | Data EngineerDevoteam · Lisboa
- Data EngineerSOLVERDE, SA · Espinho
- Distributed Cloud | Data EngineerDevoteam · Porto
Salário comparado ⓘ
84 ofertas · Analistas de sistemas · teletrabalho
ver as que pagam mais →Formação para esta vaga
- Terraform FundamentalsRumosonline · horário laboral · 14 h · 810 € · início 18/01/2027Pedido neste anúncio: Terraform, Ansible (IaC)
- Pós-Graduação Online em Data Analytics & Big DataUniversidade Europeiaonline · 35 semanas · início 03/2027Pedido neste anúncio: Engenharia de dados (Spark, Databricks)
- DP-750: Implement data engineering solutions using Azure DatabricksGalileuonline · horário laboral · 28 h · 1670 € + IVA · início 14/12/2026Pedido neste anúncio: Engenharia de dados (Spark, Databricks)
Requisitos IA
Idiomas IA
Publicado em (1)
- act digital visto 16 nov – 20 nov
Onde a empresa está ver no mapa →
- Lisboa (Lisboa) 51 oferta(s)
- Porto (Porto) 10 oferta(s)
- Almada (Setúbal) 1 oferta(s)
- Amadora (Lisboa) 1 oferta(s)
- Braga (Braga) 1 oferta(s)
- Oeiras (Lisboa) 1 oferta(s)
- São João da Madeira (Aveiro) 1 oferta(s)
- Viseu (Viseu) 1 oferta(s)
segundo outras ofertas da empresa; consultora: o trabalho é muitas vezes nas instalações de um cliente; estas são as moradas dos escritórios da consultora.
Vista pela primeira vez a 16 nov, 22:26