Senior AI DevOps / LLMOps
Em resumo IA
Recrutamento para um cliente de um especialista Senior em AI DevOps / LLMOps, para CI/CD de modelos e prompts, infraestrutura como código em clusters GPU, lançamentos controlados e observabilidade de endpoints de inferência. Função a tempo inteiro e remota, com inglês fluente exigido.
Descrição
- Função
- Desenhar e implementar pipelines CI/CD para IA (pesos de modelos, versionamento de datasets e código de aplicação), automatizar o PromptOps e o deployment de workflows agênticos. Provisionar e gerir ambientes de computação de alto desempenho (clusters GPU, TPU) com Terraform, Pulumi ou Ansible, definir Policy-as-Code, arquitetar lançamentos progressivos (canary, blue-green, shadowing) com gates de avaliação e monitorizar endpoints de inferência. Trabalho enquadrado por um cliente da TechBiz Global.
- Requisitos
- Kubernetes avançado, com KubeFlow, Ray ou NVIDIA Triton
- GitHub Actions ou GitLab CI, e Terraform ou Pulumi
- Experiência com Weights & Biases, MLflow, LangSmith ou Arize Phoenix
- Compreensão de virtualização de GPU, drivers CUDA e gestão de hardware on-premises
- Familiaridade com Open Policy Agent (OPA) e gestão de segredos (Vault)
- 10+ anos em DevOps, SRE ou Cloud Engineering
- 2+ anos em MLOps ou LLMOps, a levar LLMs de notebook para produção
- Experiência comprovada em ambientes Hybrid Cloud (AWS/Azure + data center privado)
- Inglês fluente
- Condições
- Contrato: não indicado
- Salário: não indicado
- Horário: tempo inteiro, remoto
- Local: remoto
- Benefícios
- não indicados
At TechBiz Global, we are providing recruitment service to our TOP clients from our portfolio. We are currently seeking an Senior AI DevOps / LLMOpsspecialist to join one of our clients' teams. If you're looking for an exciting opportunity to grow in a innovative environment, this could be the perfect fit for you.
Key Responsibilities
Automation of Build-to-Production
dataset versioning, and application code.
- Develop specialized workflows for PromptOps, ensuring that system prompts are
version-controlled, tested for regressions, and deployed with the same rigor as traditional
code.
- Automate the deployment of Agentic workflows, managing the complexities of stateful
AI interactions and multi-agent handoffs.
2. AI Infrastructure as Code (IaC)
- Provision and manage high-performance compute environments (GPU clusters, TPU
pods) using Terraform, Pulumi, or Ansible.
- Define and enforce Policy-as-Code for AI endpoints to ensure compliance with security,
cost-usage limits, and data residency requirements.
- Maintain a consistent environment across Hybrid Infrastructure, ensuring seamless
parity between On-Premises development and Cloud production.
3. Safe Experimentation & Controlled Releases
- Architect Progressive Delivery strategies for AI, including Canary releases, Blue-Green
deployments, and Shadowing (where new models run in parallel with production to
compare outputs).
- Build “Evaluation-in-the-Loop” gates within the pipeline to automatically test for bias,
hallucination, and performance degradation before a release.
- Implement A/B testing frameworks specifically designed for LLM outputs and agentic
behavior.
4. Monitoring & Observability
- Establish deep observability into Inference Endpoints, tracking metrics like tokens-per-
second, latency, and drift in model accuracy.
- Integrate feedback loops that capture production “edge cases” to feed back into the
training and fine-tuning pipelines.
Requirements
Must-Have Technical Skills:
- Orchestration: Advanced Kubernetes (K8s) skills, specifically with KubeFlow, Ray, or
NVIDIA Triton.
- CI/CD & IaC: Expertise in GitHub Actions/GitLab CI, and Terraform or Pulumi.
- AI Tooling: Experience with Weights & Biases, MLflow, LangSmith, or Arize
Phoenix.
- Hardware: Understanding of GPU virtualization, CUDA drivers, and on-premises
hardware management.
- Security: Familiarity with Open Policy Agent (OPA) and secret management (Vault).
Experience:
- 10+ years in DevOps, SRE, or Cloud Engineering.
- 2+ years of hands-on experience in MLOps or LLMOps, specifically moving LLMs
from notebook to production.
- Proven experience managing Hybrid Cloud environments (e.g., AWS/Azure + Private
Data Center).
Highlights
- full time and remote job
- fluent English is needed
Originally posted on Himalayas
Como me candidatar
Candidatar no anúncio original ↗
Preparar candidatura
Uma carta de apresentação e uma apresentação curta para esta oferta, escritas a partir do teu perfil, e o que aprender a seguir.
Entra e cria o teu perfil a partir do CV. É privado: não o partilhamos com ninguém.
Algo errado ou ilegal neste anúncio? Reportar
Ofertas semelhantes
- Senior AI Systems Engineer – Large Language Models & MLOpsITDS Portugal · Lisboa
- Senior DevOps Engineer - full remoteIT.HR Recruitment Agency
- Senior AI Systems Engineer – Production Machine Learning and LLM WorkflowsITDS Portugal · Lisboa
- Senior / Lead Machine Learning Engineer (AI & LLM Systems) - Hybrid (2 days office)HumanIT Digital Consulting · Lisboa
- Senior AI DevOps EngineerFindmore Consulting · Lisboa
- DevOpsHivex
Salário comparado ⓘ
68 ofertas · Programadores de software · teletrabalho
ver as que pagam mais →Formação para esta vaga
- DevOps with Docker & KubernetesGalileuonline · horário laboral · 28 h · 1620 € + IVA · início 15/02/2027Pedido neste anúncio: DevOps e CI/CD
- DevOps Engineering on AWSRumosonline · horário laboral · 21 h · 2100 € · início 23/11/2026Pedido neste anúncio: DevOps e CI/CD
- Agentic AI: Da Arquitetura à ImplementaçãoEDIT. – Disruptive Digital Educationonline · pós-laboral · 27 h · 650 €Pedido neste anúncio: Inteligência artificial e machine learning
Requisitos IA
Idiomas IA
Publicado em (2)
- Himalayas visto 16 nov
- TechBiz Global visto 17 nov – 20 nov
Vista pela primeira vez a 16 nov, 23:17 · última vez a 17 nov, 01:09