cores
app
radaremprego

Machine Learning Engineer — Inference Optimization

Regimeremoto
Horáriosem indicação no anúncio
não indicado no anúnciocontrato · salário
publicado 2026-09-24 · anunciado há 59 dias ·

Em resumo IA

Engenheiro de machine learning para otimizar a latência, o débito e o custo da inferência de modelos em produção, com perfilagem de GPU/CPU e sistemas de serving. Equipa de startup em Series A, com equity.

Descrição

Função
Otimizar a latência, o débito e o custo da inferência de modelos de ML à escala. Perfilar e localizar estrangulamentos em pipelines de inferência GPU/CPU (memória, kernels, batching, IO). Implementar técnicas como quantização (fp16, bf16, int8, fp8), otimização e reutilização de KV-cache, speculative decoding, batching e streaming, poda de modelos. Colaborar com engenheiros de investigação para levar novas arquiteturas à produção. Construir e manter sistemas de serving de inferência e fazer benchmarks entre hardware (NVIDIA/AMD, CPU) e cloud.
Requisitos
  • Experiência sólida em otimização de inferência de ML ou sistemas de ML de alto desempenho
  • Bom conhecimento de internals de deep learning (attention, layout de memória, grafos de computação)
  • Experiência prática com PyTorch (ou similar) e deployment de modelos
  • Familiaridade com otimização de desempenho em GPU (CUDA, ROCm, Triton ou kernels)
  • Experiência a escalar inferência para utilizadores reais
Valorizado
  • inferência de LLM ou de modelos de contexto longo, TensorRT, ONNX Runtime, vLLM, Triton, otimização em vários fornecedores de hardware, contribuições open-source, sistemas distribuídos ou serviços de baixa latência
Condições
Contrato: não indicado
Salário: não indicado (equity mencionada)
Horário: não indicado
Local: não indicado
Benefícios
  • Equity significativa (Series A)
  • Impacto direto na fiabilidade do produto e na economia unitária
  • Colaboração próxima com investigação, infraestrutura e produto

About the Role

We’re looking for a Machine Learning Engineer to own and push the limits of model inference performance at scale. You’ll work at the intersection of research and production—turning cutting-edge models into fast, reliable, and cost-efficient systems that serve real users.

This role is ideal for someone who enjoys deep technical work, profiling systems down to the kernel/GPU level, and translating research ideas into production-grade performance gains.

What You’ll Do

  • Optimize inference latency, throughput, and cost for large-scale ML models in production

  • Profile and bottleneck GPU/CPU inference pipelines (memory, kernels, batching, IO)

  • Implement and tune techniques such as:

    • Quantization (fp16, bf16, int8, fp8)

    • KV-cache optimization & reuse

    • Speculative decoding, batching, and streaming

    • Model pruning or architectural simplifications for inference

  • Collaborate with research engineers to productionize new model architectures

  • Build and maintain inference-serving systems (e.g. Triton, custom runtimes, or bespoke stacks)

  • Benchmark performance across hardware (NVIDIA / AMD GPUs, CPUs) and cloud setups

  • Improve system reliability, observability, and cost efficiency under real workloads

What We’re Looking For

  • Strong experience in ML inference optimization or high-performance ML systems

  • Solid understanding of deep learning internals (attention, memory layout, compute graphs)

  • Hands-on experience with PyTorch (or similar) and model deployment

  • Familiarity with GPU performance tuning (CUDA, ROCm, Triton, or kernel-level optimizations)

  • Experience scaling inference for real users (not just research benchmarks)

  • Comfortable working in fast-moving startup environments with ownership and ambiguity

Nice to Have

  • Experience with LLM or long-context model inference

  • Knowledge of inference frameworks (TensorRT, ONNX Runtime, vLLM, Triton)

  • Experience optimizing across different hardware vendors

  • Open-source contributions in ML systems or inference tooling

  • Background in distributed systems or low-latency services

Why Join Us

  • Real ownership over performance-critical systems

  • Direct impact on product reliability and unit economics

  • Close collaboration with research, infra, and product

  • Competitive compensation + meaningful equity at Series A

  • A team that cares about engineering quality, not hype

Originally posted on Himalayas

Como me candidatar

Candidatar no anúncio original ↗

Preparar candidatura

Uma carta de apresentação e uma apresentação curta para esta oferta, escritas a partir do teu perfil, e o que aprender a seguir.

Entra e cria o teu perfil a partir do CV. É privado: não o partilhamos com ninguém.

Algo errado ou ilegal neste anúncio? Reportar

Fica visível enquanto analisamos. Decidimos em até 7 dias (o que é claramente ilegal, como uma burla, mais depressa) e dizemos-te o resultado e porquê.

Ofertas semelhantes

Salário comparado ⓘ

Esta ofertaMediana?4 179 €
2 763 €6 116 €

83 ofertas · Analistas de sistemas · teletrabalho

ver as que pagam mais →

Formação para esta vaga

Requisitos IA

  • experiência em otimização de inferência de ML

Idiomas IA

Publicado em (2)

Vista pela primeira vez a 17 nov, 00:20 · última vez a 21 nov, 22:32