Member of Technical Staff, Coding Agent Research & Evaluations
Onde
Em resumo IA
Função de Member of Technical Staff em investigação e avaliação de agentes de programação, em regime remoto, a tempo inteiro. Vencimento base de 200 000 a 260 000 USD por ano.
Descrição
anúncio longo (4 444 caracteres): a IA resumiu-o; o texto integral está no separador ao lado.
- Função
- Desenhar e gerir frameworks de avaliação para agentes de programação, incluindo especificações de benchmarks, metodologias de pontuação, rubricas e padrões de qualidade. Liderar iniciativas de investigação para medir e melhorar o desempenho de modelos de programação em diversas tarefas de engenharia de software. Desenvolver datasets de alta qualidade, exemplos de referência e protocolos de avaliação. Analisar o comportamento dos modelos e os modos de falha, e construir ferramentas e infraestruturas para experimentação e pipelines de avaliação. Colaborar com investigadores, engenheiros e equipas de IA aplicada, e contribuir para relatórios técnicos e estudos de benchmarks.
- Requisitos
- Forte experiência em engenharia de software, com conhecimentos de Python, C++ ou linguagens comparáveis
- 3 ou mais anos de experiência em engenharia de software, machine learning, investigação em IA, avaliação ou áreas técnicas relacionadas
- Experiência no desenho, revisão ou validação de avaliações técnicas, benchmarks, tarefas de programação ou metodologias de avaliação
- Familiaridade com grandes modelos de linguagem, agentes de programação, reinforcement learning, avaliação de modelos ou sistemas de IA afins
- Capacidade comprovada de construir ferramentas, automatizar fluxos de trabalho e melhorar processos técnicos
- Competências analíticas sólidas e excelente comunicação escrita e oral
- Valorizado
- experiência em sistemas de IA de fronteira, avaliação de modelos, benchmarks ou datasets para machine learning em grande escala, workflows agênticos, uso de ferramentas, post-training, publicações ou contribuições open-source
- Condições
- Contrato: tempo inteiro (não indicado o tipo de vínculo ou a duração)
- Salário: base entre 200 000 e 260 000 USD por ano; elegível para compensação em capital (equity) e bónus de desempenho, sujeitos à política da empresa; cobertura de até 100% do prémio de seguro de saúde, férias pagas e plano de reforma 401(K) com contrapartida da empresa
- Horário: não indicado
- Local: remoto
- Benefícios
- Reembolso de até 100% do prémio de seguro de saúde
- Férias pagas
- Plano 401(K) com contrapartida da empresa
- Compensação em capital (equity)
- Bónus de desempenho, dependente da função e sujeito à política da empresa
Job Title: Member of Technical Staff, Coding Agent Research & Evaluations
Job Type: Full-time
Location: Remote
The Role
We are seeking a Member of Technical Staff to help advance the evaluation and development of frontier coding agents. Sitting at the intersection of AI research, software engineering, and model evaluation, you will design the benchmarks, methodologies, and data systems that shape how next-generation coding models are measured and improved.
What You'll Do
- Design and own evaluation frameworks for coding agents, including benchmark specifications, scoring methodologies, rubrics, and quality standards.
- Lead end-to-end research initiatives focused on measuring and improving coding model performance across diverse software engineering tasks.
- Develop high-quality datasets, golden examples, and evaluation protocols that enable reliable assessment of frontier coding systems.
- Analyze model behavior and failure modes, identifying systematic weaknesses and translating findings into actionable improvements for training and evaluation.
- Build tooling and infrastructure that support large-scale experimentation, data generation, review workflows, and evaluation pipelines.
- Establish best practices for coding-agent assessment, ensuring methodological rigor, reproducibility, and measurement quality.
- Partner closely with researchers, engineers, and applied AI teams to design experiments and evaluate emerging model capabilities.
- Contribute to technical reports, benchmark studies, and client-facing research initiatives that communicate model performance and insights.
What We're Looking For
- Strong software engineering background with expertise in Python, C++, or comparable programming languages.
- 3+ years of experience in software engineering, machine learning, AI research, evaluation, or related technical disciplines.
- Experience designing, reviewing, or validating technical assessments, benchmarks, coding tasks, or evaluation methodologies.
- Familiarity with large language models, coding agents, reinforcement learning, model evaluation, or related AI systems.
- Proven ability to build tooling, automate workflows, and improve technical processes through systematic experimentation.
- Strong analytical skills with the ability to investigate model behavior and derive insights from complex technical systems.
- Excellent written and verbal communication skills, including the ability to clearly articulate technical findings to diverse audiences.
- Comfortable operating in fast-moving research environments with significant ambiguity and evolving priorities.
Preferred
- Experience working on frontier AI systems, coding agents, or model evaluation research.
- Deep interest in understanding how data, evaluations, and feedback mechanisms influence model capabilities.
- Track record of independently driving ambiguous technical or research projects from conception to execution.
- Experience designing benchmarks or datasets for machine learning systems at scale.
- Familiarity with agentic workflows, tool use, reinforcement learning, or post-training methodologies.
- Publications, open-source contributions, or demonstrated technical leadership in AI, machine learning, or software engineering.
Compensation & Benefits Notice
The national pay range for this full-time position is base salary of $200,000 –$260,000 USD. All employees are eligible for equity compensation, and employees may also receive performance-based bonuses, dependent on role and subject to company policies. micro1 provides a comprehensive benefits package, including up to 100% reimbursement for health-insurance premiums, paid time off, a 401(K) plan with a company match, and additional benefits designed to support a high-performing, remote-first workforce.
micro1 is an equal opportunity employer. All qualified applicants will receive consideration for employment without regard to race, color, religion, sex (including pregnancy, sexual orientation, or gender identity), national origin, age, disability, genetic information, veteran status, or any other characteristic protected by applicable local laws, regulations and ordinances. If you need assistance and/or a reasonable accommodation during the application process, reach out to .
Our hiring process utilizes artificial intelligence tools to assist in candidate screening and assessment. Our AI tools are designed to complement, not replace, human decision-making.
Originally posted on Himalayas
Como me candidatar
Não indicado (prazo, fases do processo, data de início e contacto não são referidos; o anúncio menciona apenas que a triagem de candidatos usa ferramentas de inteligência artificial). IA
Candidatar no anúncio original ↗
Preparar candidatura
Uma carta de apresentação e uma apresentação curta para esta oferta, escritas a partir do teu perfil, e o que aprender a seguir.
Entra e cria o teu perfil a partir do CV. É privado: não o partilhamos com ninguém.
Algo errado ou ilegal neste anúncio? Reportar
Ofertas semelhantes
- Member of Technical Staff, Cortex Lab (applied AI research)micro1
- Member of Technical Staff, Medical Researchmicro1
- Member of Technical Staff, Legal Researchmicro1
- Member of Technical Staff, Robotics & Embodied AI Researchmicro1
- Member of Technical Staff, Research Engineeringmicro1
- Strategic Project Lead, AI Coding & Evaluationsmicro1
Salário comparado ⓘ
8 ofertas · Engenheiros de qualidade, testes, energia e outras especialidades · teletrabalho
ver as que pagam mais →Formação para esta vaga
- Linguagens de Programação - Programação em PythonServiço de Emprego de Portimãoonline · horário laboral · 350 h · gratuito · início 14/12/2026Pedido neste anúncio: Python
- Practical Python ProgrammingGalileuonline · horário laboral · 28 h · 1320 € + IVA · início 23/11/2026Pedido neste anúncio: Python
- Practical Data Science with PythonRumosonline · horário laboral · 28 h · 2060 € · início 18/01/2027Pedido neste anúncio: Python
Idiomas IA
Publicado em (1)
- Himalayas visto 16 nov – 17 nov
Vista pela primeira vez a 16 nov, 22:13