Expert Talent Pool, Safety Testing (Expert)
Em resumo IA · um número não foi encontrado no anúncio
Integração num pool de peritos para testes de segurança de sistemas de IA: red teaming, jailbreaks, prompt injection e avaliação de equesto e vieses. Trabalho 100% remoto, em projetos de uma semana a vários meses, pago por hora trabalhada entre 75 e 175 USD.
Descrição
- Função
- Liderar campanhas de red teaming para identificar vetores de ataque em capacidades de modelos de risco elevado; desenvolver e documentar técnicas de jailbreak; testar sistemas de agentes para vulnerabilidades de prompt injection; testar modelos com ferramentas (execução de código, navegação, mensagens) para cenários de uso indevido; desenhar frameworks de testes de viés e avaliar equidade entre grupos demográficos e línguas; auditar o comportamento dos modelos face a políticas de segurança escritas; escrever diretrizes de moderação e rever o trabalho de outros moderadores; classificar achados por gravidade e recomendar correções.
- Requisitos
- Pelo menos cinco anos de experiência em testes de segurança, trust and safety, política, investigação em equidade, aprendizagem automática adversarial ou domínio afim (cyber, biológico, químico ou segurança infantil), com experiência prática em testes de segurança de IA
- Experiência a desenhar planos de teste, modelos de ameaça, planos de red team ou auditorias executadas por outros
- Experiência a liderar ou rever testers ou moderadores
- Experiência prática em testes de red teaming, jailbreaks, prompt injection ou uso indevido de ferramentas
- Capacidade de avaliar a gravidade de achados e escrever recomendações de correção claras e acionáveis
- Domínio de inglês escrito
- Valorizado
- familiaridade com Burp Suite, Garak ou PyRIT, ou conhecimento do OWASP LLM Top 10
- Condições
- Contrato: independente, por projeto (duração de uma semana a vários meses)
- Salário: 75 a 175 USD por hora, consoante projeto, área e experiência; pago pelas horas trabalhadas
- Horário: não indicado
- Local: remoto
- Benefícios
- não indicados
About the Role
Join an expert pool supporting AI safety testing projects. You will lead evaluations across security, fairness, and domain-specific safety, helping identify and address risks before AI systems are deployed.
What You'll Do
Design and lead red teaming campaigns to identify attack vectors in high-risk model capabilities.
Develop jailbreak techniques and document them for reproducibility and knowledge sharing.
Test agent systems for prompt injection vulnerabilities involving untrusted inputs.
Probe tool-enabled models, including those with code execution, browsing, or messaging capabilities, for misuse scenarios.
Design bias testing frameworks and assess fairness across demographic groups and languages.
Audit model behavior against written safety policies and report compliance gaps.
Write moderation guidelines, address edge cases, and review the work of other moderators.
Rate findings by severity and recommend fixes.
What We're Looking For
At least five years of experience in security testing, trust and safety, policy, fairness research, adversarial machine learning, or a related domain such as cyber, biological, chemical, or child safety, along with hands-on AI safety testing experience.
Experience designing test plans, threat models, red team plans, or audits that others have carried out.
Experience leading or reviewing testers or moderators.
Hands-on experience testing AI systems for red teaming, jailbreaks, prompt injection, or tool misuse.
Ability to assess finding severity and write clear, actionable remediation recommendations.
Familiarity with tools such as Burp Suite, Garak, or PyRIT, or knowledge of the OWASP LLM Top 10.
Strong written English skills and the ability to work with sensitive content within ethical guidelines.
Compensation & Benefits
Project-based compensation is $75 to $175 per hour, depending on project, field, and experience. Payment is for hours worked.
Location
Fully remote. Projects range from one week to several months.
Compensation Range: $156K - $364K
Originally posted on Himalayas
Como me candidatar
Candidatar no anúncio original ↗
Preparar candidatura
Uma carta de apresentação e uma apresentação curta para esta oferta, escritas a partir do teu perfil, e o que aprender a seguir.
Entra e cria o teu perfil a partir do CV. É privado: não o partilhamos com ninguém.
Algo errado ou ilegal neste anúncio? Reportar
Ofertas semelhantes
- Expert Talent Pool, Safety Testing (Expert, 5+ Years)Clera
- Expert Talent Pool, Safety Testing AssociateClera
- Expert Talent Pool, Evals and Benchmarks (Associate)Clera
- Expert Talent Pool, Feedback and Alignment (Associate, 0-5 Years)Clera
- Expert Talent Pool, Feedback and Alignment AssociateClera
- Expert Talent Pool, Generation and Writing (Senior)Clera
Salário comparado ⓘ
12 ofertas · Especialistas em cibersegurança e redes · teletrabalho
ver as que pagam mais →Formação para esta vaga
- SC-5009: Secure AI solutions in the cloud using Microsoft Defender for Cloud and MicrosoftRumosonline · horário laboral · 7 h · 590 € · início 26/02/2027Pedido neste anúncio: Inteligência artificial e machine learning
- SC-500: Implement end‑to‑end security controls for cloud and AI workloadsGalileuonline · horário laboral · 28 h · 1670 € + IVA · início 08/03/2027Pedido neste anúncio: Inteligência artificial e machine learning
- Pós-Graduação Online em Proteção de Dados, IA & CibersegurançaUniversidade Europeiaonline · 35 semanas · início 05/2027Pedido neste anúncio: Inteligência artificial e machine learning
Requisitos IA
- 5+ anos de experiência em segurança/trust and safety/IA adversarial
- experiência prática em testes de segurança de IA
- experiência a liderar ou rever testers ou moderadores
Idiomas IA
Publicado em (1)
- Himalayas visto 16 nov – 17 nov
Vista pela primeira vez a 16 nov, 21:50