Expert Talent Pool, Safety Testing (Expert, 5+ Years)
Em resumo IA · um número não foi encontrado no anúncio
Pool de especialistas para testes de segurança de IA: red teaming, jailbreaks, prompt injection e avaliação de vieses. Trabalho 100% remoto, pago à hora, com projetos de uma semana a vários meses.
Descrição
- Função
- Lidera campanhas de red teaming para identificar vetores de ataque em capacidades de modelos de alto risco. Desenvolve e documenta jailbreaks, testa agentes para prompt injection e avalia modelos com uso de ferramentas (execução de código, navegação, mensagens) para cenários de uso indevido. Desenha frameworks de testes de viés e fairness, realiza auditorias de segurança face a políticas escritas e escreve diretrizes de moderação de conteúdos.
- Requisitos
- Pelo menos 5 anos de experiência em testes de segurança, trust and safety, política, investigação em fairness, adversarial machine learning ou domínio relacionado (cyber, biológico, químico ou child safety)
- Experiência prática em testes de segurança de sistemas de IA (red teaming, jailbreaks, prompt injection, uso indevido de ferramentas)
- Experiência em desenhar planos de teste, modelos de ameaça ou auditorias executadas por outros
- Experiência em rever ou liderar testers ou moderadores
- Capacidade de classificar achados por gravidade e propor correções
- Familiaridade com Burp Suite, Garak, PyRIT ou OWASP LLM Top 10
- Inglês escrito forte e capacidade de trabalhar com conteúdos sensíveis sob diretrizes éticas claras
- Valorizado
- experiência em ferramentas de red teaming automatizado
- Condições
- Contrato: não indicado (prestação de serviços, por projeto)
- Salário: 75 a 175 USD à hora, conforme projeto, área e experiência; pago por horas trabalhadas
- Horário: não indicado
- Local: remoto
- Benefícios
- não indicados
About the Role
Join a curated expert pool supporting AI safety testing projects. You will lead evaluations across security, fairness, and specialized safety domains, helping identify and address model risks before deployment.
What You'll Do
Design and lead red teaming campaigns to identify attack vectors in high-risk model capabilities.
Develop jailbreak techniques and document them for reproducibility and knowledge sharing.
Test agents for prompt injection vulnerabilities when processing untrusted inputs.
Probe models with tool-use capabilities, including code execution, browsing, and messaging, for misuse scenarios.
Design bias testing frameworks and assess fairness across demographic groups and languages.
Conduct safety audits against written policies and document compliance gaps.
Write content moderation guidelines, review edge cases, and assess other moderators' work.
Rate finding severity and recommend appropriate fixes.
What We're Looking For
At least five years of experience in security testing, trust and safety, policy, fairness research, adversarial machine learning, or a relevant domain such as cyber, biological, chemical, or child safety, with hands-on AI safety testing experience.
Experience designing test plans, threat models, red team plans, or audits that others carried out.
Experience reviewing or leading testers or moderators.
Hands-on experience testing AI systems for red teaming, jailbreaks, prompt injection, or tool misuse.
Ability to rate findings by severity and write recommended fixes.
Familiarity with tools such as Burp Suite, Garak, or PyRIT, or with the OWASP LLM Top 10.
Strong written English and ability to work with sensitive content under clear ethical guidelines.
Compensation & Benefits
$75 to $175 per hour, depending on project, field, and experience. Payment is based on hours worked.
Location
Fully remote. Projects may range from one week to several months.
Originally posted on Himalayas
Como me candidatar
Candidatar no anúncio original ↗
Preparar candidatura
Uma carta de apresentação e uma apresentação curta para esta oferta, escritas a partir do teu perfil, e o que aprender a seguir.
Entra e cria o teu perfil a partir do CV. É privado: não o partilhamos com ninguém.
Algo errado ou ilegal neste anúncio? Reportar
Ofertas semelhantes
- Expert Talent Pool, Safety Testing (Expert)Clera
- Expert Talent Pool, Safety Testing AssociateClera
- Expert Talent Pool, Evals and Benchmarks (Associate)Clera
- Expert Talent Pool, Feedback and Alignment (Associate, 0-5 Years)Clera
- Expert Talent Pool, Generation and Writing AssociateClera
- Expert Talent Pool, Feedback and Alignment AssociateClera
Salário comparado ⓘ
12 ofertas · Especialistas em cibersegurança e redes · teletrabalho
ver as que pagam mais →Formação para esta vaga
- SC-5009: Secure AI solutions in the cloud using Microsoft Defender for Cloud and MicrosoftRumosonline · horário laboral · 7 h · 590 € · início 26/02/2027Pedido neste anúncio: Inteligência artificial e machine learning
- SC-500: Implement end‑to‑end security controls for cloud and AI workloadsGalileuonline · horário laboral · 28 h · 1670 € + IVA · início 08/03/2027Pedido neste anúncio: Inteligência artificial e machine learning
- Pós-Graduação Online em Proteção de Dados, IA & CibersegurançaUniversidade Europeiaonline · 35 semanas · início 05/2027Pedido neste anúncio: Inteligência artificial e machine learning
Requisitos IA
- testes de segurança ou trust and safety
- experiência prática em red teaming de IA
- Burp Suite, Garak, PyRIT ou OWASP LLM Top 10
Idiomas IA
Publicado em (1)
- Himalayas visto 18 nov
Vista pela primeira vez a 18 nov, 21:40