Expert Talent Pool, Safety Testing Associate
Em resumo IA
Função remota de testador de segurança para avaliação de modelos de IA, com pagamento entre 30 e 60 dólares por hora. Exige 0 a 5 anos de experiência profissional, sem necessidade de trabalho prévio com IA.
Descrição
- Função
- Escrever prompts e conversas multi-turno para testar se os modelos seguem as diretrizes de segurança. Testar técnicas de jailbreak conhecidas e novas, registando o que funciona. Usar instruções ocultas em documentos e saídas de ferramentas para testar vulnerabilidades de prompt injection. Avaliar se modelos com acesso a código, navegadores ou email podem ser levados a ações nocivas. Comparar respostas entre grupos demográficos, nomes e idiomas para identificar possível viés. Rever respostas face às políticas escritas de segurança, sinalizar violações e classificar conteúdos como seguros ou inseguros.
- Requisitos
- 0 a 5 anos de experiência profissional
- Experiência em testes de segurança, CTFs, trust and safety, moderação de conteúdos, análise de políticas, investigação de equidade ou viés, machine learning adversarial, garantia de qualidade ou domínio cyber, biológico ou químico relevante
- Experiência em testar software, sistemas ou modelos tentando quebrá-los e documentar passos e resultados
- Experiência em aplicar políticas ou diretrizes escritas para avaliar ou classificar conteúdos ou comportamentos
- Boa escrita em inglês e hábitos de documentação cuidadosos
- Capacidade de trabalhar com conteúdos sensíveis sob diretrizes estruturadas
- Valorizado
- jailbreaks de modelos de linguagem, prompt injection, red teaming, Burp Suite, Garak, PyRIT, OWASP LLM Top 10
- Condições
- Contrato: não indicado
- Salário: 30 a 60 USD por hora, consoante projeto, área e experiência; pagamento com base nas horas trabalhadas
- Horário: não indicado
- Local: remoto
- Benefícios
- não indicados
About the Role
Join an expert network supporting AI model evaluation projects as a safety tester. You will identify and document ways AI systems can fail, helping improve model safety across projects matched to your background.
What You'll Do
Write prompts and multi-turn conversations that test whether models follow safety guidelines.
Try known and novel jailbreak techniques, and record which approaches succeed or fail.
Use hidden instructions in documents and tool outputs to test for prompt injection vulnerabilities.
Evaluate whether models using tools such as code, browsers, or email can be manipulated into harmful actions.
Compare responses across demographic groups, names, and languages to identify potential bias.
Review model responses against written safety policies and flag violations.
Label content as safe or unsafe according to project guidelines.
What We're Looking For
0 to 5 years of professional experience; prior AI data work is not required.
Experience in security testing, CTFs, trust and safety, content moderation, policy analysis, fairness or bias research, adversarial machine learning, quality assurance, or a relevant cyber, bio, or chemical domain.
Experience testing software, systems, or models by trying to break them and documenting steps and results.
Experience applying written policies or guidelines to judge or label content or behavior.
Familiarity with language model jailbreaks, prompt injection, or red teaming is useful.
Familiarity with Burp Suite, Garak, PyRIT, similar tools, or the OWASP LLM Top 10 is useful.
Strong written English, careful documentation habits, and the ability to work with sensitive content under structured guidelines.
Compensation & Benefits
Compensation is $30 to $60 per hour, depending on project, field, and experience. Payment is based on hours worked.
Location
Fully remote.
Originally posted on Himalayas
Como me candidatar
Candidatar no anúncio original ↗
Preparar candidatura
Uma carta de apresentação e uma apresentação curta para esta oferta, escritas a partir do teu perfil, e o que aprender a seguir.
Entra e cria o teu perfil a partir do CV. É privado: não o partilhamos com ninguém.
Algo errado ou ilegal neste anúncio? Reportar
Ofertas semelhantes
- Expert Talent Pool, Safety Testing (Expert)Clera
- Expert Talent Pool, Safety Testing (Expert, 5+ Years)Clera
- Expert Talent Pool, Evals and Benchmarks (Associate)Clera
- Expert Talent Pool, Feedback and Alignment AssociateClera
- Expert Talent Pool, Generation and Writing AssociateClera
- Expert Talent Pool, Feedback and Alignment (Associate, 0-5 Years)Clera
Salário comparado ⓘ
12 ofertas · Especialistas em cibersegurança e redes · teletrabalho
ver as que pagam mais →Formação para esta vaga
- Técnico Especialista em CibersegurançaServiço de Formação Profissional de Faromisto · horário laboral · 1389 h · gratuito · início 11/12/2026 · Vila Real de Santo AntónioÚtil para esta profissão: Especialistas em cibersegurança e redes
- CompTIA PenTest+ CertPrepRumosmisto · horário laboral · 7 h · 1110 € · início 11/01/2027Útil para esta profissão: Especialistas em cibersegurança e redes
- Comunicar em Inglês e Interagir no Contexto ProfissionalServiço de Formação Profissional de Viana do Casteloonline · horário laboral · 200 h · gratuito · início 04/12/2026Pedido neste anúncio: Inglês
Requisitos IA
- 0 a 5 anos de experiência profissional
- experiência em testes de segurança ou red teaming
Idiomas IA
Publicado em (1)
- Himalayas visto 18 nov
Vista pela primeira vez a 18 nov, 21:40