AI Jailbreak & Prompt-Injection Security Expert
Em resumo IA
Função remota de contratado para avaliar a segurança de sistemas de IA através de red teaming, testes de jailbreak e prompt injection, criando suites de regressão e relatórios para equipas técnicas e não técnicas. Requer 2+ anos de experiência em machine learning adversarial ou segurança de LLMs.
Descrição
- Função
- Desenhar e aplicar metodologias para avaliar a segurança de sistemas de IA, incluindo jailbreaks éticos, red teaming de LLMs, prompt injection e abuso de uso de ferramentas. Criar estratégias de elicitação multi-turno, manter suites de testes de regressão, construir frameworks de avaliação e colaborar com stakeholders técnicos para transformar achados em melhorias de segurança. Documentar metodologias e resultados em relatórios e apresentações.
- Requisitos
- Mais de 2 anos de experiência em machine learning adversarial, red teaming de LLMs, avaliação de segurança de IA ou domínio de segurança relacionado
- Experiência comprovada na investigação de vulnerabilidades como jailbreaks, prompt injection ou abuso de ferramentas
- Formação avançada (PhD ou MS) em informática, cibersegurança, machine learning ou área afim, ou experiência operacional equivalente
- Boa comunicação escrita e verbal
- Valorizado
- reconhecimento na comunidade de segurança de IA (publicações, ferramentas open-source, apresentações em conferências), participação em projetos multidisciplinares, familiaridade com arquiteturas de LLM, engenharia de prompts e ferramentas de avaliação de segurança
- Condições
- Contrato: contratado independente
- Salário: não indicado
- Horário: não indicado
- Local: remoto
- Benefícios
- não indicados
Role Title: AI Jailbreak & Prompt-Injection Security Expert
Role Type: Contractor
Location: Remote
micro1 is engaging AI Jailbreak & Prompt-Injection Security Experts to contribute to a cutting-edge customer initiative focused on AI safety and robustness. In this role, you'll apply your expertise to help train next-generation AI systems. Your work will shape how models learn, reason, and perform through high-quality, real-world input. No prior experience in AI is required — your domain knowledge is what matters.
Scope of Work
- Design and implement advanced methodologies for evaluating AI system safety, focusing on ethical jailbreaks, LLM red teaming, prompt injection, and tool-use abuse scenarios.
- Create comprehensive cross-domain elicitation strategies to uncover multi-turn and complex adversarial bypass patterns in AI models.
- Develop, maintain, and update regression test suites that systematically test for jailbreak susceptibility and prompt-injection vulnerabilities.
- Construct robust evaluation frameworks that stress-test AI models against real-world adversarial threats, aiming to enhance overall system robustness.
- Collaborate with technical stakeholders to translate security findings into actionable improvements for model safety and risk mitigation.
- Document methodologies, findings, and best practices in clear, well-structured written reports and presentations for both technical and non-technical audiences.
Preferred Qualifications
- 2+ years of expertise in adversarial machine learning, LLM red teaming, AI safety evaluation, or a closely related security domain
- Proven experience researching, testing, or uncovering vulnerabilities related to ethical jailbreaks, prompt injection, tool-use abuse, or adversarial AI attacks.
- Advanced degree (PhD, MS) in computer science, cybersecurity, machine learning, or a relevant discipline, or equivalent operational/professional background.
- High credibility and recognition within the AI security or adversarial ML community—such as published research, open-source tools, or conference presentations.
- Exceptional written and verbal communication skills, with a strong focus on clear documentation and collaborative problem-solving.
- Prior participation in multi-disciplinary projects or cross-functional AI safety initiatives is a plus.
- Familiarity with current LLM architectures, prompt engineering techniques, and security assessment tools is highly desirable.
Originally posted on Himalayas
Como me candidatar
Candidatar no anúncio original ↗
Preparar candidatura
Uma carta de apresentação e uma apresentação curta para esta oferta, escritas a partir do teu perfil, e o que aprender a seguir.
Entra e cria o teu perfil a partir do CV. É privado: não o partilhamos com ninguém.
Algo errado ou ilegal neste anúncio? Reportar
Ofertas semelhantes
Salário comparado ⓘ
12 ofertas · Especialistas em cibersegurança e redes · teletrabalho
ver as que pagam mais →Formação para esta vaga
- SC-5009: Secure AI solutions in the cloud using Microsoft Defender for Cloud and MicrosoftRumosonline · horário laboral · 7 h · 590 € · início 26/02/2027Pedido neste anúncio: Inteligência artificial e machine learning
- SC-500: Implement end‑to‑end security controls for cloud and AI workloadsGalileuonline · horário laboral · 28 h · 1670 € + IVA · início 08/03/2027Pedido neste anúncio: Inteligência artificial e machine learning
- Pós-Graduação Online em Proteção de Dados, IA & CibersegurançaUniversidade Europeiaonline · 35 semanas · início 05/2027Pedido neste anúncio: Inteligência artificial e machine learning
Requisitos IA
- experiência 2+ anos em adversarial ML ou red teaming de LLMs
- experiência em jailbreaks e prompt injection
- PhD ou MS ou experiência equivalente
Publicado em (1)
- Himalayas visto 16 nov
Vista pela primeira vez a 16 nov, 23:15