Chemical Safety Expert for AI Model Safety Audit
Onde
Em resumo IA
Contrato remoto para auditar respostas de modelos de IA a perguntas sensíveis sobre química, com entrevista obrigatória em inglês. Requer licenciatura em área relacionada e experiência mínima de 3 anos.
Descrição
anúncio longo (4 075 caracteres): a IA resumiu-o; o texto integral está no separador ao lado.
- Função
- Classificar pedidos de utilizadores como benignos, de duplo uso ou adversariais; avaliar cada resposta de três modelos como segura ou insegura, com justificação; ordenar as três respostas entre si; escrever a resposta que o modelo deveria ter dado. Para pedidos de duplo uso, indicar o que os torna sensíveis, o propósito legítimo e quem deve poder obter resposta. Criar conteúdos de treino em diversos temas e otimizar o desempenho do modelo através de avaliação e ranking de respostas. Testar os modelos quanto a imprecisões ou enviesamentos.
- Requisitos
- Licenciatura ou superior em Química, Engenharia Química, Toxicologia, SHST/EHS, Higiene Industrial, Gestão de Materiais Perigosos ou área afim
- Mínimo de 3 anos de experiência profissional em segurança química, segurança laboratorial, manuseamento de materiais perigosos, EHS, toxicologia, higiene industrial, avaliação de risco químico, conformidade regulamentar ou áreas técnicas afins
- Sólido conhecimento de perigos químicos (toxicidade, corrosividade, inflamabilidade, reatividade, incompatibilidades, vias de exposição, riscos de armazenamento, resposta a derrames, EPI, ventilação, manuseamento seguro)
- Familiaridade com fichas de dados de segurança, GHS, rotulagem, limites de exposição, avaliações de risco, procedimentos operacionais e escalonamento de incidentes
- Capacidade de rever conteúdos químicos gerados por IA quanto a exatidão técnica, alinhamento de segurança, risco de uso indevido e afirmações inventadas
- …
- Valorizado
- experiência em segurança de IA, red teaming, avaliação de modelos, moderação de conteúdos, anotação de dados, controlo de qualidade técnico ou revisão científica
- Condições
- Contrato: contrato (duração não indicada)
- Salário: não indicado
- Horário: não indicado
- Local: remoto
- Benefícios
- não indicados
Type: contract
Location: remote
Interview: Required
Interview language: English
About this role
Description
We are hiring chemists and chemical safety professionals to audit how AI models respond to sensitive questions in the field. Each task gives you a user request and the answers three different models gave to it. You classify the request (benign, dual-use or adversarial), mark each answer as safe or unsafe and say why, rank the three against each other, and write the answer the model should have given. For dual-use requests you also note what makes it sensitive, what legitimate purpose it serves, and who should be able to get an answer.
The requests are realistic: what synthetic and analytical chemists, toxicologists, industrial hygienists, process safety engineers, regulators and occasionally bad actors actually ask. Some are ordinary professional questions that models wrongly refuse, and catching those matters as much as catching the dangerous ones.
Who we're looking for
Synthetic and analytical chemists; toxicologists and pharmacologists; industrial hygienists and chemical safety/process safety professionals; CWC or chemical-security specialists; hazmat, poison-control or chemical incident responders; and chemical regulators (EPA, OSHA, HSE, OPCW-adjacent, or equivalent). Usually a relevant degree plus five or more years of professional experience. Experience with safety data sheets, exposure assessment, incident reports or regulatory review is a strong plus.
Before you apply
Open only to citizens or permanent residents of the US, UK, Canada, Australia, New Zealand and the European Union.
Your profile
Bachelor’s degree or higher in Chemistry, Chemical Engineering, Toxicology, Environmental Health & Safety, Industrial Hygiene, Hazardous Materials Management, or a closely related field; advanced degree or professional safety certification is a strong plus.
3+ years of professional experience in chemical safety, laboratory safety, hazardous materials handling, EHS, toxicology, industrial hygiene, chemical risk assessment, regulatory compliance, or related technical safety work.
Strong understanding of chemical hazards, including toxicity, corrosivity, flammability, reactivity, incompatibilities, exposure routes, storage risks, spill response principles, PPE, ventilation, and safe handling practices.
Familiarity with chemical safety documentation and frameworks such as Safety Data Sheets, GHS hazard communication, labeling, exposure limits, risk assessments, SOPs, and incident escalation procedures.
Ability to review AI-generated chemical safety content for technical accuracy, safety alignment, misuse risk, hallucinated claims, inappropriate specificity, and potentially dangerous procedural guidance.
Strong judgment in distinguishing between safe educational content and content that could enable unsafe chemical handling, synthesis, misuse, evasion, or harmful experimentation.
Excellent written English skills, with the ability to provide clear, structured feedback explaining why a response is safe, unsafe, incomplete, misleading, or technically incorrect.
High attention to detail when reviewing chemical terminology, units, concentrations, exposure assumptions, hazard classifications, safety controls, and emergency-response guidance.
Comfortable applying detailed project rubrics consistently across ambiguous or sensitive chemical safety scenarios.
Prior experience with AI safety, red-team review, model evaluation, content moderation, data annotation, technical QA, scientific review, or rubric-based evaluation is preferred.
Key responsibilities
Develop AI Training Content: Create detailed prompts in various topics and responses to guide AI learning, ensuring the models reflect a comprehensive understanding of diverse subjects.
Optimize AI Performance: Evaluate and rank AI responses to enhance the model's accuracy, fluency, and contextual relevance.
Ensure Model Integrity: Test AI models for potential inaccuracies or biases, validating their reliability across use cases.
Originally posted on Himalayas
Como me candidatar
Entrevista obrigatória em inglês. Elegibilidade restrita a cidadãos ou residentes permanentes dos EUA, Reino Unido, Canadá, Austrália, Nova Zelândia e União Europeia. Anúncio publicado originalmente no Himalayas. IA
Candidatar no anúncio original ↗
Preparar candidatura
Uma carta de apresentação e uma apresentação curta para esta oferta, escritas a partir do teu perfil, e o que aprender a seguir.
Entra e cria o teu perfil a partir do CV. É privado: não o partilhamos com ninguém.
Algo errado ou ilegal neste anúncio? Reportar
Ofertas semelhantes
- Explosives & Energetic Materials Expert for AI Safety Audit | Remote - Full TimeXperteez Technology
- STEM Expert – Chemistry & Computational Chemistry (PhD)micro1
- 🌎 STEM Expert – Chemistry & Computational Chemistry (PhD), Remote- ContractXperteez Technology
- Expert Talent Pool, Safety Testing AssociateClera
- AI Security SpecialistContinental · Vila Nova de Famalicão
- Information Security Automation AnalystIQVIA · Oeiras
Formação para esta vaga
- ISTQB® Testing with Generative AIGalileuonline · horário laboral · 14 h · 1320 € + IVA · início 09/12/2026Pedido neste anúncio: Inteligência artificial e machine learning
- Utilizar Ferramentas da Ia na OrganizaçãoServiço de Formação Profissional de Santarémonline · horário laboral · 25 h · gratuito · início 02/12/2026Pedido neste anúncio: Inteligência artificial e machine learning
- a Inteligência Artificial no QuotidianoServiço de Formação Profissional de Viana do Casteloonline · pós-laboral · 8 h · gratuito · início 03/12/2026Pedido neste anúncio: Inteligência artificial e machine learning
Requisitos IA
- licenciatura em área química ou segurança
- 3+ anos de experiência em segurança química ou EHS
Idiomas IA
Publicado em (1)
- Himalayas visto 16 nov
Vista pela primeira vez a 16 nov, 23:05