Repérée sur job-boards.eu.greenhouse.io · il y a 1 mois

Alignment Red Team - Research Engineer/Research Scientist

AI Security Institute

Lieu
London, UK (hybride), GB
Télétravail
Hybride
Contrat
Non précisé
Séniorité
Non précisé
Domaine
red_team, ia_llm

5 questions, environ 5 minutes. Résultat envoyé par email.

La candidature se fait directement auprès de l'entreprise. Zeroday Cyber Academy ne transmet aucun dossier et n'intervient pas dans le recrutement.

Poste de Research Engineer ou Research Scientist au sein de l'Alignment Red Team de l'AI Security Institute (gouvernement britannique), à Londres en mode hybride. La mission consiste à concevoir des évaluations pour détecter le désalignement de modèles d'IA frontier (désalignement trompeur, sabotage de recherche, triche) avant et après leur déploiement, puis à partager les résultats avec les laboratoires et les gouvernements. Le recrutement est ouvert de junior à principal, sans niveau unique précisé. Candidature à déposer avant le 18 octobre 2026.

Compétences techniques

  • Red teaming de modèles d'IA frontier
  • Conception d'évaluations de désalignement (alignment evaluations)
  • Recherche en sécurité de l'IA (AI safety research)
  • Analyse de comportements de triche ou de sabotage chez un modèle d'IA

Compétences comportementales

  • Rédaction de rapports de recherche à destination de décideurs
  • Collaboration avec des équipes internationales (laboratoires d'IA, gouvernements)
  • Rigueur scientifique et esprit critique

Compétences citées dans l'annonce

  • Go
  • Python

Description du poste

## About the AI Security Institute The AI Security Institute is the world's largest and best-funded team dedicated to understanding advanced AI risks and translating that knowledge into action. Based in the heart of the UK government with direct lines to No. 10 (the Prime Minister's office), working with frontier developers and governments globally. **Application deadline: 18th October 2026, end of day, anywhere on Earth.** ## Team Description Risks from misaligned AI systems are growing increasingly important as AI systems become more capable, autonomous, and integrated into society. Understanding these risks and stress-testing mitigations is crucial to ensuring advanced AI systems are developed and deployed safely and beneficially. The Alignment Red Team is a specialised subteam within AISI's wider Red Team focused on detecting and evaluating misalignment in frontier AI systems: developing techniques for finding misalignment, and running pre- and post-deployment evaluations to understand loss-of-control risks such as deceptive alignment, research sabotage, and reward-seeking. Findings are shared with frontier AI companies and the UK and allied governments to inform their deployments, research and policy-making, and directly with safety teams at frontier labs to help improve model alignment training and monitoring. The team has conducted pre-deployment testing with multiple frontier AI companies for propensities related to research sabotage, cheating, and unsanctioned cyber-attacks. It previously found that Claude models would sometimes refuse to help with benign AI safety research, an issue Anthropic then evaluated for and fixed in a later model release. ## About the Role The team is seeking Research Engineers and Research Scientists to join the Alignment Red Team. Open to hires at junior, senior, staff and principal research scientist/engineer level. *Annonce tronquée à la source : le détail complet des responsabilités et des exigences se lit sur l'offre originale.*
Voir l'annonce d'origine chez le recruteur ↗

Offres similaires

Toutes les offres d'emploi