Senior Agents Platform Engineer (x/f/m)

## Contexte Équipe ML Platform (TIGER), au sein de AI & Machine Learning chez Doctolib. L'objectif est de construire la plateforme qui permet à chaque équipe produit de déclarer un agent IA et d'obtenir par défaut un agent de production sécurisé et conforme, au service de produits comme Consultation Assistant, Phone Assistant et Health Companion. ## Missions - Détenir le manifeste et le registre d'agents : conception de la spécification déclarative unique (compétences, outils, mémoire, modèle, guardrails, sandbox, sécurité) qui branche un nouvel agent sur toute la plateforme, déclenchable depuis des surfaces produit, d'autres agents (A2A), des plannings ou des workflows - Détenir de bout en bout la passerelle GenAI (construite sur LiteLLM) : routage (y compris routage sensible au cache KV), failover, métrage, attribution des coûts, pooling de capacité réservée et guardrails, sur des fournisseurs auto-hébergés (vLLM) et managés, pour plusieurs centaines de millions de requêtes par mois - Opérer l'infrastructure des interactions d'agents longues et en streaming : fiabilité des connexions SSE/WebSocket, files d'attente et retries, validations humaines en boucle, snapshot/resume, dans un environnement d'exécution sandboxé - Construire un déploiement progressif avec feature flags pour les prompts, modèles et configurations, incluant un kill-switch d'urgence et la piste d'audit nécessaire pour que les agents agissent en sécurité sur des données de santé sensibles - Détenir la fiabilité de la plateforme d'agents de bout en bout : SLO, astreinte et réponse aux incidents, runbooks incluant le failover de fournisseurs pour la passerelle GenAI - Construire la couche d'observabilité et d'évaluation : traces et logs en ligne, évaluations hors ligne (LLM-as-judge et simulateurs de patients/praticiens) bloquantes en CI, piste d'audit de niveau conformité pour les données de santé - Valider la plateforme en livrant soi-même un ou deux agents de référence avant leur adoption par les équipes produit, et conseiller les équipes sur les choix d'architecture d'agents ## Profil recherché - 5 ans et plus d'expérience en ingénierie logicielle, avec une expérience hands-on en construction ou opération de systèmes d'agents LLM (Google ADK ou équivalent) - Bonne compréhension des patterns de conception d'agents : boucles de planification/réflexion, appel d'outils, gestion d'état et de mémoire, coordination multi-agents, validations humaines en boucle