Zeroday Cyber Academy
Bootcamp · 10 semaines · Cohorte limitée à 15

Syllabus du Bootcamp LLM Security

Dix semaines structurées pour devenir opérationnel sur la sécurité des LLM, agents IA et systèmes RAG. OWASP LLM Top 10 version 2025, prompt injection (directe et indirecte), red teaming d'agents, Model Context Protocol (MCP), conformité NIST AI Risk Management Framework, ISO 42001 et EU AI Act. 5 modules de 2 semaines, lab dédié, projet final auditable.

Rejoindre le webinaire LLM Security

Inscription via webinaire de présentation

Public visé & prérequis

Public visé

  • Profils cybersécurité confirmés (pentesters, AppSec engineers, consultants sécurité) qui veulent se positionner sur la verticale LLM Security 2026.
  • Tech leads IA ou ML engineers qui doivent porter la sécurité d'un produit LLM en interne.
  • Consultants indépendants qui veulent ajouter le red teaming LLM à leur catalogue de missions.
  • Ingénieurs sécurité interne grand compte qui doivent piloter l'audit d'applications LLM en production.

Prérequis

  • Bases solides en sécurité applicative : OWASP Top 10 web maîtrisé, à l'aise avec injection (SQL, XSS), SSRF, désérialisation.
  • Aisance dans un terminal Linux ou PowerShell et avec Docker.
  • Notions de programmation : capable de lire et écrire du Python pour exploiter ou patcher.
  • Aucune connaissance préalable de machine learning, PyTorch, transformers ou fine-tuning n'est requise.

Modalités & objectif global

Format & durée

  • Programme intensif sur 10 semaines, 5 modules de 2 semaines.
  • 1 cours live par semaine en visio (2 h).
  • 1 session de questions-réponses toutes les 2 semaines.
  • Lab dédié avec applications LLM volontairement vulnérables, disponible 24/7.
  • Slack actif 7j/7 : entraide cohorte + mentor.
  • Cohorte limitée à 15 personnes pour garantir l'interaction live et la qualité du suivi.
  • Replays disponibles pendant 12 mois.

Objectif global

  • Devenir opérationnel sur la sécurité offensive et défensive des systèmes LLM, RAG et agents IA.
  • Maîtriser OWASP LLM Top 10 (version 2025) en pratique, du jailbreak au tool poisoning.
  • Construire un projet final auditable : audit complet d'une application LLM réelle, présentable en entretien client.
  • Se positionner sur une verticale en forte demande pendant la fenêtre temporelle 2026-2027.
Semaines 1-2 · Module 01

Fondations LLM pour la sécurité

Architecture des modèles, embeddings, raisonnement, surface d'attaque réelle.

Objectifs pédagogiques

  • Comprendre comment un LLM est entraîné et comment il « raisonne » à l'inférence, du point de vue d'un attaquant.
  • Cartographier la surface d'attaque réelle d'un système LLM (entrées, sorties, contexte, mémoire, outils).
  • Acquérir le vocabulaire commun nécessaire à l'audit : tokens, embeddings, fenêtre de contexte, system prompt, function calling.
  • Différencier ce qui relève d'un risque IA vs. d'un risque applicatif classique mal placé.

Contenus & outils

  • Architecture des modèles modernes : transformer, fenêtre de contexte, mécanisme d'attention, hallucination.
  • Embeddings : génération, espace vectoriel, similarité, applications en RAG.
  • Inférence : décodage, température, top-p, déterminisme et reproductibilité.
  • Surface d'attaque LLM : entrée utilisateur, contexte injecté, sortie consommée downstream, function calling.
  • Prérequis cyber appliqué au contexte IA : ce n'est pas un cours de machine learning, c'est un cours de sécurité offensive transposée.

Modalités pédagogiques

  • Capsules vidéo + cours live hebdomadaire (2 h en visio).
  • Lab dédié avec applications LLM volontairement vulnérables.
  • Slack actif 7j/7 : entraide cohorte + mentor.

Évaluations & livrables

  • Quiz technique sur les fondations LLM.
  • Mini-exercice : décomposition de la surface d'attaque d'une application LLM fournie.
Semaines 3-4 · Module 02

OWASP LLM Top 10

Les dix risques majeurs (version 2025) en pratique : démo par risque + pattern de défense.

Objectifs pédagogiques

  • Maîtriser les dix risques majeurs identifiés par OWASP pour les applications LLM.
  • Savoir reproduire chaque vulnérabilité en lab et la corriger côté défense.
  • Construire un mapping menace / contrôle utilisable en revue d'architecture.
  • Documenter une finding LLM dans un format présentable en rapport client.

Contenus & outils

  • LLM01 Prompt injection : directe, indirecte, multi-tour, leakage de system prompt.
  • LLM02 Sensitive information disclosure : fuites de données via prompt ou contexte.
  • LLM03 Supply chain : modèles compromis, dépendances tierces malveillantes.
  • LLM04 Data and model poisoning : empoisonnement training et fine-tuning.
  • LLM05 Improper output handling : XSS, SSRF, RCE via sortie LLM non sanitizée.
  • LLM06 Excessive agency : agents avec trop de permissions, escalade via tool use.
  • LLM07 System prompt leakage : extraction du prompt initial et de ses contraintes.
  • LLM08 Vector and embedding weaknesses : vol et empoisonnement d'embeddings.
  • LLM09 Misinformation : génération de contenu factuellement faux exploité downstream.
  • LLM10 Unbounded consumption : DoS économique, abus de quotas, model extraction.

Modalités pédagogiques

  • Capsules vidéo par risque + démo live en cours hebdomadaire.
  • Lab dédié avec un scénario exploitable par risque.
  • Session Q&A bi-mensuelle (2 sessions sur ce module).

Évaluations & livrables

  • Exploitation guidée des 10 risques dans le lab.
  • Mini-rapport pour 3 risques au choix, format livrable client.

Fondations LLM + OWASP LLM Top 10 maîtrisés. Découvre le bootcamp complet en webinaire de présentation.

Rejoindre le webinaire LLM Security
Semaines 5-6 · Module 03

Sécurité des systèmes RAG

Indirect prompt injection, leak de données via la base vectorielle, EchoLeak (CVE-2025-32711) décortiqué.

Objectifs pédagogiques

  • Comprendre l'architecture d'un système RAG et ses surfaces d'attaque spécifiques.
  • Exploiter et défendre les attaques par indirect prompt injection via les sources.
  • Sécuriser une base vectorielle : isolation, contrôle d'accès, masquage de données sensibles.
  • Auditer un pipeline d'ingestion documentaire pour détecter les vecteurs d'empoisonnement.

Contenus & outils

  • Architecture RAG : ingestion, chunking, embedding, retrieval, prompt augmentation, génération.
  • Indirect prompt injection : via PDF, web scraping, emails, fichiers partagés.
  • Étude de cas EchoLeak (CVE-2025-32711) : décomposition complète du vecteur d'exfiltration.
  • Sécurité des bases vectorielles : isolation multi-tenant, contrôle d'accès au contexte, masquage PII.
  • Hardening du pipeline d'ingestion : whitelist de sources, sanitisation, scan d'antivirus, validation de format.
  • Patterns de défense : output filtering, contextual integrity, dual LLM approach.

Modalités pédagogiques

  • Capsules vidéo + cours live avec décomposition d'EchoLeak en direct.
  • Lab RAG dédié : application avec base vectorielle à attaquer puis durcir.
  • Slack actif pour les questions techniques.

Évaluations & livrables

  • Exploitation d'une indirect prompt injection via un document piégé.
  • Mini-projet : audit d'un système RAG fourni + plan de remédiation argumenté.
Semaines 7-8 · Module 04

Sécurité des agents IA et function calling

Agents autonomes, tool use, escalade de privilèges, sandboxing, Model Context Protocol (MCP), memory et tool poisoning.

Objectifs pédagogiques

  • Comprendre l'architecture des agents IA et leurs vecteurs d'attaque spécifiques.
  • Exploiter une escalade de privilèges via les fonctions exposées à un agent.
  • Sécuriser le Model Context Protocol (MCP) côté serveur et client.
  • Concevoir un sandboxing adapté à un agent qui exécute du code ou orchestre des outils.

Contenus & outils

  • Agents IA : architectures (ReAct, plan-and-execute, multi-agent), boucles de raisonnement.
  • Function calling et tool use : risques d'escalade, design des permissions, principe de moindre privilège appliqué aux agents.
  • Sandboxing : conteneurisation, restrictions filesystem, restrictions réseau, gestion des credentials par tool.
  • Model Context Protocol (MCP) : architecture, serveurs et clients, surface d'attaque, sécurisation du transport et de l'authentification.
  • Memory poisoning : injection de fausse mémoire long terme dans les agents persistants.
  • Tool poisoning : compromission ou imitation d'un tool MCP pour exfiltrer ou agir au nom de l'agent.

Modalités pédagogiques

  • Capsules vidéo + cours live avec démo agents en direct.
  • Lab agents dédié : agent vulnérable à compromettre puis durcir.
  • Session Q&A bi-mensuelle.

Évaluations & livrables

  • Exploitation d'une escalade via function calling sur un agent fourni.
  • Mini-audit d'une intégration MCP : permissions, transport, vecteurs d'attaque, recommandations.
Semaines 9-10 · Module 05

Audit et red teaming LLM

Méthodologie d'audit complet, frameworks et outillage, rédaction de rapport client, projet final auditable.

Objectifs pédagogiques

  • Conduire un audit complet d'une application LLM de bout en bout.
  • Choisir et utiliser les outils de red teaming LLM appropriés au contexte client.
  • Rédiger un rapport d'audit présentable en entretien et exploitable en mission.
  • Livrer un projet final présentable : audit complet d'un cas réel.

Contenus & outils

  • Méthodologie d'audit LLM : scoping, threat modeling, exécution, reporting, remédiation.
  • Outillage de red teaming : Garak, PyRIT, prompt fuzzing frameworks, automatisation des attaques.
  • Frameworks de référence : NIST AI Risk Management Framework, ISO 42001, EU AI Act mappés à l'audit.
  • Rédaction de rapport client : structure, criticité, exploitation reproductible, plan de remédiation.
  • Projet final : audit complet sur un cas réel auditable, présentable en entretien client.

Modalités pédagogiques

  • Capsules vidéo + cours live de revue méthodologique.
  • Lab final : application LLM complète à auditer en autonomie.
  • Restitution du projet final en cohorte avec retour mentor.

Évaluations & livrables

  • Projet final : audit complet d'une application LLM, rapport livrable.
  • Restitution orale en cohorte + retour mentor sur le rapport.

RAG, agents IA, MCP, audit complet : un programme dense sur une verticale en forte demande. Inscription via le prochain webinaire.

Rejoindre le webinaire LLM Security

Évaluation & suivi

Validation par contrôle continu sur les 5 modules + projet final auditable. Chaque module est jalonné de quiz techniques, d'exercices d'exploitation guidée et de mini-rendus format livrable client. Le projet final est conçu pour être présentable en entretien et exploitable en mission.

Évaluations continues

  • Quiz techniques + exercices d'exploitation guidée à chaque module.
  • Mini-rendus format livrable client (rapports d'audit, plans de remédiation).
  • Feedback en sessions Q&A bi-mensuelles + Slack actif 7j/7.

Projet final & validation

  • Projet final : audit complet d'une application LLM réelle, rapport livrable.
  • Restitution orale en cohorte avec retour mentor sur la méthodologie et le rapport.
  • Validation finale basée sur le contrôle continu et l'audit du projet final.
Inscription via webinaire

Prêt·e à rejoindre la prochaine cohorte ?

L'inscription au bootcamp passe par le webinaire de présentation. Vous y découvrez le programme en détail, posez vos questions et validez si la cohorte vous correspond. Cohorte limitée à 15 personnes.

Rejoindre le webinaire LLM Security