Plan du cours
Module 1 — Systèmes IA pour ingénieurs sécurité
Atelier : Atelier 01 — 01-Introduction
Compréhension de l'architecture.
Sujets :
- LLM vs applications classiques
- Pipelines d'inférence IA
- Flux de prompt
- Architecture RAG
- Embeddings / bases de données vectorielles
- Workflows agents
- Appels d'outils (tool calling)
- Passerelles IA
- Copilotes
- MCP et protocoles agents
- Où la visibilité WAF existe
- Où la visibilité WAF disparaît
Conseil clé : Les WAF traditionnels perdent souvent leur visibilité une fois que le prompt atteint le modèle.
Module 2 — OWASP Top 10 GenAI
Atelier : aucun — résumé interactif / discussion
Catégories principales d'attaques IA.
Sujets :
- Injection de prompt
- Gestion non sécurisée des sorties (Insecure Output Handling)
- Empoisonnement des données d'entraînement
- Déni de service sur le modèle (Model DoS)
- Vulnérabilités de la chaîne d'approvisionnement
- Divulgation d'informations sensibles
- Agence excessive (Excessive Agency)
- Faiblesses vectorielles / embeddings
- Désinformation
- Consommation non bornée (Unbounded Consumption)
Inclus :
- Différences par rapport à l'OWASP classique
- Correspondance avec les contrôles défensifs (WAF, passerelle, couche applicative)
- Où chaque contrôle est utile
- Où chaque contrôle échoue
Module 3 — Détection de l'injection de prompt
Atelier : Atelier 02 — 02-Prompt-Injection
Le « moment injection SQL » pour l'IA.
Sujets :
- Injection de prompt directe
- Injection de prompt indirecte
- Instructions cachées
- Attaques basées sur des documents
- Injection HTML/Markdown
- Schémas de jailbreak
- Attaques par remplacement du contexte
- Attaques de confusion de rôle
Stratégies de détection :
- Huristiques par mot-clé
- Classification sémantique
- Vérification des prompts (prompt linting)
- Application des limites d'instruction
- Policies autoriser/interdire
- Motifs regex conscients de l'IA
Ateliers pratiques :
- Attaquer un chatbot
- Contourner les filtres naïfs
- Construire une détection multicouche
Module 4 — Règles WAF conscientes de l'IA
Atelier : Atelier 03 — 03-WAF-Basics
Comment les règles WAF évoluent pour les systèmes IA.
- Sujets :
- Protection des extrémités LLM
- Protection de l'API d'inférence
- Limitation de débit consciente des tokens
- Inspection de la taille du prompt
- Signes distinctifs spécifiques à l'IA
- Détection d'anomalies conversationnelles
- Schémas d'abus multi-tours
- Tentatives d'énumération des modèles
- Extraction par inférence (inference scraping)
- Protection contre le déni de portefeuille
Exemples :
- Protection de /v1/chat/completions
- Défense des API streaming
- Blocage des appels récursifs d'agents
Module 5 — Sécurisation des pipelines RAG
Atelier : Atelier 04 — 04-RAG-Security
L'une des nouvelles surfaces d'attaque les plus importantes.
Sujets :
- Menaces sur les bases de données vectorielles
- Empoisonnement des embeddings
- PDF/documents malveillants
- Manipulation de la récupération
- Empoisonnement sémantique
- Instructions cachées dans les documents
- Contamination inter-documents
- Fuite de données via la récupération
Défenses :
- Sanitisation de l'ingestion
- Note de confiance
- Isolation des métadonnées
- Provenance des documents
- Policies de récupération
- Segmentation
Étude de cas : « Téléchargez un PDF empoisonné et prenez le contrôle de l'assistant IA. »
Module 6 — Sécurité des agents IA
Atelier : Atelier 05 — 05-Agent-Security
Où les choses deviennent dangereuses.
Sujets :
- Agence excessive
- Abus d'outils
- Chaînage d'API
- Boucles autonomes
- Élévation de privilèges
- Empoisonnement de la mémoire
- Exécution indirecte d'outils
- Usurpation d'identité par l'agent
- Fuite d'identifiants
- Attaques multi-agents
Défenses :
- Privilège minimal pour les agents
- Points de validation (approval gates)
- Moteurs de policies d'exécution
- Isolation (sandboxing)
- Identifiants scoped
- Liste blanche des outils
- Humain dans la boucle (human-in-the-loop)
C'est la section qui intéresse généralement le plus les managers, car le risque devient opérationnel et impacte l'entreprise.
Module 7 — Sécurité des API pour l'IA
Atelier : Atelier 06 — 06-Denial-of-Wallet
Les systèmes IA sont très orientés API.
Sujets :
- Passerelles API
- Risques GraphQL pour l'IA
- Abus MCP/API
- Protection JWT
- Sécurité des plugins IA
- Authentification des agents
- Autorisation déléguée
- Gestion des secrets
- Signatures de prompts
- Inventaire API pour l'IA
Lien avec : OWASP API Security Top 10
Module 8 — Ingénierie de détection & intégration SOC
Atelier : Atelier 07 — 07-Detection
Défense opérationnelle.
Sujets :
- Télémétrie IA
- Journalisation des prompts
- Analytique des tokens
- Détection d'anomalies
- Pipelines SIEM sémantiques
- Indicateurs d'attaque IA
- Recherche de menaces pour l'abus LLM
- Observabilité d'exécution IA
Exemples :
- Détection de campagnes de jailbreak
- Identification de l'abus automatisé par des agents
- Identification de l'extraction de modèle
Module 9 — WAF Cloud et sécurité IA
Atelier : aucun — résumé interactif / discussion
Implémentations spécifiques aux fournisseurs.
Sujets :
- AWS WAF pour les API IA
- Azure WAF
- Passerelle AI Cloudflare
- Passerelles API
- Filtrage AI Envoy
- Passerelle Kong AI
- Motifs de sécurité IA NGINX
Comparaison :
- WAF traditionnel vs passerelle IA vs garde-fou couche applicative
- Filtrage basé proxy vs filtrage sémantique
Module 10 — Construction d'une défense IA multicouche
Atelier : Atelier 08 — 08-Layered-Defense
Conclusion philosophique importante :
Aucune couche unique ne peut sécuriser l'IA (un WAF, surtout seul, ne le peut).
Les apprenants construisent un modèle multicouche :
- WAF
- Passerelle API
- Passerelle IA
- Garde-fous
- Surveillance d'exécution
- Identité/autorité
- Sandbox
- Approbation humaine
- Observabilité
- Réponse aux incidents
Cela s'aligne fortement avec le modèle de « sécurité multicouche ».
Module ↔ Cartographie des ateliers
Les ateliers se déroulent dans l'ordre des ateliers, qui suit l'ordre des modules.
Le cours comporte 10 modules mais 8 ateliers : les Modules 2 et 9 sont des résumés interactifs / des discussions et n'ont pas d'atelier associé.
Chaque atelier est balisé avec son module tout au long de ce plan.
- Atelier 01 (Module 1)
- Dossier : 01-Introduction
- Titre : Explorer un système IA — ce qui est sur le fil
- Atelier 02 (Module 3)
- Dossier : 02-Prompt-Injection
- Titre : Attaquer un chatbot & contourner le filtrage naïf
- Atelier 03 (Module 4)
- Dossier : 03-WAF-Basics
- Titre : Construire des règles WAF conscientes de l'IA
- Atelier 04 (Module 5)
- Dossier : 04-RAG-Security
- Titre : Empoisonner un pipeline RAG
- Atelier 05 (Module 6)
- Dossier : 05-Agent-Security
- Titre : Sécuriser un agent autonome
- Atelier 06 (Module 7)
- Dossier : 06-Denial-of-Wallet
- Titre : Détecter les attaques par déni de portefeuille
- Atelier 07 (Module 8)
- Dossier : 07-Detection
- Titre : Surveiller les schémas d'abus IA dans les journaux
- Atelier 08 (Module 10)
- Dossier : 08-Layered-Defense
- Titre : Construire une architecture de défense IA multicouche
Projet final (Capstone)
Les apprenants défendent un assistant IA d'entreprise simulé.
Les attaquants tentent :
- Injection de prompt
- Abus d'outils
- Vol d'identifiants
- Empoisonnement de la récupération
- Consommation excessive d'API
- Escalade d'agent
Les équipes construisent :
- Règles WAF
- Policies de passerelle IA
- Détection en temps réel
- Garde-fous
- Réponse aux incidents
Pré requis
- Les apprenants doivent déjà comprendre la sécurité HTTP/API, les proxies/proxys inverses, l'authentification, l'OWASP Top 10, les API REST et les bases du cloud networking.
Audience cible
- Ingénieurs sécurité & AppSec
- Analistes SOC & ingénieurs en détection
- Ingénieurs sécurité des API
- Sécurité Cloud / API / plateforme
- Ingénieurs DevSecOps
- Architectes sécurité
- Spécialistes WAF / sécurité réseau
- Ingénieurs plateformes IA
Nos clients témoignent (2)
J'ai vraiment apprécié d'apprendre sur les attaques par IA et les outils disponibles pour commencer à pratiquer et à utiliser activement pour les tests de sécurité. J'ai acquis beaucoup de connaissances que je n'avais pas au début, et le cours a répondu à mes attentes. Ma partie préférée de la formation était le navigateur Comet, et j'ai été impressionné par ce qu'il pouvait faire. C'est assurément quelque chose que je vais explorer davantage. Globalement, c'était un excellent cours et j'ai beaucoup apprécié d'apprendre le Top 10 OWASP GenAI.
Patrick Collins - Optum
Formation - OWASP GenAI Security
Traduction automatique
Les connaissances professionnelles et la manière dont il les a présentées devant nous
Miroslav Nachev - PUBLIC COURSE
Formation - Cybersecurity in AI Systems
Traduction automatique