Prenez contact avec nous

Plan du cours

Module 1 — Systèmes IA pour ingénieurs sécurité

Atelier : Atelier 01 — 01-Introduction

Compréhension de l'architecture.

Sujets : 

  • LLM vs applications classiques
  • Pipelines d'inférence IA
  • Flux de prompt
  • Architecture RAG
  • Embeddings / bases de données vectorielles
  • Workflows agents
  • Appels d'outils (tool calling)
  • Passerelles IA
  • Copilotes
  • MCP et protocoles agents
  • Où la visibilité WAF existe
  • Où la visibilité WAF disparaît

Conseil clé : Les WAF traditionnels perdent souvent leur visibilité une fois que le prompt atteint le modèle.

Module 2 — OWASP Top 10 GenAI

Atelier : aucun — résumé interactif / discussion

Catégories principales d'attaques IA.

Sujets : 

  • Injection de prompt
  • Gestion non sécurisée des sorties (Insecure Output Handling)
  • Empoisonnement des données d'entraînement
  • Déni de service sur le modèle (Model DoS)
  • Vulnérabilités de la chaîne d'approvisionnement
  • Divulgation d'informations sensibles
  • Agence excessive (Excessive Agency)
  • Faiblesses vectorielles / embeddings
  • Désinformation
  • Consommation non bornée (Unbounded Consumption)

Inclus : 

  • Différences par rapport à l'OWASP classique
  • Correspondance avec les contrôles défensifs (WAF, passerelle, couche applicative)
  • Où chaque contrôle est utile
  • Où chaque contrôle échoue

Module 3 — Détection de l'injection de prompt

Atelier : Atelier 02 — 02-Prompt-Injection

Le « moment injection SQL » pour l'IA.

Sujets : 

  • Injection de prompt directe
  • Injection de prompt indirecte
  • Instructions cachées
  • Attaques basées sur des documents
  • Injection HTML/Markdown
  • Schémas de jailbreak
  • Attaques par remplacement du contexte
  • Attaques de confusion de rôle

Stratégies de détection : 

  • Huristiques par mot-clé
  • Classification sémantique
  • Vérification des prompts (prompt linting)
  • Application des limites d'instruction
  • Policies autoriser/interdire
  • Motifs regex conscients de l'IA

Ateliers pratiques : 

  • Attaquer un chatbot
  • Contourner les filtres naïfs
  • Construire une détection multicouche

Module 4 — Règles WAF conscientes de l'IA

Atelier : Atelier 03 — 03-WAF-Basics

Comment les règles WAF évoluent pour les systèmes IA.

  • Sujets : 
  • Protection des extrémités LLM
  • Protection de l'API d'inférence
  • Limitation de débit consciente des tokens
  • Inspection de la taille du prompt
  • Signes distinctifs spécifiques à l'IA
  • Détection d'anomalies conversationnelles
  • Schémas d'abus multi-tours
  • Tentatives d'énumération des modèles
  • Extraction par inférence (inference scraping)
  • Protection contre le déni de portefeuille

Exemples : 

  • Protection de /v1/chat/completions
  • Défense des API streaming
  • Blocage des appels récursifs d'agents

Module 5 — Sécurisation des pipelines RAG

Atelier : Atelier 04 — 04-RAG-Security

L'une des nouvelles surfaces d'attaque les plus importantes.

Sujets : 

  • Menaces sur les bases de données vectorielles
  • Empoisonnement des embeddings
  • PDF/documents malveillants
  • Manipulation de la récupération
  • Empoisonnement sémantique
  • Instructions cachées dans les documents
  • Contamination inter-documents
  • Fuite de données via la récupération

Défenses : 

  • Sanitisation de l'ingestion
  • Note de confiance
  • Isolation des métadonnées
  • Provenance des documents
  • Policies de récupération
  • Segmentation

Étude de cas : « Téléchargez un PDF empoisonné et prenez le contrôle de l'assistant IA. »

Module 6 — Sécurité des agents IA

Atelier : Atelier 05 — 05-Agent-Security

Où les choses deviennent dangereuses.

Sujets : 

  • Agence excessive
  • Abus d'outils
  • Chaînage d'API
  • Boucles autonomes
  • Élévation de privilèges
  • Empoisonnement de la mémoire
  • Exécution indirecte d'outils
  • Usurpation d'identité par l'agent
  • Fuite d'identifiants
  • Attaques multi-agents

Défenses : 

  • Privilège minimal pour les agents
  • Points de validation (approval gates)
  • Moteurs de policies d'exécution
  • Isolation (sandboxing)
  • Identifiants scoped
  • Liste blanche des outils
  • Humain dans la boucle (human-in-the-loop)

C'est la section qui intéresse généralement le plus les managers, car le risque devient opérationnel et impacte l'entreprise.

Module 7 — Sécurité des API pour l'IA

Atelier : Atelier 06 — 06-Denial-of-Wallet

Les systèmes IA sont très orientés API.

Sujets : 

  • Passerelles API
  • Risques GraphQL pour l'IA
  • Abus MCP/API
  • Protection JWT
  • Sécurité des plugins IA
  • Authentification des agents
  • Autorisation déléguée
  • Gestion des secrets
  • Signatures de prompts
  • Inventaire API pour l'IA

Lien avec : OWASP API Security Top 10

Module 8 — Ingénierie de détection & intégration SOC

Atelier : Atelier 07 — 07-Detection

Défense opérationnelle.

Sujets : 

  • Télémétrie IA
  • Journalisation des prompts
  • Analytique des tokens
  • Détection d'anomalies
  • Pipelines SIEM sémantiques
  • Indicateurs d'attaque IA
  • Recherche de menaces pour l'abus LLM
  • Observabilité d'exécution IA

Exemples : 

  • Détection de campagnes de jailbreak
  • Identification de l'abus automatisé par des agents
  • Identification de l'extraction de modèle

Module 9 — WAF Cloud et sécurité IA

Atelier : aucun — résumé interactif / discussion

Implémentations spécifiques aux fournisseurs.

Sujets : 

  • AWS WAF pour les API IA
  • Azure WAF
  • Passerelle AI Cloudflare
  • Passerelles API
  • Filtrage AI Envoy
  • Passerelle Kong AI
  • Motifs de sécurité IA NGINX

Comparaison : 

  • WAF traditionnel vs passerelle IA vs garde-fou couche applicative
  • Filtrage basé proxy vs filtrage sémantique

Module 10 — Construction d'une défense IA multicouche

Atelier : Atelier 08 — 08-Layered-Defense

Conclusion philosophique importante : 

Aucune couche unique ne peut sécuriser l'IA (un WAF, surtout seul, ne le peut).

Les apprenants construisent un modèle multicouche : 

  1. WAF
  2. Passerelle API
  3. Passerelle IA
  4. Garde-fous
  5. Surveillance d'exécution
  6. Identité/autorité
  7. Sandbox
  8. Approbation humaine
  9. Observabilité
  10. Réponse aux incidents

Cela s'aligne fortement avec le modèle de « sécurité multicouche ».

Module ↔ Cartographie des ateliers

Les ateliers se déroulent dans l'ordre des ateliers, qui suit l'ordre des modules.

Le cours comporte 10 modules mais 8 ateliers : les Modules 2 et 9 sont des résumés interactifs / des discussions et n'ont pas d'atelier associé.

Chaque atelier est balisé avec son module tout au long de ce plan.

  • Atelier 01 (Module 1)
    • Dossier :  01-Introduction
    • Titre :  Explorer un système IA — ce qui est sur le fil
  • Atelier 02 (Module 3)
    • Dossier :  02-Prompt-Injection
    • Titre :  Attaquer un chatbot & contourner le filtrage naïf
  • Atelier 03 (Module 4)
    • Dossier :  03-WAF-Basics
    • Titre :  Construire des règles WAF conscientes de l'IA
  • Atelier 04 (Module 5)
    • Dossier :  04-RAG-Security
    • Titre :  Empoisonner un pipeline RAG
  • Atelier 05 (Module 6)
    • Dossier :  05-Agent-Security
    • Titre :  Sécuriser un agent autonome
  • Atelier 06 (Module 7)
    • Dossier :  06-Denial-of-Wallet
    • Titre :  Détecter les attaques par déni de portefeuille
  • Atelier 07 (Module 8)
    • Dossier :  07-Detection
    • Titre :  Surveiller les schémas d'abus IA dans les journaux
  • Atelier 08 (Module 10)
    • Dossier :  08-Layered-Defense
    • Titre :  Construire une architecture de défense IA multicouche

Projet final (Capstone)

Les apprenants défendent un assistant IA d'entreprise simulé.

Les attaquants tentent : 

  1. Injection de prompt
  2. Abus d'outils
  3. Vol d'identifiants
  4. Empoisonnement de la récupération
  5. Consommation excessive d'API
  6. Escalade d'agent

Les équipes construisent : 

  • Règles WAF
  • Policies de passerelle IA
  • Détection en temps réel
  • Garde-fous
  • Réponse aux incidents

Pré requis

  • Les apprenants doivent déjà comprendre la sécurité HTTP/API, les proxies/proxys inverses, l'authentification, l'OWASP Top 10, les API REST et les bases du cloud networking.

Audience cible

  • Ingénieurs sécurité & AppSec
  • Analistes SOC & ingénieurs en détection
  • Ingénieurs sécurité des API
  • Sécurité Cloud / API / plateforme
  • Ingénieurs DevSecOps
  • Architectes sécurité
  • Spécialistes WAF / sécurité réseau
  • Ingénieurs plateformes IA
 35 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (2)

Cours à venir

Catégories Similaires