Prenez contact avec nous

Plan du cours

Le paysage des menaces IA

  • Pourquoi la sécurité IA est différente : non-déterminisme, raisonnement opaque, le prompt comme surface d'attaque
  • Taxonomie des attaques : au moment de l'entraînement vs inférence vs chaîne d'approvisionnement
  • Modèle de l'adversaire ML : qui attaque les systèmes IA et pourquoi

OWASP Top 10 pour les applications LLM

  • Injection de prompts : vecteurs d'attaque directs et indirects
  • Gestion insegurée des sorties et usurpation de requêtes inter-plugiciels
  • Empoisonnement des données d'entraînement et vulnérabilités de la chaîne d'approvisionnement
  • Déni de service des modèles, divulgation d'informations sensibles et agence excessive
  • Laboratoire pratique : exploitation de chaque catégorie OWASP contre une application de test

Tests d'intrusion par injection de prompts et jailbreak

  • Taxonomie des techniques d'injection : directe, indirecte, multi-tours et multimodale
  • Red-teaming automatisé avec Giskard, Garak et des outils de fuzzing personnalisés
  • Classification des jailbreaks et évaluation des défenses
  • Construction d'un environnement de red-teaming pour la test de sécurité continue des LLM

Attaques et défenses au niveau du modèle

  • Extraction de modèles : vol des poids et fonctionnalités via des requêtes API
  • Inférence d'appartenance : déterminer si des données ont été utilisées dans l'ensemble d'entraînement
  • Exemples adversariaux : perturbations qui trompent les classificateurs et les embeddings
  • Empoisonnement des données : corruption des données d'entraînement pour induire des backdoors ou dégrader les performances

Contrôles de sécurité des entrées et sorties

  • Sanitisation des entrées au-delà des défenses web traditionnelles
  • Filtrage des sorties : toxicité, fuite de données personnelles (PII), exécution de code halluciné
  • Les garde-fous (guardrails) comme infrastructure de sécurité : NeMo, Guardrails AI et politiques personnalisées
  • Application des sorties structurées comme frontière de sécurité

Sécurité de la chaîne d'approvisionnement IA

  • Provenance des modèles : vérification de l'authenticité et de l'intégrité du modèle
  • Analyse des dépendances pour les frameworks ML et les formats de modèles
  • Serving sécurisé des modèles : sandboxing, isolement réseau et accès en privilège minimum
  • Examen des modèles affinés et communautaires pour détiver du malware embarqué

Sécurité opérationnelle des systèmes IA

  • Contrôle d'accès aux points de terminaison (endpoints) des modèles, aux bases vectorielles et aux outils d'agents
  • Journalisation d'audit pour chaque interaction avec le modèle et décision prise
  • Réponse aux incidents pour les violations spécifiques à l'IA : lorsque le modèle lui-même est compromis
  • Tests de sécurité continus dans CI/CD pour les pipelines ML

Construction d'un programme de sécurité IA

  • Modèle de maturité de la sécurité IA et feuille de route
  • Intégration de la sécurité IA dans les programmes existants AppSec et cloud security
  • Cadre de gouvernance et réglementations émergentes pour les systèmes IA
  • Création et maintien d'un manuel organisationnel de sécurité IA

Pré requis

  • Expérience dans le déploiement de modèles ML ou d'applications LLM en production.
  • Connaissance des concepts de sécurité, notamment l'authentification, l'autorisation et la modélisation des menaces.
  • Maîtrise de Python pour les exercices de tests adversariaux.

Audience

  • Ingénieurs en sécurité élargissant leur expertise aux surfaces de menace IA/ML.
  • Ingénieurs ML responsables de la sûreté et de la robustesse des modèles.
  • Membres d'équipes de red-teaming incluant les systèmes IA dans leur périmètre de tests.
 14 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires