Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Plan du cours
Le paysage des menaces IA
- Pourquoi la sécurité IA est différente : non-déterminisme, raisonnement opaque, le prompt comme surface d'attaque
- Taxonomie des attaques : au moment de l'entraînement vs inférence vs chaîne d'approvisionnement
- Modèle de l'adversaire ML : qui attaque les systèmes IA et pourquoi
OWASP Top 10 pour les applications LLM
- Injection de prompts : vecteurs d'attaque directs et indirects
- Gestion insegurée des sorties et usurpation de requêtes inter-plugiciels
- Empoisonnement des données d'entraînement et vulnérabilités de la chaîne d'approvisionnement
- Déni de service des modèles, divulgation d'informations sensibles et agence excessive
- Laboratoire pratique : exploitation de chaque catégorie OWASP contre une application de test
Tests d'intrusion par injection de prompts et jailbreak
- Taxonomie des techniques d'injection : directe, indirecte, multi-tours et multimodale
- Red-teaming automatisé avec Giskard, Garak et des outils de fuzzing personnalisés
- Classification des jailbreaks et évaluation des défenses
- Construction d'un environnement de red-teaming pour la test de sécurité continue des LLM
Attaques et défenses au niveau du modèle
- Extraction de modèles : vol des poids et fonctionnalités via des requêtes API
- Inférence d'appartenance : déterminer si des données ont été utilisées dans l'ensemble d'entraînement
- Exemples adversariaux : perturbations qui trompent les classificateurs et les embeddings
- Empoisonnement des données : corruption des données d'entraînement pour induire des backdoors ou dégrader les performances
Contrôles de sécurité des entrées et sorties
- Sanitisation des entrées au-delà des défenses web traditionnelles
- Filtrage des sorties : toxicité, fuite de données personnelles (PII), exécution de code halluciné
- Les garde-fous (guardrails) comme infrastructure de sécurité : NeMo, Guardrails AI et politiques personnalisées
- Application des sorties structurées comme frontière de sécurité
Sécurité de la chaîne d'approvisionnement IA
- Provenance des modèles : vérification de l'authenticité et de l'intégrité du modèle
- Analyse des dépendances pour les frameworks ML et les formats de modèles
- Serving sécurisé des modèles : sandboxing, isolement réseau et accès en privilège minimum
- Examen des modèles affinés et communautaires pour détiver du malware embarqué
Sécurité opérationnelle des systèmes IA
- Contrôle d'accès aux points de terminaison (endpoints) des modèles, aux bases vectorielles et aux outils d'agents
- Journalisation d'audit pour chaque interaction avec le modèle et décision prise
- Réponse aux incidents pour les violations spécifiques à l'IA : lorsque le modèle lui-même est compromis
- Tests de sécurité continus dans CI/CD pour les pipelines ML
Construction d'un programme de sécurité IA
- Modèle de maturité de la sécurité IA et feuille de route
- Intégration de la sécurité IA dans les programmes existants AppSec et cloud security
- Cadre de gouvernance et réglementations émergentes pour les systèmes IA
- Création et maintien d'un manuel organisationnel de sécurité IA
Pré requis
- Expérience dans le déploiement de modèles ML ou d'applications LLM en production.
- Connaissance des concepts de sécurité, notamment l'authentification, l'autorisation et la modélisation des menaces.
- Maîtrise de Python pour les exercices de tests adversariaux.
Audience
- Ingénieurs en sécurité élargissant leur expertise aux surfaces de menace IA/ML.
- Ingénieurs ML responsables de la sûreté et de la robustesse des modèles.
- Membres d'équipes de red-teaming incluant les systèmes IA dans leur périmètre de tests.
14 Heures