Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Durée 21 heures
Plan du cours
Fondements : Modèles de menaces pour l'IA agentique
- Types de menaces agentiques : abus, élévation de privilèges, fuite de données et risques liés à la chaîne d'approvisionnement
- Profils des adversaires et capacités des attaquants spécifiques aux agents autonomes
- Cartographie des actifs, des limites de confiance et des points de contrôle critiques pour les agents
Gouvernance, politique et gestion des risques
- Frameworks de gouvernance pour les systèmes agentiques (rôles, responsabilités, points d'approbation)
- Conception des politiques : usage acceptable, règles d'élévation, traitement des données et auditabilité
- Considérations de conformité et collecte de preuves pour les audits
Identité non humaine et authentification pour les agents
- Conception des identités pour les agents : comptes de service, JWT et identifiants à durée de vie courte
- Modèles d'accès à privilèges minimum et authentification just-in-time
- Cycle de vie des identités, rotation, délégation et stratégies de révocation
Contrôles d'accès, secrets et protection des données
- Modèles de contrôle d'accès granulaire et schémas basés sur les capacités pour les agents
- Gestion des secrets, chiffrement en transit et au repos, et minimisation des données
- Protection des sources de connaissances sensibles et des données personnelles (PII) contre l'accès non autorisé par les agents
Observabilité, audit et réponse aux incidents
- Conception de la télémétrie pour le comportement des agents : traçabilité des intentions, journaux de commandes et provenance
- Intégration SIEM, seuils d'alerte et préparation à la forensique
- Runbooks et playbooks pour les incidents liés aux agents et leur confinement
Red-teaming des systèmes agentiques
- Planification des exercices de red-teaming : périmètre, règles d'engagement et basculement sécurisé
- Techniques adverses : injection de prompts, mauvaise utilisation des outils, manipulation de la chaîne de raisonnement et abus des API
- Réalisation d'attaques contrôlées et mesure de l'exposition et de l'impact
Renforcement et atténuation
- Contrôles d'ingénierie : limitation des réponses, verrouillage des capacités et sandboxing
- Contrôles de politique et d'orchestration : flux d'approbation, boucle humaine (human-in-the-loop) et accroches de gouvernance
- Défenses au niveau du modèle et du prompt : validation des entrées, normalisation et filtres de sortie
Opérationnalisation des déploiements d'agents sûrs
- Modèles de déploiement : staging, canari et déploiement progressif pour les agents
- Contrôle des changements, pipelines de test et vérifications de sécurité avant déploiement
- Gouvernance interfonctionnelle : playbooks sécurité, juridique, produit et opérations
Projet final : Exercice Red-Team / Blue-Team
- Exécuter une attaque simulée de red-teaming contre un environnement d'agents sous sandbox
- Défendre, détecter et remédier en tant qu'équipe bleue en utilisant les contrôles et la télémétrie
- Présenter les constats, le plan de remédiation et les mises à jour des politiques
Résumé et prochaines étapes
Pré requis
- Solide base en ingénierie de la sécurité, en administration système ou en opérations cloud
- Connaissance des concepts d'IA/ML et du comportement des grands modèles de langage (LLM)
- Expérience en gestion des identités et des accès (IAM) et en conception de systèmes sécurisés
Public cible
- Ingénieurs de la sécurité et membres d'équipes de red-teaming
- Ingénieurs en opérations IA et en ingénierie de plateforme
- Responsables conformité et gestionnaires des risques
- Responsables d'ingénierie chargés des déploiements d'agents
Nos clients témoignent (1)
inventorier et identifier les différentes expositions aux risques au sein de l'IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Formation - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traduction automatique