Prenez contact avec nous
 Durée 21 heures

Plan du cours

Fondements : Modèles de menaces pour l'IA agentique

  • Types de menaces agentiques : abus, élévation de privilèges, fuite de données et risques liés à la chaîne d'approvisionnement
  • Profils des adversaires et capacités des attaquants spécifiques aux agents autonomes
  • Cartographie des actifs, des limites de confiance et des points de contrôle critiques pour les agents

Gouvernance, politique et gestion des risques

  • Frameworks de gouvernance pour les systèmes agentiques (rôles, responsabilités, points d'approbation)
  • Conception des politiques : usage acceptable, règles d'élévation, traitement des données et auditabilité
  • Considérations de conformité et collecte de preuves pour les audits

Identité non humaine et authentification pour les agents

  • Conception des identités pour les agents : comptes de service, JWT et identifiants à durée de vie courte
  • Modèles d'accès à privilèges minimum et authentification just-in-time
  • Cycle de vie des identités, rotation, délégation et stratégies de révocation

Contrôles d'accès, secrets et protection des données

  • Modèles de contrôle d'accès granulaire et schémas basés sur les capacités pour les agents
  • Gestion des secrets, chiffrement en transit et au repos, et minimisation des données
  • Protection des sources de connaissances sensibles et des données personnelles (PII) contre l'accès non autorisé par les agents

Observabilité, audit et réponse aux incidents

  • Conception de la télémétrie pour le comportement des agents : traçabilité des intentions, journaux de commandes et provenance
  • Intégration SIEM, seuils d'alerte et préparation à la forensique
  • Runbooks et playbooks pour les incidents liés aux agents et leur confinement

Red-teaming des systèmes agentiques

  • Planification des exercices de red-teaming : périmètre, règles d'engagement et basculement sécurisé
  • Techniques adverses : injection de prompts, mauvaise utilisation des outils, manipulation de la chaîne de raisonnement et abus des API
  • Réalisation d'attaques contrôlées et mesure de l'exposition et de l'impact

Renforcement et atténuation

  • Contrôles d'ingénierie : limitation des réponses, verrouillage des capacités et sandboxing
  • Contrôles de politique et d'orchestration : flux d'approbation, boucle humaine (human-in-the-loop) et accroches de gouvernance
  • Défenses au niveau du modèle et du prompt : validation des entrées, normalisation et filtres de sortie

Opérationnalisation des déploiements d'agents sûrs

  • Modèles de déploiement : staging, canari et déploiement progressif pour les agents
  • Contrôle des changements, pipelines de test et vérifications de sécurité avant déploiement
  • Gouvernance interfonctionnelle : playbooks sécurité, juridique, produit et opérations

Projet final : Exercice Red-Team / Blue-Team

  • Exécuter une attaque simulée de red-teaming contre un environnement d'agents sous sandbox
  • Défendre, détecter et remédier en tant qu'équipe bleue en utilisant les contrôles et la télémétrie
  • Présenter les constats, le plan de remédiation et les mises à jour des politiques

Résumé et prochaines étapes

Pré requis

  • Solide base en ingénierie de la sécurité, en administration système ou en opérations cloud
  • Connaissance des concepts d'IA/ML et du comportement des grands modèles de langage (LLM)
  • Expérience en gestion des identités et des accès (IAM) et en conception de systèmes sécurisés

Public cible

  • Ingénieurs de la sécurité et membres d'équipes de red-teaming
  • Ingénieurs en opérations IA et en ingénierie de plateforme
  • Responsables conformité et gestionnaires des risques
  • Responsables d'ingénierie chargés des déploiements d'agents

Nombre de participants


Prix par participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires