Plan du cours
Jour 1
Anatomie d'un agent IA moderne
Au-delà des chatbots : les agents en tant que systèmes autonomes de raisonnement et d'action
Paradigmes d'agents réactifs, proactifs, hybrides et orientés vers un objectif
Composants clés : perception, planification, mémoire, utilisation d'outils, action
Arsenal de compromis entre architectures à agent unique et multi-agents
Cadres framework pour agents et pile technologique moderne
LangChain, LlamaIndex, AutoGen, CrewAI et leurs compromis respectifs
Comparaison avec les frameworks classiques tels que JADE et SPADE
Choisir un framework en fonction des exigences de production
Appels d'outils, appels de fonctions et sorties structurées
Pratique : échafaudage d'un agent Python unique avec appels d'outils
Architectures de systèmes multi-agents
Conceptions MAS centralisées, décentralisées, hybrides et en couches
FIPA ACL, passage de messages et équivalents modernes
Patterns de coordination : planification, négociation, synchronisation
Comportements émergents et auto-organisation dans les populations d'agents
Prise de décision et apprentissage chez les agents
Théorie des jeux pour les interactions coopératives et compétitives entre agents
Apprentissage par renforcement dans des environnements multi-agents
Apprentissage par transfert et partage de connaissances entre agents
Résolution des conflits et confiance entre agents coordonnés
Jour 2
Fondations multimodales pour les agents
L'IA multimodale en tant que flux de travail unifié couvrant texte, image, voix et vidéo
Modèles multimodaux leaders : GPT-4 Vision, Gemini, Claude, Whisper
Techniques de fusion pour combiner les modalités au sein de la boucle de raisonnement de l'agent
Compromis en matière de latence, de coût et de précision dans les pipelines multimodaux
Construction de la couche de perception
Traitement d'image pour agents : classification, légendage, détection d'objets
Reconnaissance vocale avec Whisper ASR et transcription en flux continu
Synthèse text-to-speech et interaction vocale naturelle
Connexion des sorties de perception au raisonnement piloté par LLM et à la sélection d'outils
Pratique - Construction d'un agent multimodal en Python
Définition de la tâche, de la fenêtre de contexte et de l'inventaire d'outils de l'agent
Connexion complète des APIs GPT-4 Vision et Whisper
Mise en œuvre de la mémoire, de l'état et de la gestion de la conversation
Ajout d'appels d'outils produisant des effets secondaires dans le monde réel de manière sûre
Pratique - Orchestration d'un système multi-agents
Composition d'agents spécialisés avec AutoGen ou CrewAI
Définition des rôles, responsabilités et protocoles de communication inter-agents
Allocation des ressources et coordination dans un environnement simulé
Journalisation du raisonnement, des appels d'outils et des décisions pour inspection et audit
Jour 3
Surface de menace des agents IA en production
Ce qui rend l'IA agentic uniqueemnt vulnérable par rapport aux logiciels traditionnels
Surface d'attaque : couches de données, modèles, prompts, outils, sorties et interfaces
Modélisation des menaces pour les systèmes basés sur des agents avec utilisation autonome d'outils
Comparaison des pratiques de cybersécurité IA avec la cybersécurité traditionnelle
Pratique - Attaques adversariales
Exemples adversariaux et méthodes de perturbation : FGSM, PGD, DeepFool
Scénarios d'attaque en boîte blanche versus boîte noire
Attaques d'inversion de modèle et d'inférence d'appartenance au jeu de données
Poisonnement des données et injection de portes dérobées lors de l'entraînement
Injection de prompts, jailbreaking et abus d'outils dans les agents basés sur LLM
Techniques défensives et durcissement des modèles
Entraînement adversarial et stratégies d'augmentation de données
Distillation défensive et autres techniques de robustesse
Prétraitement des entrées, masquage des gradients et régularisation
Vie privée différentielle, injection de bruit et budgets de confidentialité
Apprentissage fédéré et agrégation sécurisée pour l'entraînement distribué
Pratique avec la Adversarial Robustness Toolbox
Simulation d'attaques contre l'agent multimodal construit le Jour 2
Mesure de la robustesse sous perturbation et quantification de la dégradation
Application itérative des défenses et réévaluation des taux de succès des attaques
Test de charge des chemins d'appels d'outils et des vecteurs d'injection de prompts
Jour 4
Cadres de gestion des risques pour l'IA
Cadre NIST AI Risk Management Framework : gouverner, cartographier, mesurer, gérer
ISO/IEC 42001 et normes émergentes spécifiques à l'IA
Cartographie des risques IA vers les cadres GRC d'entreprise existants
Exigences en matière de responsabilité, d'audité et de documentation pour l'IA
Congrégation réglementaire pour les systèmes agentic
EU AI Act : niveaux de risque, utilisations interdites et obligations pour les systèmes à haut risque
Implications du RGPD et du CCPA pour les pipelines de données des agents
Executive Order américain sur une IA sûre, sécurisée et fiable
Conseils sectoriels spécifiques pour la finance, la santé et les services publics
Risques tiers et utilisation d'outils IA par les fournisseurs
Éthique, biais et explicabilité
Détection et atténuation des biais à travers la perception et le raisonnement des agents
Explicabilité et transparence en tant que propriétés pertinentes pour la sécurité
Équité, dommages collatéraux et déploiement responsable
Conception de comportements d'agents inclusifs et auditable
Déploiement en production, surveillance et gestion des incidents
Modes de déploiement sécurisés pour les systèmes à agent unique et multi-agents
Surveillance continue pour la dérive, les anomalies et les abus
Journalisation, pistes d'audit et préparation forensique pour les actions des agents
Cahiers de réponse aux incidents de sécurité IA et récupération
Études de cas de brèches réelles dans l'IA et leçons apprises
Projet final et synthèse
Revue du système multi-agent multimodal construit tout au long du cours
Revue du pipeline de bout en bout : conception, construction, sécurisation, gouvernance, déploiement
Auto-évaluation du système par rapport aux fonctions du NIST AI RMF
Perspective prospective sur les tendances émergentes dans l'IA agentic et la sécurité IA
Résumé et prochaines étapes
Pré requis
Public visé
Ingénieurs et architectes IA développant des systèmes agentic pour un usage en production. Professionnels de la cybersécurité, du risque et de la conformité responsables de l'assurance IA dans des secteurs réglementés tels que la finance, la santé et le conseil. Développeurs seniors et chefs de solution intégrant des capacités multimodales et multi-agents dans des plateformes d'entreprise.
Nos clients témoignent (3)
Le formateur est patient et très aidant. Il maîtrise bien le sujet.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Formation - Agentic AI for Business Automation: Use Cases & Integration
Traduction automatique
Bon mélange de connaissances et de pratique
Ion Mironescu - Facultatea S.A.I.A.P.M.
Formation - Agentic AI for Enterprise Applications
Traduction automatique
Le mélange de théorie et de pratique, ainsi que des perspectives de haut niveau et de bas niveau
Ion Mironescu - Facultatea S.A.I.A.P.M.
Formation - Autonomous Decision-Making with Agentic AI
Traduction automatique