Prenez contact avec nous

Plan du cours

Jour 1
Anatomie d'un Agent IA Moderne

Au-delà des chatbots : les agents en tant que systèmes autonomes de raisonnement et d'action

Paradigmes des agents réactifs, proactifs, hybrides et orientés objectifs

Composants clés : perception, planification, mémoire, utilisation d'outils, action

Arsitekture et compromis entre agents uniques et multi-agents

Frameworks d'Agents et la Stack Moderne

LangChain, LlamaIndex, AutoGen, CrewAI et leurs compromis

Comparaison avec des frameworks classiques tels que JADE et SPADE

Choix d'un framework en fonction des exigences de production

Appels d'outils, appels de fonctions et sorties structurées

Pratique : scaffolding d'un agent Python unique avec des appels d'outils

Architectures de Systèmes Multi-Agents

Conceptions de MAS (Multi-Agent Systems) centralisées, décentralisées, hybrides et en couches

FIPA ACL, passage de messages et équivalents modernes

Modèles de coordination : planification, négociation, synchronisation

Comportement émergent et auto-organisation dans les populations d'agents

Prise de Décision et Apprentissage dans les Agents

Théorie des jeux pour les interactions coopératives et compétitives entre agents

Apprentissage par renforcement dans les environnements multi-agents

Apprentissage par transfert et partage de connaissances entre agents

Résolution de conflits et confiance entre agents coordonnés

Jour 2
Fondements Multi-Modaux pour les Agents

L'IA multi-modale comme flux de travail unifié couvrant texte, image, voix et vidéo

Modèles multi-modaux leaders : GPT-4 Vision, Gemini, Claude, Whisper

Techniques de fusion pour combiner les modalités dans la boucle de raisonnement de l'agent

Compromis en matière de latence, coût et précision dans les pipelines multi-modaux

Construction de la Couche de Perception

Traitement d'images pour les agents : classification, légendage, détection d'objets

Reconnaissance vocale avec Whisper ASR et transcription en streaming

Synthèse text-to-speech et interaction vocale naturelle

Connexion des sorties de perception au raisonnement piloté par LLM et à la sélection d'outils

Pratique - Construction d'un Agent Multi-Modale en Python

Définir la tâche de l'agent, la fenêtre de contexte et l'inventaire d'outils

Branchement des APIs GPT-4 Vision et Whisper de bout en bout

Mise en œuvre de la mémoire, de l'état et de la gestion des conversations

Ajout d'appels d'outils produisant des effets secondaires réels en toute sécurité

Pratique - Orchestration d'un Système Multi-Agent

Composition d'agents spécialisés avec AutoGen ou CrewAI

Définition des rôles, responsabilités et protocoles de communication inter-agents

Allocation des ressources et coordination dans un environnement simulé

Journalisation du raisonnement de l'agent, des appels d'outils et des décisions pour inspection et audit

Jour 3
Surface de Menace des Agents IA en Production

Ce qui rend l'IA agentic uniqueent vulnérable par rapport aux logiciels traditionnels

Surface d'attaque : couches de données, modèle, prompt, outil, sortie et interface

Modélisation des menaces pour les systèmes basés sur des agents avec utilisation autonome d'outils

Comparaison des pratiques de cybersécurité IA avec la cybersécurité traditionnelle

Attaques Adversariales Pratique

Exemples adversariaux et méthodes de perturbation : FGSM, PGD, DeepFool

Scénarios d'attaque en boîte blanche versus boîte noire

Attaques d'inversion de modèle et d'inférence d'appartenance

Empoisonnement des données et injection de portes dérobées pendant l'entraînement

Injection de prompt, jailbreaking et mauvaise utilisation des outils dans les agents basés sur LLM

Techniques Défensives et Durcissement du Modèle

Stratégies d'entraînement adversarial et d'augmentation de données

Distillation défensive et autres techniques de robustesse

Prétraitement des entrées, masquage de gradient et régularisation

Vie privée différentielle, injection de bruit et budgets de confidentialité

Apprentissage fédéré et agrégation sécurisée pour l'entraînement distribué

Pratique avec l'Adversarial Robustness Toolbox

Simulation d'attaques contre l'agent multi-modale construit au Jour 2

Mesure de la robustesse sous perturbation et quantification de la dégradation

Application itérative des défenses et réévaluation des taux de réussite des attaques

Tests de stress des chemins d'appels d'outils et des vecteurs d'injection de prompt

Jour 4
Cadres de Gestion des Risques pour l'IA

Cadre NIST AI Risk Management Framework : gouverner, cartographier, mesurer, gérer

ISO/IEC 42001 et normes émergentes spécifiques à l'IA

Cartographie des risques IA vers les cadres GRC (Gouvernance, Risques et Conformité) d'entreprise existants

Exigences de responsabilisation, d'auditabilité et de documentation de l'IA

Conformité Réglementaire pour les Systèmes Agentic

Règlement européen sur l'IA (AI Act) : niveaux de risque, utilisations interdites et obligations pour les systèmes à haut risque

Implications du RGPD et de la CCPA pour les pipelines de données des agents

Executive Order américain sur une IA sûre, sécurisée et digne de confiance

Directives sectorielles pour la finance, la santé et les services publics

Risques tiers et utilisation d'outils IA par les fournisseurs

Éthique, Biais et Explicabilité

Détection et atténuation des biais à travers la perception et le raisonnement des agents

Explicabilité et transparence en tant que propriétés pertinentes pour la sécurité

Équité, préjudices en aval et déploiement responsable

Conception de comportements d'agents inclusifs et auditables

Déploiement en Production, Surveillance et Gestion des Incidents

Modèles de déploiement sécurisé pour les systèmes à agent unique et multi-agents

Surveillance continue pour la dérive, les anomalies et les abus

Journalisation, traces d'audit et préparation_forensique pour les actions des agents

Plans d'intervention pour les incidents de sécurité IA et récupération

Études de cas de brèches IA réelles et enseignements tirés

Projet Final et Synthèse

Revue du système multi-agent multi-modale construit tout au long du cours

Revue du pipeline de bout en bout : conception, construction, sécurisation, gouvernance, déploiement

Auto-évaluation du système par rapport aux fonctions du NIST AI RMF

Perspectives sur les tendances émergentes dans l'IA agentic et la sécurité de l'IA

Résumé et Prochaines Étapes

Pré requis

Public Cible

Ingénieurs et architectes IA développant des systèmes agentic pour un usage en production. Professionnels de la cybersécurité, des risques et de la conformité responsables de l'assurance IA dans des secteurs réglementés tels que la finance, la santé et le conseil. Développeurs seniors et chefs de solution intégrant des capacités multi-modales et multi-agents dans des plateformes d'entreprise.

 28 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (3)

Cours à venir

Catégories Similaires