Plan du cours
Fondements des systèmes agentiques en production
- Architectures agentiques : boucles, outils, mémoire et couches d'orchestration
- Cycle de vie des agents : développement, déploiement et exploitation continue
- Défis de la gestion des agents à l'échelle de la production
Infrastructures et modèles de déploiement
- Déploiement d'agents dans des environnements conteneurisés et cloud
- Modèles de mise à l'échelle : horizontal vs vertical, concurrence et régulation du débit
- Orchestration multi-agents et équilibrage des charges de travail
Surveillance et observabilité
- Métriques clés : latence, taux de réussite, utilisation de la mémoire et profondeur des appels d'agents
- Suivi de l'activité des agents et des graphes d'appels
- Instrumentation de l'observabilité à l'aide de Prometheus, OpenTelemetry et Grafana
Journalisation, audit et conformité
- Journalisation centralisée et collecte d'événements structurés
- Conformité et audibilité dans les flux de travail agentiques
- Conception des pistes d'audit et des mécanismes de relecture pour le débogage
Optimisation des performances et des ressources
- Réduction des surcoûts d'inférence et optimisation des cycles d'orchestration des agents
- Mise en cache des modèles et intégrations légères pour une récupération plus rapide
- Tests de charge et scénarios de stress pour les pipelines IA
Contrôle des coûts et gouvernance
- Compréhension des facteurs de coûts des agents : appels API, mémoire, calcul et intégrations externes
- Suivi des coûts au niveau de l'agent et mise en œuvre de modèles de répartition des coûts
- Politiques d'automatisation pour prévenir la prolifération d'agents et la consommation de ressources inactives
Stratégies CI/CD et de déploiement pour les agents
- Intégration des pipelines d'agents dans les systèmes CI/CD
- Tests, gestion des versions et stratégies de retour arrière pour les mises à jour itératives des agents
- Déploiements progressifs et mécanismes de déploiement sécurisés
Récupération après panne et ingénierie de la fiabilité
- Conception pour la tolérance aux pannes et la dégradation gracieuse
- Modèles de nouvelle tentative, d'expiration et de disjoncteur pour la fiabilité des agents
- Réponse aux incidents et cadres d'analyse post-mortem pour l'exploitation de l'IA
Projet final (capstone)
- Conception et déploiement d'un système d'IA agentique avec surveillance et suivi des coûts complets
- Simulation de la charge, mesure des performances et optimisation de l'utilisation des ressources
- Présentation de l'architecture finale et du tableau de bord de surveillance aux pairs
Résumé et prochaines étapes
Pré requis
- Bonne compréhension du MLOps et des systèmes de machine learning en production
- Expérience avec les déploiements conteneurisés (Docker/Kubernetes)
- Familiarité avec l'optimisation des coûts cloud et les outils d'observabilité
Public cible
- Ingénieurs MLOps
- Ingénieurs de fiabilité des sites (SRE)
- Chefs d'équipe en charge de l'infrastructure IA
Nos clients témoignent (3)
Le formateur est patient et très aidant. Il maîtrise bien le sujet.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Formation - Agentic AI for Business Automation: Use Cases & Integration
Traduction automatique
Bon mélange de connaissances et de pratique
Ion Mironescu - Facultatea S.A.I.A.P.M.
Formation - Agentic AI for Enterprise Applications
Traduction automatique
Le mélange de théorie et de pratique, ainsi que des perspectives de haut niveau et de bas niveau
Ion Mironescu - Facultatea S.A.I.A.P.M.
Formation - Autonomous Decision-Making with Agentic AI
Traduction automatique