Plan du cours
Fondements de l'architecture pour les systèmes IA
- Couches, limites et séparation des préoccupations
- Ports et adaptateurs appliqués aux composants IA
- Scénarios d'attributs de qualité pour les fonctionnalités IA
- Registres de décisions d'architecture (ADR) en tant que gouvernance
Évolution d'une application existante
- Modernisation incrémentale plutôt que réécriture
- Placement des services IA aux côtés d'un monolithe existant
- Motifs Strangler et couche anti-corruption
- Points de raccordement d'intégration pour les API et les données existantes
Motifs d'architecture pour l'intégration de LLM
- La passerelle de modèles comme limite d'abstraction
- Intégration synchrone, asynchrone et en streaming
- Repli, dégradation et bascule de fournisseur
- Gestion de la configuration des prompts et des modèles comme actifs versionnés
Contrats, API et échange de données
- Schémas de sortie structurés et validation
- Idempotence, nouvelles tentatives et limitation de débit
- Budgets de latence et orchestration des timeouts
- Coût par requête comme contrainte d'architecture
Architecture RAG de bout en bout
- Pipeline d'ingestion, de découpage (chunking) et d'intégration (embedding)
- Étapes d'indexation, de récupération, de réorganisation et de génération
- Placement de la récupération par rapport aux services applicatifs
- Compromis et modes de défaillance à chaque étape
Bases de données vectorielles et conception de la récupération
- Stockage vectoriel géré versus auto-hébergé
- Recherche dense, creuse et hybride
- Filtrage de métadonnées et isolation par tenant
- Stratégie de ré-intégration lors des changements de modèles
Qualité de la récupération, ancrage et évaluation
- Jeu d'évaluation construit à partir de requêtes réelles
- Métriques de qualité de la récupération et des réponses
- Citation, ancrage et containement des hallucinations
- Boucles de retour vers l'index
Architectures d'agents
- Boucle d'agent et invocation d'outils
- Flux de travail déterministes versus planificateurs autonomes
- Cas où un agent est la mauvaise réponse
- Définition des responsabilités et de l'état de l'agent
Systèmes multi-agents et orchestration
- Topologies de superviseur et d'orchestrateur
- Protocoles de passation de relais et contrats de messages
- Mémoire partagée et gestion du contexte
- Comparaison de frameworks sur des critères architecturaux
Communication des services et protocoles d'outils
- Coordination par événements et par files d'attente
- Exposition d'outils via des protocoles standard
- Chorégraphies (Sagas), compensation et transactions de longue durée
- Observabilité à travers les bonds de service
Agents IA dans le flux de travail de développement
- Agents de codage au sein du pipeline de livraison
- Développement piloté par spécifications et portes de revue
- Génération de tests et contrôles de qualité automatisés
- Gardes-fous qui préservent le contrôle architectural
Gouvernance et qualité logicielle
- Revue de conception pour les fonctionnalités IA
- Gestion des changements de modèles et de prompts
- Évaluation de régression en tant qu'étape du pipeline
- Responsabilités, politiques et chemins d'approbation
Sécurité, confidentialité et gouvernance des données
- Injection de prompts et défense en profondeur
- Secrets, contrôle d'accès et privilèges minimaux
- Résidence des données, données personnelles et rétention
- Audibilité et contrôles avec intervention humaine
Scalabilité, coûts et observabilité
- Tracing à travers les chaînes d'agents
- Télémétrie des jetons et des coûts
- Mise en cache et optimisation de la latence
- Niveaux de service et gestion des incidents pour les services IA
Projet final : Architecture d'une solution propulsée par l'IA
- Vues de contexte, de composant et de déploiement
- Conception de l'orchestration de la récupération et des agents
- Plan de sécurité, de gouvernance et de coûts
- Revue par les pairs, critique et feuille de route de migration
Pré requis
- Expérience dans la conception et la maintenance de systèmes logiciels de production
- Connaissances opérationnelles des API REST et de l'intégration de services
- Familiarité avec les bases de données relationnelles et la modélisation des données
- Exposition de base aux outils ou API basés sur les LLM
Public cible
- Architectes logiciels
- Responsables techniques et ingénieurs seniors
- Responsables d'équipe d'ingénierie en charge des décisions d'architecture
Nos clients témoignent (1)
J'ai acquis des connaissances sur la bibliothèque Streamlit en Python et je vais certainement essayer de l'utiliser pour améliorer les applications de mon équipe qui sont actuellement développées avec R Shiny.
Michal Maj - XL Catlin Services SE (AXA XL)
Formation - GitHub Copilot for Developers
Traduction automatique