Plan du cours
Fondements du déploiement hybride de l'IA
- Comprendre les modèles de déploiement hybride, cloud et edge
- Caractéristiques des charges de travail IA et contraintes d'infrastructure
- Choisir la topologie de déploiement appropriée
Conteneurisation des charges de travail IA avec Docker
- Construire des conteneurs d'inférence GPU et CPU
- Gérer les images et les registres sécurisés
- Mettre en œuvre des environnements reproductibles pour l'IA
Déploiement de services IA sur les environnements cloud
- Exécuter l'inférence sur AWS, Azure et GCP via Docker
- Provisionner l'inférence cloud pour le service de modèles
- Sécuriser les points d'accès IA basés sur le cloud
Techniques de déploiement Edge et On-Prem
- Exécuter l'IA sur des dispositifs IoT, des passerelles et des micro-serveurs
- Runtimes légers pour les environnements edge
- Gérer la connectivité intermittente et la persistance locale
Réseau hybride et connectivité sécurisée
- Tunnels sécurisés entre edge et cloud
- Certificats, secrets et accès basé sur des jetons
- Ajustement des performances pour une inférence à faible latence
Orchestration des déploiements IA distribués
- Utiliser K3s, K8s ou une orchestration légère pour les configurations hybrides
- Découverte de services et planification des charges de travail
- Automatiser les stratégies de déploiement multi-sites
Surveillance et observabilité à travers les environnements
- Suivi des performances d'inférence à travers les différents sites
- Journalisation centralisée pour les systèmes IA hybrides
- Détection des pannes et récupération automatisée
Mise à l'échelle et optimisation des systèmes IA hybrides
- Étendre les clusters edge et les nœuds cloud
- Optimiser l'utilisation de la bande passante et le cache
- Équilibrer les charges de calcul entre cloud et edge
Synthèse et prochaines étapes
Pré requis
- Une bonne compréhension des concepts de conteneurisation
- Une expérience des opérations en ligne de commande Linux
- Une familiarité avec les workflows de déploiement de modèles IA
Public cible
- Architectes d'infrastructure
- Ingénieurs de fiabilité des sites (SRE)
- Développeurs edge et IoT
Nos clients témoignent (2)
Comme je l'ai mentionné précédemment, pour quelqu'un comme moi (sans aucune expérience), cela a été une porte d'entrée pour comprendre les fonctionnalités et les capacités de ces programmes/outils, etc.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Formation - Docker and Kubernetes
Traduction automatique
programme de formation structuré et organisé en plusieurs niveaux.
Bert Paelinckx - Cube SoftwareSolutions
Formation - Introduction to Docker
Traduction automatique