Plan du cours
Introduction à l'inférence IA avec Docker
- Comprendre les charges de travail d'inférence IA
- Avantages de l'inférence conteneurisée
- Scénarios et contraintes de déploiement
Construction de conteneurs d'inférence IA
- Sélection des images de base et des cadres de travail
- Empaquetage des modèles pré-entraînés
- Structuration du code d'inférence pour l'exécution en conteneur
Sécurisation des services IA conteneurisés
- Minimisation de la surface d'attaque des conteneurs
- Gestion des secrets et des fichiers sensibles
- Stratégies sûres de réseau et d'exposition d'API
Techniques de déploiement portable
- Optimisation des images pour la portabilité
- Garantie d'environnements d'exécution prévisibles
- Gestion des dépendances entre les différentes plateformes
Déploiement local et tests
- Exécution des services localement avec Docker
- Débogage des conteneurs d'inférence
- Tests de performance et de fiabilité
Déploiement sur serveurs et machines virtuelles cloud
- Adaptation des conteneurs aux environnements distants
- Configuration d'un accès serveur sécurisé
- Déploiement des API d'inférence sur des machines virtuelles cloud
Utilisation de Docker Compose pour les systèmes IA multi-services
- Orchestration de l'inférence avec les composants d'accompagnement
- Gestion des variables d'environnement et des configurations
- Échelle des microservices avec Compose
Surveillance et maintenance des services d'inférence IA
- Approches de journalisation et d'observabilité
- Détection des pannes dans les pipelines d'inférence
- Mise à jour et versioning des modèles en production
Synthèse et prochaines étapes
Pré requis
- Compréhension des concepts fondamentaux du machine learning
- Expérience en Python ou en développement back-end
- Familiarité avec les concepts de base de la conteneurisation
Public cible
- Développeurs
- Ingénieurs back-end
- Équipes déployant des services IA
Nos clients témoignent (2)
Comme je l'ai mentionné précédemment, pour quelqu'un comme moi (sans aucune expérience), cela a été une porte d'entrée pour comprendre les fonctionnalités et les capacités de ces programmes/outils, etc.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Formation - Docker and Kubernetes
Traduction automatique
programme de formation structuré et organisé en plusieurs niveaux.
Bert Paelinckx - Cube SoftwareSolutions
Formation - Introduction to Docker
Traduction automatique