Plan du cours
Introduction à l'inférence AI avec Docker
- Comprendre les charges de travail d'inférence AI
- Les avantages de l'inférence conteneurisée
- Scénarios et contraintes de déploiement
Création de conteneurs d'inférence AI
- Sélection des images de base et des frameworks
- Empaquetage des modèles pré-entraînés
- Structuration du code d'inférence pour l'exécution en conteneur
Sécurisation des services AI conteneurisés
- Minimisation de la surface d'attaque des conteneurs
- Gestion des secrets et des fichiers sensibles
- Stratégies de réseau sécurisé et d'exposition API
Techniques de déploiement portable
- Optimisation des images pour la portabilité
- Assurance d'environnements de temps d'exécution prévisibles
- Gestion des dépendances entre les plateformes
Déploiement et test locaux
- Exécution de services localement avec Docker
- Débogage des conteneurs d'inférence
- Test des performances et de la fiabilité
Déploiement sur des serveurs et des VM cloud
- Adaptation des conteneurs pour les environnements à distance
- Configuration de l'accès serveur sécurisé
- Déploiement d'API d'inférence sur des VM cloud
Utilisation de Docker Compose pour les systèmes AI multi-services
- Orchestration de l'inférence avec des composants d'assistance
- Gestion des variables d'environnement et des configurations
- Évolutivité des microservices avec Compose
Surveillance et maintenance des services d'inférence AI
- Approches de journalisation et d'observabilité
- Détection des échecs dans les pipelines d'inférence
- Mise à jour et versionnement des modèles en production
Résumé et étapes suivantes
Pré requis
- Une compréhension des concepts de base de l'apprentissage automatique
- De l'expérience avec Python ou le développement back-end
- Une familiarité avec les concepts fondamentaux des conteneurs
Public cible
- Développeurs
- Ingénieurs back-end
- Équipes déployant des services AI
Nos clients témoignent (2)
Comment les formateurs transmettent-ils efficacement leurs connaissances
Vu Thoai Le - Reply Polska sp. z o. o.
Formation - Certified Kubernetes Administrator (CKA) - exam preparation
Traduction automatique
le formateur avait beaucoup de connaissances et de patience à partager avec nous
Bogdan Olaru
Formation - Introduction to Docker
Traduction automatique