Plan du cours
Introduction à l'inférence AI avec Docker
- Comprendre les charges de travail d'inférence AI
- Les avantages de l'inférence conteneurisée
- Scénarios et contraintes de déploiement
Création de conteneurs d'inférence AI
- Sélection des images de base et des frameworks
- Empaquetage des modèles pré-entraînés
- Structuration du code d'inférence pour l'exécution en conteneur
Sécurisation des services AI conteneurisés
- Minimisation de la surface d'attaque des conteneurs
- Gestion des secrets et des fichiers sensibles
- Stratégies de réseau sécurisé et d'exposition API
Techniques de déploiement portable
- Optimisation des images pour la portabilité
- Assurance d'environnements de temps d'exécution prévisibles
- Gestion des dépendances entre les plateformes
Déploiement et test locaux
- Exécution de services localement avec Docker
- Débogage des conteneurs d'inférence
- Test des performances et de la fiabilité
Déploiement sur des serveurs et des VM cloud
- Adaptation des conteneurs pour les environnements à distance
- Configuration de l'accès serveur sécurisé
- Déploiement d'API d'inférence sur des VM cloud
Utilisation de Docker Compose pour les systèmes AI multi-services
- Orchestration de l'inférence avec des composants d'assistance
- Gestion des variables d'environnement et des configurations
- Évolutivité des microservices avec Compose
Surveillance et maintenance des services d'inférence AI
- Approches de journalisation et d'observabilité
- Détection des échecs dans les pipelines d'inférence
- Mise à jour et versionnement des modèles en production
Résumé et étapes suivantes
Pré requis
- Une compréhension des concepts de base de l'apprentissage automatique
- De l'expérience avec Python ou le développement back-end
- Une familiarité avec les concepts fondamentaux des conteneurs
Public cible
- Développeurs
- Ingénieurs back-end
- Équipes déployant des services AI
Nos clients témoignent (5)
L'OC est nouveau pour nous et nous avons beaucoup appris, les laboratoires étaient excellents.
sharkey dollie
Formation - OpenShift 4 for Administrators
Traduction automatique
Tres informatif et concis. Pratique pratique.
Gil Matias - FINEOS
Formation - Introduction to Docker
Traduction automatique
Labos et discussions techniques.
Dinesh Panchal - AXA XL
Formation - Advanced Docker
Traduction automatique
Cela a fourni de solides bases pour Docker et Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Formation - Docker (introducing Kubernetes)
Traduction automatique
J'ai principalement apprécié les connaissances du formateur.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Formation - Docker, Kubernetes and OpenShift for Developers
Traduction automatique