Plan du cours
Introduction à l'inférence IA avec Docker
- Compréhension des charges de travail d'inférence IA
- Avantages de l'inférence conteneurisée
- Scénarios et contraintes de déploiement
Création de conteneurs d'inférence IA
- Sélection des images de base et des frameworks
- Emballage des modèles pré-entraînés
- Structuration du code d'inférence pour l'exécution dans un conteneur
Sécurisation des services IA conteneurisés
- Réduction de la surface d'attaque des conteneurs
- Gestion des secrets et des fichiers sensibles
- Stratégies sécurisées pour le réseau et l'exposition des API
Techniques de déploiement portable
- Optimisation des images pour la portabilité
- Garantir la cohérence des environnements d'exécution
- Gestion des dépendances entre plateformes
Déploiement local et tests
- Exécution des services en local avec Docker
- Débogage des conteneurs d'inférence
- Tests de performance et de fiabilité
Déploiement sur les serveurs et les machines virtuelles cloud
- Adaptation des conteneurs aux environnements distants
- Configuration de l'accès sécurisé au serveur
- Déploiement des API d'inférence sur des machines virtuelles cloud
Utilisation de Docker Compose pour les systèmes IA multi-services
- Orchestration de l'inférence avec les composants de soutien
- Gestion des variables d'environnement et des configurations
- Mise à l'échelle des microservices avec Compose
Surveillance et maintenance des services d'inférence IA
- Approches de journalisation et d'observabilité
- Détection des pannes dans les pipelines d'inférence
- Mise à jour et versionnement des modèles en production
Résumé et prochaines étapes
Pré requis
- Une compréhension des concepts de base du machine learning
- De l'expérience avec Python ou le développement back-end
- La familiarité avec les concepts fondamentaux des conteneurs
Audience cible
- Développeurs
- Ingénieurs back-end
- Équipes déployant des services IA
Nos clients témoignent (3)
Comment les formateurs transmettent-ils efficacement leurs connaissances
Vu Thoai Le - Reply Polska sp. z o. o.
Formation - Certified Kubernetes Administrator (CKA) - exam preparation
Traduction automatique
le formateur avait beaucoup de connaissances et de patience à partager avec nous
Bogdan Olaru
Formation - Introduction to Docker
Traduction automatique
Les connaissances et les échanges avec Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Formation - Docker and Kubernetes
Traduction automatique