Plan du cours
Introduction à la conteneurisation accélérée par GPU
- Comprendre l'utilisation des GPU dans les flux de travail de deep learning
- La façon dont Docker prend en charge les charges de travail basées sur GPU
- Les considérations de performance clés
Installation et configuration du NVIDIA Container Toolkit
- Configuration des pilotes et de la compatibilité CUDA
- Validation de l'accès GPU au sein des conteneurs
- Configuration de l'environnement d'exécution
Création d'images Docker activées par GPU
- Utilisation d'images de base CUDA
- Emballage des frameworks d'IA dans des conteneurs prêts pour le GPU
- Gestion des dépendances pour l'entraînement et l'inférence
Exécution de charges de travail d'IA accélérées par GPU
- Exécution de tâches d'entraînement à l'aide de GPU
- Gestion des charges de travail multi-GPU
- Surveillance de l'utilisation des GPU
Optimisation des performances et de l'allocation des ressources
- Limitation et isolation des ressources GPU
- Optimisation de la mémoire, des tailles de lot et du placement des appareils
- Optimisation des performances et diagnostics
Inférence conteneurisée et service de modèles
- Construction de conteneurs prêts pour l'inférence
- Service de charges de travail à forte sollicitation sur GPU
- Intégration d'exécutants de modèles et d'APIs
Mise à l'échelle des charges de travail GPU avec Docker
- Stratégies pour l'entraînement distribué GPU
- Mise à l'échelle des microservices d'inférence
- Coordination de systèmes d'IA multi-conteneurs
Sécurité et fiabilité des conteneurs activés par GPU
- Assurer un accès GPU sûr dans les environnements partagés
- Renforcement des images de conteneurs
- Gestion des mises à jour, des versions et de la compatibilité
Synthèse et prochaines étapes
Pré requis
- Une compréhension des fondamentaux du deep learning
- Une expérience avec Python et les frameworks d'IA courants
- Une familiarité avec les concepts de base de la conteneurisation
Public cible
- Ingénieurs en deep learning
- Équipes de recherche et de développement
- Formateurs de modèles d'IA
Nos clients témoignent (3)
Comment les formateurs transmettent-ils efficacement leurs connaissances
Vu Thoai Le - Reply Polska sp. z o. o.
Formation - Certified Kubernetes Administrator (CKA) - exam preparation
Traduction automatique
le formateur avait beaucoup de connaissances et de patience à partager avec nous
Bogdan Olaru
Formation - Introduction to Docker
Traduction automatique
Les connaissances et les échanges avec Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Formation - Docker and Kubernetes
Traduction automatique