Plan du cours
Introduction à la conteneurisation accélérée par GPU
- Comprendre l'utilisation du GPU dans les flux de travail d'apprentissage profond
- Comment Docker soutient les charge de travail basées sur le GPU
- Considérations de performance clés
Installation et configuration du NVIDIA Container Toolkit
- Mise en place des pilotes et de la compatibilité CUDA
- Validation de l'accès au GPU à l'intérieur des conteneurs
- Configuration de l'environnement d'exécution
Construction d'images Docker compatibles avec le GPU
- Utilisation d'images de base CUDA
- Emballage des cadres d'IA dans des conteneurs prêts pour le GPU
- Gestion des dépendances pour l'entraînement et l'inférence
Exécution des charge de travail IA accélérées par GPU
- Exécution de tâches d'entraînement à l'aide de GPU
- Gestion des charge de travail multi-GPU
- Surveillance de l'utilisation du GPU
Optimisation des performances et de l'allocation des ressources
- Limiter et isoler les ressources GPU
- Optimiser la mémoire, les tailles de lot et le placement des appareils
- Réglage des performances et diagnostics
Inférence et service de modèles conteneurisés
- Construction de conteneurs prêts pour l'inférence
- Service de charge de travail à forte intensité sur GPU
- Intégration des exécuteurs de modèles et des API
Mise à l'échelle des charge de travail GPU avec Docker
- Stratégies pour l'entraînement distribué sur GPU
- Mise à l'échelle des microservices d'inférence
- Coordination des systèmes d'IA multi-conteneurs
Sécurité et fiabilité des conteneurs compatibles avec le GPU
- Garantir un accès sécurisé au GPU dans les environnements partagés
- Renforcer la sécurité des images de conteneurs
- Gérer les mises à jour, les versions et la compatibilité
Conclusion et prochaines étapes
Pré requis
- Comprendre les fondamentaux de l'apprentissage profond
- Expérience avec Python et les cadres d'IA courants
- Notions de base sur la conteneurisation
Public cible
- Ingénieurs en apprentissage profond
- Équipes de recherche et de développement
- Formateurs de modèles IA
Nos clients témoignent (2)
Comme je l'ai mentionné précédemment, pour quelqu'un comme moi (sans aucune expérience), cela a été une porte d'entrée pour comprendre les fonctionnalités et les capacités de ces programmes/outils, etc.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Formation - Docker and Kubernetes
Traduction automatique
programme de formation structuré et organisé en plusieurs niveaux.
Bert Paelinckx - Cube SoftwareSolutions
Formation - Introduction to Docker
Traduction automatique