Plan du cours
Introduction à la conteneurisation accélérée par GPU
- Comprendre l'utilisation du GPU dans les flux de travail d'apprentissage profond
- Comment Docker prend en charge les charges de travail basées sur le GPU
- Considérations clés en matière de performances
Installation et configuration du NVIDIA Container Toolkit
- Configuration des pilotes et compatibilité CUDA
- Validation de l'accès au GPU à l'intérieur des conteneurs
- Configuration de l'environnement d'exécution
Création d'images Docker activées par GPU
- Utilisation d'images de base CUDA
- Intégration des frameworks d'IA dans des conteneurs prêts pour le GPU
- Gestion des dépendances pour l'entraînement et l'inférence
Exécution de charges de travail d'IA accélérées par GPU
- Exécution de jobs d'entraînement en utilisant des GPU
- Gestion des charges de travail multi-GPU
- Surveillance de l'utilisation du GPU
Optimisation des performances et allocation des ressources
- Limiter et isoler les ressources GPU
- Optimiser la mémoire, la taille des lots et le placement des appareils
- Réglage des performances et diagnostic
Inférence conteneurisée et déploiement de modèles
- Construction de conteneurs prêts pour l'inférence
- Délivrer des charges de travail à fort trafic sur des GPU
- Intégration des moteurs d'inférence et des API
Mise à l'échelle des charges de travail GPU avec Docker
- Stratégies pour l'entraînement distribué sur GPU
- Mise à l'échelle des microservices d'inférence
- Coordination des systèmes d'IA multi-conteneurs
Sécurité et fiabilité pour les conteneurs activés par GPU
- Assurer un accès sécurisé au GPU dans des environnements partagés
- Sécurisation des images de conteneur
- Gestion des mises à jour, des versions et de la compatibilité
Résumé et prochaines étapes
Pré requis
- Une compréhension des fondamentaux de l'apprentissage profond
- De l'expérience avec Python et des frameworks d'IA courants
- Une familiarité avec les concepts de base de la conteneurisation
Public cible
- Ingénieurs en apprentissage profond
- Équipes de recherche et développement
- Entraîneurs de modèles d'IA
Nos clients témoignent (2)
Comment les formateurs transmettent-ils efficacement leurs connaissances
Vu Thoai Le - Reply Polska sp. z o. o.
Formation - Certified Kubernetes Administrator (CKA) - exam preparation
Traduction automatique
le formateur avait beaucoup de connaissances et de patience à partager avec nous
Bogdan Olaru
Formation - Introduction to Docker
Traduction automatique