Prenez contact avec nous
 Durée 21 heures

Plan du cours

Introduction à la conteneurisation accélérée par GPU

  • Comprendre l'utilisation du GPU dans les flux de travail d'apprentissage profond
  • Comment Docker soutient les charge de travail basées sur le GPU
  • Considérations de performance clés

Installation et configuration du NVIDIA Container Toolkit

  • Mise en place des pilotes et de la compatibilité CUDA
  • Validation de l'accès au GPU à l'intérieur des conteneurs
  • Configuration de l'environnement d'exécution

Construction d'images Docker compatibles avec le GPU

  • Utilisation d'images de base CUDA
  • Emballage des cadres d'IA dans des conteneurs prêts pour le GPU
  • Gestion des dépendances pour l'entraînement et l'inférence

Exécution des charge de travail IA accélérées par GPU

  • Exécution de tâches d'entraînement à l'aide de GPU
  • Gestion des charge de travail multi-GPU
  • Surveillance de l'utilisation du GPU

Optimisation des performances et de l'allocation des ressources

  • Limiter et isoler les ressources GPU
  • Optimiser la mémoire, les tailles de lot et le placement des appareils
  • Réglage des performances et diagnostics

Inférence et service de modèles conteneurisés

  • Construction de conteneurs prêts pour l'inférence
  • Service de charge de travail à forte intensité sur GPU
  • Intégration des exécuteurs de modèles et des API

Mise à l'échelle des charge de travail GPU avec Docker

  • Stratégies pour l'entraînement distribué sur GPU
  • Mise à l'échelle des microservices d'inférence
  • Coordination des systèmes d'IA multi-conteneurs

Sécurité et fiabilité des conteneurs compatibles avec le GPU

  • Garantir un accès sécurisé au GPU dans les environnements partagés
  • Renforcer la sécurité des images de conteneurs
  • Gérer les mises à jour, les versions et la compatibilité

Conclusion et prochaines étapes

Pré requis

  • Comprendre les fondamentaux de l'apprentissage profond
  • Expérience avec Python et les cadres d'IA courants
  • Notions de base sur la conteneurisation

Public cible

  • Ingénieurs en apprentissage profond
  • Équipes de recherche et de développement
  • Formateurs de modèles IA

Nombre de participants


Prix par participant

Nos clients témoignent (2)

Cours à venir

Catégories Similaires