Prenez contact avec nous

Plan du cours

Introduction à la conteneurisation accélérée par GPU

  • Comprendre l'utilisation des GPU dans les flux de travail de deep learning
  • La façon dont Docker prend en charge les charges de travail basées sur GPU
  • Les considérations de performance clés

Installation et configuration du NVIDIA Container Toolkit

  • Configuration des pilotes et de la compatibilité CUDA
  • Validation de l'accès GPU au sein des conteneurs
  • Configuration de l'environnement d'exécution

Création d'images Docker activées par GPU

  • Utilisation d'images de base CUDA
  • Emballage des frameworks d'IA dans des conteneurs prêts pour le GPU
  • Gestion des dépendances pour l'entraînement et l'inférence

Exécution de charges de travail d'IA accélérées par GPU

  • Exécution de tâches d'entraînement à l'aide de GPU
  • Gestion des charges de travail multi-GPU
  • Surveillance de l'utilisation des GPU

Optimisation des performances et de l'allocation des ressources

  • Limitation et isolation des ressources GPU
  • Optimisation de la mémoire, des tailles de lot et du placement des appareils
  • Optimisation des performances et diagnostics

Inférence conteneurisée et service de modèles

  • Construction de conteneurs prêts pour l'inférence
  • Service de charges de travail à forte sollicitation sur GPU
  • Intégration d'exécutants de modèles et d'APIs

Mise à l'échelle des charges de travail GPU avec Docker

  • Stratégies pour l'entraînement distribué GPU
  • Mise à l'échelle des microservices d'inférence
  • Coordination de systèmes d'IA multi-conteneurs

Sécurité et fiabilité des conteneurs activés par GPU

  • Assurer un accès GPU sûr dans les environnements partagés
  • Renforcement des images de conteneurs
  • Gestion des mises à jour, des versions et de la compatibilité

Synthèse et prochaines étapes

Pré requis

  • Une compréhension des fondamentaux du deep learning
  • Une expérience avec Python et les frameworks d'IA courants
  • Une familiarité avec les concepts de base de la conteneurisation

Public cible

  • Ingénieurs en deep learning
  • Équipes de recherche et de développement
  • Formateurs de modèles d'IA
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (3)

Cours à venir

Catégories Similaires