Prenez contact avec nous
 Durée 21 heures

Plan du cours

Fondements du déploiement hybride de l'IA

  • Comprendre les modèles de déploiement hybride, cloud et edge
  • Caractéristiques des charges de travail IA et contraintes d'infrastructure
  • Choisir la topologie de déploiement appropriée

Conteneurisation des charges de travail IA avec Docker

  • Construire des conteneurs d'inférence GPU et CPU
  • Gérer les images et les registres sécurisés
  • Mettre en œuvre des environnements reproductibles pour l'IA

Déploiement de services IA sur les environnements cloud

  • Exécuter l'inférence sur AWS, Azure et GCP via Docker
  • Provisionner l'inférence cloud pour le service de modèles
  • Sécuriser les points d'accès IA basés sur le cloud

Techniques de déploiement Edge et On-Prem

  • Exécuter l'IA sur des dispositifs IoT, des passerelles et des micro-serveurs
  • Runtimes légers pour les environnements edge
  • Gérer la connectivité intermittente et la persistance locale

Réseau hybride et connectivité sécurisée

  • Tunnels sécurisés entre edge et cloud
  • Certificats, secrets et accès basé sur des jetons
  • Ajustement des performances pour une inférence à faible latence

Orchestration des déploiements IA distribués

  • Utiliser K3s, K8s ou une orchestration légère pour les configurations hybrides
  • Découverte de services et planification des charges de travail
  • Automatiser les stratégies de déploiement multi-sites

Surveillance et observabilité à travers les environnements

  • Suivi des performances d'inférence à travers les différents sites
  • Journalisation centralisée pour les systèmes IA hybrides
  • Détection des pannes et récupération automatisée

Mise à l'échelle et optimisation des systèmes IA hybrides

  • Étendre les clusters edge et les nœuds cloud
  • Optimiser l'utilisation de la bande passante et le cache
  • Équilibrer les charges de calcul entre cloud et edge

Synthèse et prochaines étapes

Pré requis

  • Une bonne compréhension des concepts de conteneurisation
  • Une expérience des opérations en ligne de commande Linux
  • Une familiarité avec les workflows de déploiement de modèles IA

Public cible

  • Architectes d'infrastructure
  • Ingénieurs de fiabilité des sites (SRE)
  • Développeurs edge et IoT

Nombre de participants


Prix par participant

Nos clients témoignent (2)

Cours à venir

Catégories Similaires