Prenez contact avec nous

Plan du cours

Fondamentaux du déploiement d'IA hybride

  • Compréhension des modèles de déploiement hybride, Cloud et Edge
  • Caractéristiques des charges de travail d'IA et contraintes de l'infrastructure
  • Choix de la topologie de déploiement appropriée

Conteneurisation des charges de travail d'IA avec Docker

  • Création de conteneurs d'inférence GPU et CPU
  • Gestion des images et registres sécurisés
  • Mise en œuvre d'environnements reproductibles pour l'IA

Déploiement des services d'IA vers des environnements Cloud

  • Exécution de l'inférence sur AWS, Azure et GCP via Docker
  • Provisionnement de puissance de calcul Cloud pour le service de modèles
  • Sécurisation des points de terminaison d'IA basés sur le Cloud

Techniques de déploiement Edge et sur site

  • Exécution de l'IA sur les appareils IoT, les passerelles et les microservesurs
  • Exécutants légers pour les environnements Edge
  • Gestion de la connectivité intermittente et de la persistance locale

Réseau hybride et connectivité sécurisée

  • Tunneling sécurisé entre l'Edge et le Cloud
  • Certificats, secrets et accès basé sur les jetons
  • Ajustement des performances pour une inférence à faible latence

Orchestration des déploiements d'IA distribués

  • Utilisation de K3s, K8s ou d'une orchestration légère pour les configurations hybrides
  • Découverte de services et planification des charges de travail
  • Automatisation des stratégies de déploiement multi-sites

Surveillance et observabilité à travers les environnements

  • Suivi des performances de l'inférence sur les différents sites
  • Journalisation centralisée pour les systèmes d'IA hybrides
  • Détection des défaillances et récupération automatisée

Mise à l'échelle et optimisation des systèmes d'IA hybrides

  • Mise à l'échelle des grappes Edge et des nœuds Cloud
  • Optimisation de l'utilisation de la bande passante et du cache
  • Équilibre de la charge de calcul entre le Cloud et l'Edge

Résumé et prochaines étapes

Pré requis

  • Une compréhension des concepts de conteneurisation
  • Une expérience avec les opérations en ligne de commande Linux
  • Une familiarité avec les flux de déploiement de modèles d'IA

Public cible

  • Architectes en infrastructure
  • Ingénieurs de fiabilité du site (SRE)
  • Développeurs Edge et IoT
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (2)

Cours à venir

Catégories Similaires