Plan du cours
Introduction au déploiement en production
- Défis clés du déploiement de modèles affûtés
- Différences entre les environnements de développement et de production
- Outils et plateformes pour le déploiement de modèles
Préparation des modèles pour le déploiement
- Exportation de modèles dans des formats standards (ONNX, TensorFlow SavedModel, etc.)
- Optimisation des modèles pour la latence et le débit
- Tests des modèles sur des cas limites et des données réelles
Conteneurisation pour le déploiement de modèles
- Introduction à Docker
- Création d'images Docker pour les modèles ML
- Meilleures pratiques pour la sécurité et l'efficacité des conteneurs
Mise à l'échelle des déploiements avec Kubernetes
- Introduction à Kubernetes pour les charges de travail d'IA
- Configuration de clusters Kubernetes pour l'hébergement de modèles
- Équilibrage de charge et mise à l'échelle horizontale
Surveillance et maintenance des modèles
- Mise en œuvre de la surveillance avec Prometheus et Grafana
- Journalisation automatisée pour le suivi des erreurs et des performances
- Pipelines de réentraînement pour la dérive des modèles et les mises à jour
Assurer la sécurité en production
- Sécurisation des API pour l'inférence des modèles
- Mécanismes d'authentification et d'autorisation
- Prise en compte des préoccupations liées à la confidentialité des données
Études de cas et ateliers pratiques
- Déploiement d'un modèle d'analyse de sentiment
- Mise à l'échelle d'un service de traduction automatique
- Mise en œuvre de la surveillance pour les modèles de classification d'images
Résumé et prochaines étapes
Pré requis
- Comprehension solide des flux de travail d'apprentissage automatique
- Expérience avec l'affûtage de modèles ML
- Connaissance des principes DevOps ou MLOps
Public cible
- Ingénieurs DevOps
- Praticiens MLOps
- Spécialistes du déploiement d'IA
Nos clients témoignent (2)
Craig était très impliqué dans la formation, toujours en s'assurant que nous prêtions attention, en adaptant les exemples à nos activités quotidiennes et en fournissant une réponse chaque fois qu'on lui posait une question, même si l'information n'était pas incluse dans la présentation.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Formation - DevOps Foundation®
Traduction automatique
Niveau élevé d’engagement et de connaissances du formateur
Jacek - Softsystem
Formation - DevOps Engineering Foundation (DOEF)®
Traduction automatique