Plan du cours
Introduction à l'optimisation et au déploiement des modèles
- Vue d'ensemble des modèles DeepSeek et des défis de déploiement
- Comprendre l'efficacité des modèles : vitesse et précision
- Principales mesures de performance pour les modèles d'IA
Optimisation des modèles DeepSeek pour la performance
- Techniques de réduction de la latence d'inférence
- Quantification des modèles et stratégies d'élagage
- Utilisation de bibliothèques optimisées pour les modèles DeepSeek
Mise en œuvre de MLOps pour les modèles DeepSeek
- Contrôle des versions et suivi des modèles
- Automatisation du recyclage et du déploiement des modèles
- Pipelines CI/CD pour les applications d'IA
Déploiement de modèles DeepSeek dans des environnements en nuage et sur site
- Choisir la bonne infrastructure pour le déploiement
- Déploiement avec Docker et Kubernetes
- Gérer l'accès à l'API et l'authentification
Mise à l'échelle et surveillance des déploiements d'IA
- Stratégies d'équilibrage de charge pour les services d'IA
- Surveillance de la dérive du modèle et de la dégradation des performances
- Mise en œuvre d'une mise à l'échelle automatique pour les applications d'IA
Garantir la sécurité et la conformité des déploiements d'IA
- Gestion de la confidentialité des données dans les flux de travail d'IA
- Conformité avec les réglementations de l'entreprise en matière d'IA
- Meilleures pratiques pour des déploiements d'IA sécurisés
Tendances futures et stratégies d'optimisation de l'IA
- Progrès des techniques d'optimisation des modèles d'IA
- Tendances émergentes en matière d'infrastructure MLOps et d'IA
- Élaboration d'une feuille de route pour le déploiement de l'IA
Résumé et prochaines étapes
Pré requis
- Expérience du déploiement de modèles d'IA et de l'infrastructure en nuage
- Maîtrise d'un langage de programmation (par exemple, Python, Java, C++)
- Compréhension de MLOps et de l'optimisation des performances des modèles
Audience
- Ingénieurs en IA optimisant et déployant des modèles DeepSeek.
- Scientifiques des données travaillant sur l'optimisation des performances de l'IA
- Spécialistes de l'apprentissage automatique gérant des systèmes d'IA basés sur le cloud
Nos clients témoignent (3)
l'écosystème ML ne concerne pas seulement MLFlow, mais également Optuna, Hyperopt, Docker et Docker-Compose
Guillaume GAUTIER - OLEA MEDICAL
Formation - MLflow
Traduction automatique
La qualité des explications, et le nombre important de sujets abordés
Hugo SECHIER - Expleo France
Formation - Kubeflow on AWS
J'ai beaucoup apprécié de participer à la formation Kubeflow, qui s'est déroulée à distance. Cette formation m'a permis de consolider mes connaissances sur les services AWS, K8s et tous les outils DevOps autour de Kubeflow, qui sont les bases nécessaires pour aborder le sujet correctement. Je tiens à remercier Malawski Marcin pour sa patience et son professionnalisme lors de la formation et pour ses conseils sur les bonnes pratiques. Malawski aborde le sujet sous différents angles, en utilisant divers outils de déploiement comme Ansible, EKS kubectl et Terraform. Je suis maintenant définitivement convaincu que je me dirige vers le bon domaine d'application.
Guillaume Gautier - OLEA MEDICAL | Improved diagnosis for life TM
Formation - Kubeflow
Traduction automatique