Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Plan du cours
Introduction à QLoRA et à la quantification
- Vue d'ensemble de la quantification et de son rôle dans l'optimisation des modèles
- Introduction au framework QLoRA et à ses avantages
- Principales différences entre QLoRA et les méthodes d'affinement traditionnelles
Fondamentaux des grands modèles de langage (LLM)
- Introduction aux LLM et à leur architecture
- Défis liés à l'affinement de grands modèles à grande échelle
- Comment la quantification aide à surmonter les contraintes computationnelles dans l'affinement des LLM
Mise en œuvre de QLoRA pour l'affinement des LLM
- Configuration du framework QLoRA et de l'environnement
- Préparation des jeux de données pour l'affinement QLoRA
- Guide étape par étape pour la mise en œuvre de QLoRA sur les LLM en utilisant Python et PyTorch/TensorFlow
Optimisation des performances d'affinement avec QLoRA
- Comment équilibrer la précision du modèle et les performances avec la quantification
- Techniques pour réduire les coûts de calcul et l'utilisation de la mémoire pendant l'affinement
- Stratégies pour l'affinement avec des exigences matérielles minimales
Évaluation des modèles affinés
- Comment évaluer l'efficacité des modèles affinés
- Métriques d'évaluation courantes pour les modèles de langage
- Optimisation des performances du modèle après l'affinement et dépannage des problèmes
Déploiement et mise à l'échelle des modèles affinés
- Meilleures pratiques pour déployer les LLM quantifiés dans des environnements de production
- Mise à l'échelle du déploiement pour gérer les requêtes en temps réel
- Outils et frameworks pour le déploiement et la surveillance des modèles
Cas d'usage réels et études de cas
- Étude de cas : Affinement des LLM pour le support client et les tâches de traitement du langage naturel (NLP)
- Exemples d'affinement des LLM dans divers secteurs tels que la santé, la finance et le commerce électronique
- Leçons tirées des déploiements réels de modèles basés sur QLoRA
Résumé et prochaines étapes
Pré requis
- Compréhension des fondamentaux de l'apprentissage automatique et des réseaux neuronaux
- Expérience avec l'affinement des modèles et l'apprentissage par transfert
- Connaissance des grands modèles de langage (LLM) et des frameworks d'apprentissage profond (par exemple, PyTorch, TensorFlow)
Audience
- Ingénieurs en apprentissage automatique
- Développeurs en IA
- Data scientists
14 Heures
