Prenez contact avec nous

Plan du cours

Introduction à QLoRA et à la quantification

  • Vue d'ensemble de la quantification et de son rôle dans l'optimisation des modèles
  • Introduction au framework QLoRA et à ses avantages
  • Principales différences entre QLoRA et les méthodes d'affinement traditionnelles

Fondamentaux des grands modèles de langage (LLM)

  • Introduction aux LLM et à leur architecture
  • Défis liés à l'affinement de grands modèles à grande échelle
  • Comment la quantification aide à surmonter les contraintes computationnelles dans l'affinement des LLM

Mise en œuvre de QLoRA pour l'affinement des LLM

  • Configuration du framework QLoRA et de l'environnement
  • Préparation des jeux de données pour l'affinement QLoRA
  • Guide étape par étape pour la mise en œuvre de QLoRA sur les LLM en utilisant Python et PyTorch/TensorFlow

Optimisation des performances d'affinement avec QLoRA

  • Comment équilibrer la précision du modèle et les performances avec la quantification
  • Techniques pour réduire les coûts de calcul et l'utilisation de la mémoire pendant l'affinement
  • Stratégies pour l'affinement avec des exigences matérielles minimales

Évaluation des modèles affinés

  • Comment évaluer l'efficacité des modèles affinés
  • Métriques d'évaluation courantes pour les modèles de langage
  • Optimisation des performances du modèle après l'affinement et dépannage des problèmes

Déploiement et mise à l'échelle des modèles affinés

  • Meilleures pratiques pour déployer les LLM quantifiés dans des environnements de production
  • Mise à l'échelle du déploiement pour gérer les requêtes en temps réel
  • Outils et frameworks pour le déploiement et la surveillance des modèles

Cas d'usage réels et études de cas

  • Étude de cas : Affinement des LLM pour le support client et les tâches de traitement du langage naturel (NLP)
  • Exemples d'affinement des LLM dans divers secteurs tels que la santé, la finance et le commerce électronique
  • Leçons tirées des déploiements réels de modèles basés sur QLoRA

Résumé et prochaines étapes

Pré requis

  • Compréhension des fondamentaux de l'apprentissage automatique et des réseaux neuronaux
  • Expérience avec l'affinement des modèles et l'apprentissage par transfert
  • Connaissance des grands modèles de langage (LLM) et des frameworks d'apprentissage profond (par exemple, PyTorch, TensorFlow)

Audience

  • Ingénieurs en apprentissage automatique
  • Développeurs en IA
  • Data scientists
 14 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires