Formation Techniques de fine-tuning à haut rendement paramétrique (PEFT) pour les LLM

Introduction au fine-tuning à haut rendement paramétrique (PEFT)

• Motivation et limites du fine-tuning complet
• Aperçu du PEFT : objectifs et avantages
• Applications et cas d'usage dans l'industrie

LoRA (Low-Rank Adaptation)

• Concept et intuition derrière LoRA
• Implémentation de LoRA en utilisant Hugging Face et PyTorch
• Pratique : Fine-tuning d'un modèle avec LoRA

Adapter Tuning

• Fonctionnement des modules d'adaptateurs
• Intégration avec les modèles basés sur les transformeurs
• Pratique : Application de l'Adapter Tuning à un modèle transformeur

Prefix Tuning

• Utilisation de prompts logiciels (soft prompts) pour le fine-tuning
• Atouts et limites par rapport à LoRA et aux adaptateurs
• Pratique : Prefix Tuning sur une tâche LLM

Évaluation et comparaison des méthodes PEFT

• Métriques pour évaluer les performances et l'efficacité
• Compromis entre vitesse d'entraînement, utilisation de la mémoire et précision
• Expérimentations de référence et interprétation des résultats

Déploiement des modèles fine-tunés

• Enregistrement et chargement des modèles fine-tunés
• Considérations relatives au déploiement des modèles basés sur PEFT
• Intégration dans les applications et les pipelines

Meilleures pratiques et extensions

• Combinaison du PEFT avec la quantification et la distillation
• Utilisation dans des contextes à ressources limitées et multilingues
• Perspectives d'avenir et domaines de recherche actifs