Merci d'avoir envoyé votre demande ! Un membre de notre équipe vous contactera sous peu.
Merci d'avoir envoyé votre réservation ! Un membre de notre équipe vous contactera sous peu.
Durée 21 heures
Plan du cours
Introduction aux grands modèles de langage
- Aperçu du traitement automatique des langues (TAL)
- Introduction aux grands modèles de langage (LLM)
- Contributions de Meta AI au développement des LLM
Comprendre l'architecture des LLM de Meta AI
- Architecture Transformer et mécanismes d'auto-attention
- Méthodologies d'entraînement pour les modèles de grande envergure
- Comparaison avec d'autres LLM (GPT, BERT, T5, etc.)
Configuration de l'environnement de développement
- Installation et configuration de Python et de Jupyter Notebook
- Travail avec Hugging Face et le dépôt de modèles de Meta AI
- Utilisation de GPU cloud ou locaux pour l'entraînement
Ajustement fin et personnalisation des LLM de Meta AI
- Chargement de modèles pré-entraînés
- Ajustement fin sur des jeux de données spécifiques à un domaine
- Techniques d'apprentissage par transfert
Création d'applications TAL avec les LLM de Meta AI
- Développement de chatbots et d'IA conversationnelle
- Mise en œuvre de la résumation de texte et du parafrase
- Analyse des sentiments et modération de contenu
Optimisation et déploiement des grands modèles de langage
- Ajustement des performances pour la vitesse d'inférence
- Techniques de compression et de quantification de modèles
- Déploiement des LLM à l'aide d'API et de plateformes cloud
Considérations éthiques et IA responsable
- Détection et atténuation des biais dans les LLM
- Assurer la transparence et l'équité des modèles d'IA
- Tendances futures et évolutions dans le domaine de l'IA
Pré requis
- Compréhension de base de l'apprentissage automatique et de l'apprentissage profond
- Expérience en programmation Python
- Familiarité avec les concepts du traitement automatique des langues (TAL)
Public cible
- Chercheurs en IA
- Data scientists
- Ingénieurs en apprentissage automatique
- Développeurs logiciels intéressés par le TAL