Formation LLMs avancés pour les tâches de TALN

Introduction aux LLM et à l'IA générative

• Exploration des techniques et modèles.
• Discussion sur les applications et cas d'utilisation.
• Identification des défis et limitations.

Utilisation des LLM pour les tâches de CLU

• Analyse des sentiments.
• Reconnaissance d'entités nommées.
• Extraction de relations.
• Analyse sémantique.

Utilisation des LLM pour les tâches d'IL

• Détection d'entailment.
• Détection de contradictions.
• Détection de paraphrases.

Utilisation des LLM pour les graphes de connaissances

• Extraction de faits et de relations à partir de textes.
• Inférence de faits manquants ou nouveaux.
• Utilisation des graphes de connaissances pour des tâches ultérieures.

Utilisation des LLM pour le raisonnement du sens commun

• Génération d'explications, hypothèses et scénarios plausibles.
• Utilisation de bases de connaissances et de jeux de données du sens commun.
• Évaluation du raisonnement du sens commun.

Utilisation des LLM pour la génération de dialogues

• Génération de dialogues avec des agents conversationnels, chatbots et assistants virtuels.
• Gestion des dialogues.
• Utilisation de jeux de données et de métriques de dialogue.

Utilisation des LLM pour la génération multimodale

• Génération d'images à partir de texte.
• Génération de texte à partir d'images.
• Génération de vidéos à partir de texte ou d'images.
• Génération d'audio à partir de texte.
• Génération de texte à partir d'audio.
• Génération de modèles 3D à partir de texte ou d'images.

Utilisation des LLM pour l'apprentissage méta

• Adaptation des LLM à de nouveaux domaines, tâches ou langues.
• Apprentissage à partir d'exemples à quelques coups ou sans exemple.
• Utilisation de jeux de données et frameworks d'apprentissage méta et d'apprentissage par transfert.

Utilisation des LLM pour l'apprentissage adversarial

• Défense des LLM contre les attaques malveillantes.
• Détection et atténuation des biais et erreurs dans les LLM.
• Utilisation de jeux de données et méthodes d'apprentissage adversarial et de robustesse.

Évaluation des LLM et de l'IA générative

• Évaluation de la qualité et de la diversité du contenu.
• Utilisation de métriques telles que l'Inception Score, la distance Fréchet Inception et le score BLEU.
• Méthodes d'évaluation humaine telles que le crowdsourcing et les sondages.
• Méthodes d'évaluation adversarial telles que les tests de Turing et les discriminateurs.

Application des principes éthiques pour les LLM et l'IA générative

• Garantie de l'équité et de la redevabilité.
• Prévention de la mauvaise utilisation et de l'abus.
• Respect des droits et de la vie privée des créateurs et consommateurs de contenu.
• Favoriser la créativité et la collaboration entre humains et IA.

Résumé et prochaines étapes