Prenez contact avec nous

Plan du cours

Aperçu de l'architecture des LLM et de la surface d'attaque

  • Comment les LLM sont construits, déployés et accessibles via des API
  • Les composants clés des piles d'applications LLM (par exemple, invites, agents, mémoire, API)
  • Où et comment les problèmes de sécurité surgissent dans l'utilisation réelle

Attaques par injection d'invites et contournement (Jailbreak)

  • Qu'est-ce que l'injection d'invites et pourquoi elle est dangereuse
  • Scénarios d'injection d'invites directe et indirecte
  • Techniques de jailbreak pour contourner les filtres de sécurité
  • Stratégies de détection et d'atténuation

Fuites de données et risques pour la vie privée

  • Exposition accidentelle des données par les réponses
  • Fuites de données personnelles (PII) et mauvais usage de la mémoire du modèle
  • Conception d'invites respectueuses de la vie privée et de la génération augmentée par récupération (RAG)

Filtrage et protection des sorties des LLM

  • Utilisation de Guardrails AI pour le filtrage de contenu et la validation
  • Définition des schémas et contraintes de sortie
  • Surveillance et journalisation des sorties dangereuses

Approches impliquant un humain en boucle (Human-in-the-Loop) et dans le workflow

  • Où et quand introduire la supervision humaine
  • Files d'attente d'approbation, seuils de score, gestion des replis
  • Calibration de la confiance et rôle de l'explicabilité

Modèles de conception sécurisée pour les applications LLM

  • Privilège minimum et sandboxing pour les appels d'API et les agents
  • Limitation du débit, throttling et détection des abus
  • Chaînage robuste avec LangChain et isolation des invites

Conformité, journalisation et gouvernance

  • Assurer l'auditabilité des sorties des LLM
  • Maintenir la traçabilité et le contrôle des invites/versions
  • Alignement avec les politiques de sécurité internes et les besoins réglementaires

Résumé et prochaines étapes

Pré requis

  • Une compréhension des grands modèles de langage et des interfaces basées sur les invites
  • Une expérience dans la création d'applications LLM en utilisant Python
  • Une familiarité avec les intégrations d'API et les déploiements cloud

Audience

  • Développeurs d'IA
  • Architectes d'applications et de solutions
  • Chefs de produit techniques travaillant avec des outils LLM
 14 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires