Prenez contact avec nous

Plan du cours

Aperçu de l'architecture des LLM et de la surface d'attaque

  • Comment les LLM sont construits, déployés et accessibles via des API.
  • Composants clés des piles d'applications LLM (par exemple, prompts, agents, mémoire, API).
  • Où et comment les problèmes de sécurité surviennent dans l'utilisation réelle.

Attaques par injection de prompts et contournement des règles (Jailbreak)

  • Qu'est-ce que l'injection de prompts et pourquoi c'est dangereux.
  • Scénarios d'injection directe et indirecte de prompts.
  • Techniques de jailbreak pour contourner les filtres de sécurité.
  • Stratégies de détection et d'atténuation.

Fuites de données et risques pour la confidentialité

  • Exposition accidentelle de données à travers les réponses.
  • Fuites de données personnelles (PII) et utilisation abusive de la mémoire du modèle.
  • Conception de prompts respectueux de la vie privée et de génération augmentée par récupération (RAG).

Filtrage et protection des sorties des LLM

  • Utilisation de Guardrails AI pour le filtrage de contenu et la validation.
  • Définition des schémas et contraintes de sortie.
  • Surveillance et journalisation des sorties non sécurisées.

Approches avec intervention humaine et workflows

  • Où et quand introduire une supervision humaine.
  • Files d'attente d'approbation, seuils de score, gestion des replis.
  • Calibration de la confiance et rôle de l'explicabilité.

Modèles de conception sécurisée des applications LLM

  • Privilège minimum et sandboxing pour les appels API et les agents.
  • Limitation du débit, régulation et détection des abus.
  • Chaînage robuste avec LangChain et isolation des prompts.

Conformité, journalisation et gouvernance

  • Assurer l'auditable des sorties des LLM.
  • Maintenir la traçabilité et le contrôle des versions des prompts.
  • Se conformer aux politiques de sécurité internes et aux besoins réglementaires.

Résumé et prochaines étapes

Pré requis

  • Une compréhension des grands modèles de langage et des interfaces basées sur les prompts.
  • De l'expérience dans la construction d'applications LLM avec Python.
  • Une familiarité avec les intégrations d'API et les déploiements basés sur le cloud.

Public cible

  • Développeurs AI.
  • Architectes d'applications et de solutions.
  • Chefs de produits techniques travaillant avec des outils LLM.
 14 Heures

Nombre de participants


Prix par participant

Cours à venir

Catégories Similaires