Formation Développer des applications LLM sécurisées et responsables

Aperçu de l'architecture des LLM et de la surface d'attaque

• Comment les LLM sont construits, déployés et accessibles via des API.
• Composants clés des piles d'applications LLM (par exemple, prompts, agents, mémoire, API).
• Où et comment les problèmes de sécurité surviennent dans l'utilisation réelle.

Attaques par injection de prompts et contournement des règles (Jailbreak)

• Qu'est-ce que l'injection de prompts et pourquoi c'est dangereux.
• Scénarios d'injection directe et indirecte de prompts.
• Techniques de jailbreak pour contourner les filtres de sécurité.
• Stratégies de détection et d'atténuation.

Fuites de données et risques pour la confidentialité

• Exposition accidentelle de données à travers les réponses.
• Fuites de données personnelles (PII) et utilisation abusive de la mémoire du modèle.
• Conception de prompts respectueux de la vie privée et de génération augmentée par récupération (RAG).

Filtrage et protection des sorties des LLM

• Utilisation de Guardrails AI pour le filtrage de contenu et la validation.
• Définition des schémas et contraintes de sortie.
• Surveillance et journalisation des sorties non sécurisées.

Approches avec intervention humaine et workflows

• Où et quand introduire une supervision humaine.
• Files d'attente d'approbation, seuils de score, gestion des replis.
• Calibration de la confiance et rôle de l'explicabilité.

Modèles de conception sécurisée des applications LLM

• Privilège minimum et sandboxing pour les appels API et les agents.
• Limitation du débit, régulation et détection des abus.
• Chaînage robuste avec LangChain et isolation des prompts.

Conformité, journalisation et gouvernance

• Assurer l'auditable des sorties des LLM.
• Maintenir la traçabilité et le contrôle des versions des prompts.
• Se conformer aux politiques de sécurité internes et aux besoins réglementaires.

Résumé et prochaines étapes