Plan du cours
Fondamentaux de l'IA et de la sécurité
- Ce qui rend les systèmes d'IA uniques d'un point de vue sécurité
- Vue d'ensemble du cycle de vie de l'IA : données, entraînement, inférence et déploiement
- Taxonomie de base des risques de l'IA : techniques, éthiques, juridiques et organisationnels
Vecteurs de menace spécifiques à l'IA
- Exemples adversariaux et manipulation de modèles
- Risques d'inversion de modèle et de fuite de données
- Empoisonnement des données lors des phases d'entraînement
- Risques liés à l'IA générative (par ex., détournement de LLM, injection de prompts)
Cadres de gestion des risques de sécurité
- Cadre de gestion des risques en matière d'IA du NIST (NIST AI RMF)
- ISO/IEC 42001 et autres normes spécifiques à l'IA
- Mise en correspondance des risques de l'IA avec les cadres existants de GRC d'entreprise
Principes de gouvernance et de conformité de l'IA
- Responsabilité et traçabilité de l'IA
- Transparence, explicabilité et équité en tant que propriétés pertinentes pour la sécurité
- Biais, discrimination et dommages en aval
Préparation de l'entreprise et politiques de sécurité de l'IA
- Définition des rôles et responsabilités dans les programmes de sécurité de l'IA
- Éléments des politiques : développement, acquisition, utilisation et retrait
- Risques tiers et utilisation d'outils d'IA par les fournisseurs
Paysage réglementaire et tendances mondiales
- Vue d'ensemble du règlement européen sur l'IA (EU AI Act) et de la réglementation internationale
- Ordre exécutif américain sur une IA sûre, sécurisée et digne de confiance
- Cadres nationaux émergents et orientations sectorielles spécifiques
Atelier optionnel : cartographie des risques et auto-évaluation
- Cartographie des cas d'utilisation réels de l'IA sur les fonctions du NIST AI RMF
- Réalisation d'une auto-évaluation de base des risques de l'IA
- Identification des lacunes internes en matière de préparation à la sécurité de l'IA
Résumé et prochaines étapes
Pré requis
- Une compréhension des principes de base de la cybersécurité
- Une expérience avec les cadres de gouvernance informatique ou de gestion des risques
- Une connaissance des concepts généraux de l'IA est utile mais non requise
Audience
- Équipes de sécurité informatique
- Responsables des risques
- Professionnels de la conformité
Nos clients témoignent (3)
Le formateur a été très bon et a su interessé l'assemblée malgré le fais que ce soit en distanciel
Tissier Olivier - Aesio
Formation - OWASP GenAI Security
inventorier et identifier les différentes expositions aux risques au sein de l'IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Formation - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traduction automatique
Les connaissances professionnelles et la manière dont il les a présentées devant nous
Miroslav Nachev - PUBLIC COURSE
Formation - Cybersecurity in AI Systems
Traduction automatique