Formation ML Security and AI Red Teaming
AI systems introduce novel attack surfaces: prompt injection, data poisoning, model extraction, adversarial inputs, and supply chain compromises. Traditional application security is necessary but insufficient. ML security requires understanding both classic vulnerability classes and AI-specific threats including the OWASP Top 10 for LLM Applications.
This instructor-led, live training (online or onsite) is aimed at security and ML engineers who need to identify, test, and defend against attacks on ML models and LLM-powered applications.
By the end of this training, participants will be able to:
- Threat-model AI systems across the ML lifecycle from training to inference.
- Execute red-team exercises against LLM applications including prompt injection and jailbreak attempts.
- Detect and defend against data poisoning, model extraction, and membership inference attacks.
- Apply the OWASP Top 10 for LLM Applications to real-world deployments.
- Implement input validation, output filtering, and guardrail strategies.
- Conduct supply chain security assessments for model artifacts and dependencies.
- Build an AI security testing playbook for continuous validation.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training, please contact us to arrange.
Plan du cours
The AI Threat Landscape
- Why AI security is different: non-determinism, opaque reasoning, prompt as attack surface
- Attack taxonomy: training-time vs inference-time vs supply chain attacks
- The ML adversary model: who attacks AI systems and why
OWASP Top 10 for LLM Applications
- Prompt injection: direct and indirect attack vectors
- Insecure output handling and cross-plugin request forgery
- Training data poisoning and supply chain vulnerabilities
- Model denial of service, sensitive information disclosure, and excessive agency
- Hands-on lab: exploiting each OWASP category against a test application
Prompt Injection and Jailbreak Red Teaming
- Taxonomy of injection techniques: direct, indirect, multi-turn, and multi-modal
- Automated red-teaming with Giskard, Garak, and custom fuzzing tools
- Jailbreak classification and defense evaluation
- Building a red-team harness for continuous LLM security testing
Model-Level Attacks and Defenses
- Model extraction: stealing model weights and functionality via API queries
- Membership inference: determining if data was in the training set
- Adversarial examples: perturbations that fool classifiers and embeddings
- Data poisoning: corrupting training data to induce backdoors or degrade performance
Input and Output Security Controls
- Input sanitization beyond traditional web defenses
- Output filtering: toxicity, PII leakage, hallucinated code execution
- Guardrails as security infrastructure: NeMo, Guardrails AI, and custom policies
- Structured output enforcement as a security boundary
AI Supply Chain Security
- Model provenance: verifying model authenticity and integrity
- Dependency scanning for ML frameworks and model formats
- Secure model serving: sandboxing, network isolation, and least-privilege access
- Vetting fine-tuned and community models for embedded malware
Operational Security for AI Systems
- Access control for model endpoints, vector stores, and agent tools
- Audit logging for every model interaction and decision
- Incident response for AI-specific breaches: when the model itself is compromised
- Continuous security testing in CI/CD for ML pipelines
Building an AI Security Program
- AI security maturity model and roadmap
- Integrating AI security into existing AppSec and cloud security programs
- Governance frameworks and emerging regulations for AI systems
- Creating and maintaining an organizational AI security playbook
Pré requis
- Experience deploying ML models or LLM applications in production.
- Familiarity with security concepts including authentication, authorization, and threat modeling.
- Python proficiency for adversarial testing exercises.
Audience
- Security engineers expanding into AI/ML threat surfaces.
- ML engineers responsible for model safety and robustness.
- Red team members adding AI systems to their testing scope.
Les formations ouvertes requièrent plus de 3 participants.
Formation ML Security and AI Red Teaming - Réservation
Formation ML Security and AI Red Teaming - Demande de renseignements
ML Security and AI Red Teaming - Demande d'informations consulting
Cours à venir
Cours Similaires
ISACA Advanced in AI Security Management (AAISM)
21 HeuresAAISM est un cadre avancé pour évaluer, gouverner et gérer les risques de sécurité dans les systèmes d'intelligence artificielle.
Cette formation en direct, animée par un formateur (en ligne ou sur site), s'adresse à des professionnels de niveau avancé souhaitant mettre en œuvre des contrôles de sécurité efficaces et des pratiques de gouvernance pour les environnements d'entreprise basés sur l'IA.
À l'issue de ce programme, les participants seront capables de :
- Évaluer les risques de sécurité de l'IA en utilisant des méthodologies reconnues par l'industrie.
- Mettre en place des modèles de gouvernance pour un déploiement responsable de l'IA.
- Aligner les politiques de sécurité de l'IA avec les objectifs organisationnels et les exigences réglementaires.
- Renforcer la résilience et la responsabilité au sein des opérations pilotées par l'IA.
Format du cours
- Cours magistraux facilités par une analyse d'experts.
- Ateliers pratiques et activités basées sur l'évaluation.
- Exercices d'application utilisant des scénarios réels de gouvernance de l'IA.
Options de personnalisation du cours
- Pour une formation sur mesure alignée sur la stratégie IA de votre organisation, veuillez nous contacter pour personnaliser le cours.
Gouvernance de l'IA, conformité et sécurité pour les dirigeants d'entreprise
14 HeuresCette formation en présentiel (en ligne ou sur site) animée par un formateur expert s'adresse aux dirigeants d'entreprise de niveau intermédiaire souhaitant comprendre comment gouverner et sécuriser les systèmes d'IA de manière responsable et conforme aux cadres réglementaires mondiaux émergents, tels que la loi européenne sur l'IA (EU AI Act), le RGPD, la norme ISO/IEC 42001 et le décret exécutif américain sur l'IA.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les risques juridiques, éthiques et réglementaires liés à l'utilisation de l'IA au sein des différents départements.
- Interpréter et appliquer les principaux cadres de gouvernance de l'IA (loi européenne sur l'IA, NIST AI RMF, ISO/IEC 42001).
- Établir des politiques de sécurité, d'audit et de contrôle pour le déploiement de l'IA dans l'entreprise.
- Développer des directives d'acquisition et d'utilisation pour les systèmes d'IA tiers et internes.
AI-Driven Observability: From Logs to LLM-Powered Insights
14 HeuresThis instructor-led, live training in Belgique (online or onsite) is aimed at observability and SRE engineers who want to integrate LLMs and AI into their monitoring, alerting, and incident analysis workflows.
AIOps en action : Prédiction des incidents et automatisation de l'analyse des causes racines
14 HeuresL'AIOps (Artificial Intelligence for IT Operations) est de plus en plus utilisé pour prédire les incidents avant qu'ils ne se produisent et automatiser l'analyse des causes racines (RCA) afin de minimiser les temps d'arrêt et d'accélérer leur résolution.
Cette formation pratique, animée par un instructeur (en ligne ou en présentiel), s'adresse aux professionnels IT avancés souhaitant mettre en œuvre des analyses prédictives, automatiser les correctifs et concevoir des workflows d'analyse des causes racines intelligents à l'aide d'outils AIOps et de modèles d'apprentissage automatique.
À l'issue de cette formation, les participants seront en mesure de :
- Concevoir et entraîner des modèles d'apprentissage automatique (ML) pour détecter les schémas conduisant aux pannes système.
- Automatiser les workflows d'analyse des causes racines basés sur la corrélation multi-sources de journaux et de métriques.
- Intégrer les processus d'alerte et de correctif dans les plateformes existantes.
- Déployer et mettre à l'échelle des pipelines AIOps intelligents dans des environnements de production.
Format du cours
- Conférence interactive et discussions.
- Nombreux exercices et pratiques.
- Mise en œuvre pratique dans un environnement de laboratoire en direct.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter pour en convenir.
Les fondamentaux de l'AIOps : Surveillance, corrélation et alertes intelligentes
14 HeuresL'AIOps (Intelligence Artificielle pour les opérations IT) est une pratique qui applique le machine learning et l'analyse des données pour automatiser et améliorer les opérations IT, notamment dans les domaines de la surveillance, de la détection des incidents et de la réponse.
Cette formation en présentiel ou en ligne, animée par un instructeur, s'adresse aux professionnels des opérations IT de niveau intermédiaire qui souhaitent mettre en œuvre des techniques AIOps pour corréler les métriques et les logs, réduire le bruit des alertes et améliorer l'observabilité grâce à l'automatisation intelligente.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les principes et l'architecture des plateformes AIOps.
- Corréler les données entre les logs, les métriques et les traces afin d'identifier les causes racines.
- Réduire la fatigue liée aux alertes grâce au filtrage intelligent et à la suppression du bruit.
- Utiliser des outils open source ou commerciaux pour surveiller et répondre automatiquement aux incidents.
Format de la formation
- Conférences interactives et discussions.
- De nombreux exercices et mises en pratique.
- Mise en œuvre pratique dans un environnement de laboratoire en direct.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'en convenir.
Conception d'un pipeline AIOps avec des outils open source
14 HeuresUn pipeline AIOps entièrement conçu avec des outils open source permet aux équipes de concevoir des solutions flexibles et économiques pour l'observabilité, la détection d'anomalies et l'alerte intelligente dans les environnements de production.
Cette formation en présentiel ou en ligne, dispensée par un formateur expert, s'adresse aux ingénieurs de niveau avancé souhaitant concevoir et déployer un pipeline AIOps de bout en bout à l'aide d'outils tels que Prometheus, ELK, Grafana et des modèles ML personnalisés.
À l'issue de cette formation, les participants seront capables de :
- Concevoir une architecture AIOps en n'utilisant que des composants open source.
- Collecter et normaliser les données issues des journaux, des métriques et des traces.
- Appliquer des modèles ML pour détecter les anomalies et prédire les incidents.
- Automatiser les alertes et les procédures de correction à l'aide d'outils open source.
Format de la formation
- Cours interactif et débats.
- De nombreux exercices et mises en pratique.
- Mise en œuvre concrète dans un environnement de laboratoire en direct.
Options de personnalisation de la formation
- Pour demander une formation personnalisée, veuillez nous contacter pour en convenir.
Gestion des risques et sécurité de l'IA dans le secteur public
7 HeuresL'intelligence artificielle (IA) introduit de nouvelles dimensions en termes de risques opérationnels, de défis de gouvernance et d'exposition à la cybersécurité pour les agences et départements gouvernementaux.
Cette formation en présentiel ou en ligne, animée par un formateur, s'adresse aux professionnels de l'informatique et des risques du secteur public ayant peu ou pas d'expérience préalable en IA, mais souhaitant comprendre comment évaluer, superviser et sécuriser les systèmes d'IA dans un contexte gouvernemental ou réglementaire.
À l'issue de cette formation, les participants seront capables de :
- Interpréter les concepts clés liés aux risques des systèmes d'IA, y compris les biais, l'imprévisibilité et la dérive des modèles.
- Appliquer des cadres de gouvernance et d'audit spécifiques à l'IA, tels que le NIST AI RMF et l'ISO/IEC 42001.
- Reconnaître les menaces de cybersécurité ciblant les modèles d'IA et les pipelines de données.
- Mettre en place des plans de gestion des risques transdisciplinaires et aligner les politiques pour le déploiement de l'IA.
Format du cours
- Conférences interactives et discussions sur des cas d'utilisation du secteur public.
- Exercices de gouvernance des IA et cartographie des politiques.
- Modélisation des menaces et évaluation des risques par scénarios.
Options de personnalisation du cours
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin d'en convenir.
Sécurité de l'IA pour les équipes de sécurité
35 HeuresCe cours propose une introduction pratique à la sécurisation des applications modernes alimentées par l'IA, des API, des copilotes et des agents autonomes. Les participants apprennent en quoi la sécurité IA diffère de la sécurité web traditionnelle, explorent les menaces spécifiques à l'IA telles que l'injection de prompt, l'empoisonnement RAG et l'abus d'agents, et comprennent comment protéger les systèmes IA à l'aide de défenses multicouches incluant des WAF, des passerelles IA, la sécurité des API et des garde-fous. Grâce à des ateliers pratiques et à des exemples concrets, les apprenants acquièrent les compétences nécessaires pour identifier les schémas d'attaques IA, sécuriser les applications basées sur LLM et déployer des défenses en temps réél efficaces pour les environnements de production.
Introduction à la Gestion de la Confiance, du Risque et de la Sécurité de l'IA (AI TRiSM)
21 HeuresCette formation en direct dirigée par un formateur à Belgique (en ligne ou sur site) s'adresse aux professionnels de l'informatique de niveau débutant à intermédiaire qui souhaitent comprendre et mettre en œuvre l'AI TRiSM dans leurs organisations.
À l'issue de cette formation, les participants seront en mesure de :
- Comprendre les concepts clés et l'importance de la confiance, de la gestion des risques et de la sécurité dans l'IA.
- Identifier et atténuer les risques associés aux systèmes d'IA.
- Mettre en œuvre les meilleures pratiques de sécurité pour l'IA.
- Comprendre la conformité réglementaire et les considérations éthiques liées à l'IA.
- Élaborer des stratégies efficaces de gouvernance et de gestion de l'IA.
Autonomous Operations with AI Agents
14 HeuresThis instructor-led, live training in Belgique (online or onsite) is aimed at SRE and DevOps engineers who want to design, build, and safely deploy AI agents for autonomous IT operations.
Développer des applications LLM sécurisées et responsables
14 HeuresCette formation en direct, animée par un formateur, en Belgique (en ligne ou en présentiel) s'adresse aux développeurs AI, architectes et chefs de produits de niveau intermédiaire à avancé qui souhaitent identifier et atténuer les risques associés aux applications alimentées par des LLM, y compris l'injection de prompts, les fuites de données et les sorties non filtrées, tout en intégrant des contrôles de sécurité tels que la validation des entrées, la supervision humaine et des garde-fous pour les sorties.
À l'issue de cette formation, les participants seront capables de :
- Comprendre les vulnérabilités fondamentales des systèmes basés sur des LLM.
- Appliquer des principes de conception sécurisée à l'architecture des applications LLM.
- Utiliser des outils tels que Guardrails AI et LangChain pour la validation, le filtrage et la sécurité.
- Intégrer des techniques telles que le sandboxing, le red teaming et la révision par un humain dans des pipelines de qualité production.
Construire des applications IA sécurisées
21 HeuresCe cours apprend aux développeurs de logiciels à construire des applications IA sécurisées par conception. Les participants apprennent à protéger les chatbots, copilotes, pipelines RAG et agents IA contre les menaces spécifiques à l'IA telles que l'injection de prompt, l'empoisonnement des données, l'abus d'outils, la fuite de secrets et la sortie du modèle insecure. Le cours couvre la conception sécurisée des prompts, la sécurité RAG, l'accès au moindre privilège, les garde-fous et les tests red-team, aidant les développeurs à créer des fonctionnalités IA qui sont sûres, fiables et résilientes dans des environnements réels.
AIOps d'entreprise avec Splunk, Moogsoft et Dynatrace
14 HeuresLes plateformes AIOps d'entreprise telles que Splunk, Moogsoft et Dynatrace offrent des capacités puissantes pour détecter les anomalies, corréler les alertes et automatiser les réponses au sein d'environnements informatiques à grande échelle.
Cette formation en direct animée par un formateur (en ligne ou sur site) s'adresse aux équipes informatiques d'entreprise de niveau intermédiaire souhaitant intégrer des outils AIOps dans leur pile d'observabilité et leurs processus opérationnels existants.
À l'issue de cette formation, les participants seront en mesure de :
- Configurer et intégrer Splunk, Moogsoft et Dynatrace dans une architecture AIOps unifiée.
- Corréler les métriques, les journaux et les événements au sein de systèmes distribués en utilisant des analyses basées sur l'IA.
- Automatiser la détection, la priorisation et la réponse aux incidents grâce aux flux de travail intégrés et personnalisés.
- Optimiser les performances, réduire le temps moyen de résolution (MTTR) et améliorer l'efficacité opérationnelle à l'échelle de l'entreprise.
Format de la formation
- Cours interactif et discussions.
- Nombreux exercices et mises en pratique.
- Implémentation concrète dans un environnement de laboratoire en direct.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin de convenir des détails.
Mise en œuvre d'AIOps avec Prometheus, Grafana et le Machine Learning
14 HeuresPrometheus et Grafana sont des outils largement adoptés pour l'observabilité dans les infrastructures modernes, tandis que le machine learning enrichit ces outils avec des insights prédictifs et intelligents pour automatiser les décisions opérationnelles.
Cette formation animée par un instructeur (en ligne ou sur site) s'adresse aux professionnels de l'observabilité de niveau intermédiaire souhaitant moderniser leur infrastructure de monitoring en intégrant des pratiques AIOps grâce à Prometheus, Grafana et aux techniques de machine learning.
À l'issue de cette formation, les participants seront capables de :
- Configurer Prometheus et Grafana pour assurer l'observabilité des systèmes et des services.
- Collecter, stocker et visualiser des données série temporelle de haute qualité.
- Appliquer des modèles de machine learning pour la détection d'anomalies et la prévision.
- Concevoir des règles d'alerte intelligentes basées sur des insights prédictifs.
Format de la formation
- Conférence interactive et débats.
- Nombreux exercices et mises en pratique.
- Implémentation concrète dans un environnement de laboratoire en temps réel.
Options de personnalisation de la formation
- Pour demander une formation personnalisée pour ce cours, veuillez nous contacter afin de l'organiser.
LLMOps: Production LLM Operations and Governance
14 HeuresThis instructor-led, live training in Belgique (online or onsite) is aimed at ML engineers and platform teams who need to build robust operational pipelines for LLM-powered applications at scale.
