Red Teaming van AI-systemen: Offensieve beveiliging voor machine learning-modellen Training Cursus

AAISM is een geavanceerd raamwerk voor de beoordeling, het sturen en het beheren van beveiligingsrisico's in kunstmatige intelligentiesystemen (AI).

Deze door een docent geleide, live training (online of op locatie) is bedoeld voor professionals op geavanceerd niveau die effectieve beveiligingscontroles en governancepraktijken willen implementeren voor enterprise AI-omgevingen.

Na afloop van dit programma zijn de deelnemers in staat om:

• AI-beveiligingsrisico's te evalueren met behulp van door de branche erkende methodologieën.
• Governance-modellen te implementeren voor verantwoord AI-deployment.
• AI-beveiligingsbeleid af te stemmen op organisatiedoelen en reguleringsverwachtingen.
• Veerkracht en accountability te versterken binnen AI-gedreven operaties.

Vorm van de cursus

• Gefaciliteerde lezingen, ondersteund door expertanalyse.
• Praktische workshops en activiteiten op basis van assessments.
• Toegepaste oefeningen met behulp van real-world AI-governance-scenario's.

Opties voor aanpassing van de cursus

• Voor op maat gemaakte training, afgestemd op uw organisatie-AI-strategie, neemt u contact met ons op om de cursus aan te passen.

Deze praktijkgerichte training onder leiding van een docent in België (online of op locatie) richt zich op leidinggevenden met enige ervaring die willen begrijpen hoe zij AI-systemen verantwoord kunnen beheren en beveiligen, rekening houdend met nieuwe internationale regelgeving zoals de EU-AI Act, GDPR, ISO/IEC 42001 en het Amerikaanse executief besluit inzake AI.

Na afloop van deze training zullen de deelnemers in staat zijn om:

• De wettelijke, ethische en reglementaire risico’s van AI-toepassingen binnen verschillende afdelingen te begrijpen.
• Belangrijke governance-raamwerken voor AI (zoals de EU-AI Act, NIST AI RMF en ISO/IEC 42001) te interpreteren en toe te passen.
• Beleid op het gebied van beveiliging, audit en toezicht voor AI-implementaties binnen hun organisatie vast te stellen.
• Richtlijnen op te stellen voor de inkoop en het gebruik van zowel externe als interne AI-systemen.

Kunstmatige intelligentie (AI) introduceert nieuwe vormen van operationele risico’s, governance-uitdagingen en cybersecurity-gerelateerde kwetsbaarheden voor overheidsinstanties en -afdelingen.

Deze door een instructeur begeleide, live-training (online of ter plaatse) is bedoeld voor IT- en risicobeheerprofessionals binnen de publieke sector die weinig tot geen ervaring met AI hebben, maar wel willen leren hoe zij AI-systemen kunnen evalueren, monitoren en beveiligen in een overheidscontext.

Na afloop van deze training zijn de deelnemers in staat tot het volgende:

• De belangrijkste risicoconcepten rondom AI-systemen begrijpen, zoals bias, onvoorspelbaarheid en modeldrift.
• Toepassen van governance- en auditraamwerken die specifiek voor AI zijn ontwikkeld, zoals NIST AI RMF en ISO/IEC 42001.
• Cybersecurity-bedreigingen identificeren die gericht zijn op AI-modellen en datapijplijnen.
• Interdepartementale risicobeheerplannen opstellen en beleidsafspraken realiseren voor de implementatie van AI.

Opbouw van de cursus

• Interactieve lezingen en discussies over voorbeelden uit de publieke sector.
• Oefeningen rond AI-governancekaders en beleidsontwikkeling.
• Scenario-gebaseerde dreigingsmodellering en risicoanalyse.

Mogelijkheden tot cursusaanpassing

• Indien u een maatwerkcursus wenst, kunt u contact met ons opnemen om dit te regelen.

In deze cursus krijgen deelnemers praktische kennis over het beveiligen van moderne AI-gestuurde toepassingen, API’s, copiloten en autonome agenten. Ze leren wat het verschil is tussen traditionele webbeveiliging en AI-beveiliging, doen ervaring op met veelvoorkomende bedreigingen zoals prompt injection, RAG-vergiftiging en misbruik van agenten, en ontdekken hoe men AI-systemen beschermt via meerdere verdedigingslagen waaronder WAF’s, AI-gateways, API-beveiliging en guardrails. Met behulp van praktische oefeningen en reële scenario’s ontwikkelen deelnemers vaardigheden om aanvalspatronen te ontdekken, LLM-gebaseerde toepassingen af te schermen en effectieve runtime-defensies te implementeren in productieomgevingen.

Deze door een instructeur geleide live-training in België (online of op locatie) is bedoeld voor IT-professionals met basis- tot gevorderde kennis die AI TRiSM willen begrijpen en implementeren binnen hun organisaties.

Aan het einde van deze training zullen de deelnemers in staat zijn om:

• De kernbegrippen en het belang van vertrouwen, risicobeheer en beveiliging bij kunstmatige intelligentie te begrijpen.
• Risico’s die verbonden zijn aan AI-systemen te identificeren en te verminderen.
• De beste beveiligingspraktijken voor kunstmatige intelligentie toe te passen.
• Regelgevende vereisten en ethische overwegingen met betrekking tot AI te begrijpen.
• Strategieën te ontwikkelen voor effectief bestuur en beheer van kunstmatige intelligentie.

Deze door een instructeur geleide training in België (online of ter plaatse) is bedoeld voor AI-ontwikkelaars, architecten en productmanagers op midden- tot hoog niveau die risico’s in applicaties met grote taalmodellen willen beperken. Denk aan prompt-injectie, datalekken en ongefilterde output, evenals het toepassen van veiligheidsmaatregelen zoals invoervalidatie, menselijke toezichtfuncties en controlemechanismen voor output.

Aan het einde van deze training zullen de deelnemers in staat zijn om:

• De belangrijkste kwetsbaarheden van systemen gebaseerd op grote taalmodellen te begrijpen.
• Veilige ontwerpprincipes toe te passen bij de architectuur van LLM-applicaties.
• Hulpmiddelen zoals Guardrails AI en LangChain te gebruiken voor validatie, filtering en beveiliging.
• Technieken zoals sandboxing, red teaming en menselijke toetsing in productieomgevingen te integreren.

In deze cursus leert men hoe softwareontwikkelaars veilig AI-toepassingen kunnen ontwerpen. Deelnemers leren chatbots, copiloten, RAG-pijplijnen en AI-agents te beveiligen tegen specifieke bedreigingen zoals prompt-injectie, data-poisoning, misbruik van tools, het lekken van geheime informatie en onveilige modeloutput. Onderwerpen zijn onder meer defensief prompt-ontwerp, RAG-beveiliging, toepassing van least privilege, guardrail-bibliotheken en red-teaming, zodat men uiteindelijk betrouwbare, veilige en robuuste AI-functionaliteiten kan bouwen.

Deze door een instructeur geleide, live-training in België (online of ter plaatse) is bestemd voor AI- en cyberbeveiligingsprofessionals met een gemiddelde kennisniveau die zich willen verdiepen in de specifieke beveiligingsrisico’s van AI-modellen en -systemen, vooral binnen sectoren met strenge regelgeving zoals financiën, datagovernance en advies.

Aan het einde van deze training zullen deelnemers in staat zijn tot:

• De verschillende soorten vijandige aanvallen op AI-systemen te begrijpen en manieren om zich hiertegen te verdedigen.
• Het toepassen van technieken ter versterking van modellen, zodat machine learning-processen beter beschermd zijn.
• De beveiliging en integriteit van data binnen machine learning-modellen te waarborgen.
• Het navigeren door regelgevende vereisten met betrekking tot de beveiliging van AI.

Deze interactieve training onder leiding van een instructeur in België (online of op locatie) richt zich op beveiligingsingenieurs en compliance-functionarissen die hun EXO-implementaties willen versterken, toegang tot modellen willen reguleren en AI-werkbelastingen willen beheren die volledig on-premise draaien.

Deze door een instructeur geleide, live-training in België (online of op locatie) is bedoeld voor IT-beveiligings-, risico- en nalevingsspecialisten met weinig ervaring die de basisprincipes van AI-beveiliging, potentiële dreigingen en internationale richtlijnen zoals het NIST AI RMF en ISO/IEC 42001 willen begrijpen.

Na afronding van deze training zijn de deelnemers in staat tot:

• Het begrijpen van de specifieke beveiligingsrisico’s die voortvloeien uit het gebruik van AI-systemen.
• Het herkennen van dreigingen zoals aanvalsvoorbeelden, datavergiftiging en modelinversie.
• Het toepassen van basisreguleringsmodellen zoals het NIST AI Risk Management Framework.
• Het afstemmen van AI-gebruik op nieuwe normen, nalevingsrichtlijnen en ethische beginselen.

Deze door een instructeur geleide training in België (online of op locatie) is bedoeld voor beveiligings- en machine learning-engineers die aanvallen op ML-modellen en LLM-gebaseerde applicaties moeten identificeren, testen en afweren.

Gebaseerd op de meest recente richtlijnen uit het OWASP GenAI Security Project leren deelnemers hoe zij AI-specifieke bedreigingen kunnen identificeren, beoordelen en mitigeren via praktische oefeningen en realistische scenario’s.

Deze door een docent geleide training (online of op locatie) is gericht op professionals met een gevorderde achtergrond die technieken als gefedereerd leren, beveiligde meervoudige berekeningen, homomorfe encryptie en differentiële privacy willen implementeren in reële machine learning-oplossingen.

Na afronding van de cursus zullen de deelnemers onder andere het volgende kunnen:

• De belangrijkste privacy-behoudende technieken binnen machine learning begrepen en met elkaar vergelijken.
• Gefedereerde leersystemen opzetten met open-source tools.
• Differentiële privacy inzetten voor veilige uitwisseling en training van modellen.
• Encryptie- en beveiligingstechnieken gebruiken ter bescherming van zowel invoer als uitvoergegevens.

Deze interactieve training onder leiding van een instructeur in België (online of op locatie) is bedoeld voor ingenieurs en beveiligingsexperts met middenniveau die AI-modellen aan de edge willen beschermen tegen dreigingen zoals manipulatie, datalekken, kwaadaardige invoer en fysieke aanvallen.

Aan het einde van deze training zijn deelnemers in staat om:

• Beveiligingsrisico’s bij Edge AI-implementaties te identificeren en beoordelen.
• Technieken toe te passen voor het voorkomen van manipulatie en versleutelde inferentie.
• Modellen aan de edge te versterken en datapijplijnen veilig te maken.
• Beveiligingsstrategieën te implementeren die specifiek zijn voor ingebedde en beperkte systemen.

Deze door een instructeur geleide training in België (online of op locatie) is bedoeld voor professionals met middenniveau kennis van machine learning en cybersecurity. Zij leren hoe ze nieuwe dreigingen tegen AI-modellen kunnen begrijpen en mitigeren, onder andere via theoretische concepten en praktische verdedigingsmaatregelen zoals robuuste trainingstechnieken en differentiële privacy.

Na afloop van deze training kunnen deelnemers:

• AI-specifieke bedreigingen herkennen en classificeren, zoals vijandige aanvallen, inversieaanvallen en data-vergiftiging.
• Hulpmiddelen zoals het Adversarial Robustness Toolbox (ART) gebruiken om aanvallen te simuleren en modellen te testen.
• Praktische verdedigingsmaatregelen toepassen, waaronder vijandige trainingstechnieken, injectie van ruis en methoden om privacy te waarborgen.
• Strategieën ontwikkelen voor het evalueren van modellen onder rekeninghoudend met potentiële dreigingen in productieomgevingen.