Bedankt voor uw aanvraag! Een van onze medewerkers neemt binnenkort contact met u op
Bedankt voor uw boeking! Een van onze medewerkers neemt binnenkort contact met u op.
Cursusaanbod
Het dreigingslandschap binnen AI
- Waarom AI-beveiliging anders is: non-determinisme, ondoorzichtige redenering en prompts als aanvalsvlakken
- Classificatie van aanvallen: op trainingstijd, inferentietijd en in de supply chain
- Het aanvalsmodel binnen ML: wie valt AI-systemen aan en waarom
OWASP Top 10 voor LLM-applicaties
- Prompt-injectie: directe en indirecte aanvalstechnieken
- Ongeschikte verwerking van uitvoer en kruisplugin-verzoekfrauserie
- Vervuiling van traininggegevens en kwetsbaarheden binnen de supply chain
- Denial-of-service van modellen, blootstelling van gevoelige informatie en excessieve bevoegdheden
- Praktijkoefening: het uitbuiten van elke OWASP-categorie op een testapplicatie
Prompt-injectie en red teaming rond jailbreak-technieken
- Classificatie van injectietechnieken: direct, indirect, meerfasig en multimodaal
- Geautomatiseerd red teamen met tools als Giskard, Garak en aangepaste fuzzing-tools
- Classificatie van jailbreaks en beoordeling van verdedigingsmaatregelen<\/li>
- Het opstellen van een red team-teststructuur voor continue beveiligingstoetsing van LLM’s
Aanvallen en verdedigingen op modelniveau
- Modelextractie: het stelen van modelparameters en functionaliteit via API-aanroepen
- Lidmaatschapsinferie: vaststellen of gegevens onderdeel waren van de trainingdataset
- Adverse voorbeelden: kleine veranderingen die classificatoren en embeddings misleiden
- Data-vergiftiging: het manipuleren van trainingsdata om achterdeuren te creëren of de prestaties te verlagen
Beveiligingsmaatregelen voor invoer en uitvoer
- Invoersanitisatie die verder gaat dan traditionele webbeveiliging
- Uitvoerfiltering: voorkomen van giftige inhoud, lekken van PII en ongewenste codeexecutie
- Gebruik van beveiligingsbeleidsmechanismen zoals NeMo, Guardrails AI en aangepaste regels
- Het afdwingen van gestructureerde uitvoer als vorm van beveiliging
Beveiliging van de AI-supply chain
- Modelherkomst: verifiëren van authenticiteit en integriteit van modellen
- Scannen op risico’s in afhankelijkheden zoals ML-frameworks en modelformaten
- Beveiligd serveren van modellen: sandboxing, netwerkisolatie en toegang met minimaal recht
- Toetsen of gefine-tundeerde en door derden ontwikkelde modellen malware bevatten
Operationele beveiliging voor AI-systemen
- Toegangscontrole voor model-eindpunten, vectoropslag en agenttools
- Auditlogging van elke interactie met en beslissing door een AI-model
- Incidentrespons bij beveiligingsincidenten specifiek binnen AI: wanneer het model zelf gecompromitteerd is
- Continu beveiligingstesten in CI/CD-pipelines voor ML-toepassingen
Ontwikkelen van een AI-beveiligingsprogramma
- Beveiligingsrijpheidsmodel en uitvoeringsplan voor AI-beveiliging
- Integratie van AI-beveiliging binnen bestaande AppSec- en cloudbeveiligingsprogramma’s
- Gebieden van governance en nieuwe regelgeving betreffende AI-systemen
- Het opstellen en onderhouden van een organisatiebreed AI-beveiligingstestplan
Vereisten
- Ervaring met het implementeren van ML-modellen of LLM-applicaties in productie.
- Kennis van beveiligingsconcepten, waaronder authenticatie, autorisatie en dreiganalyse.
- Beheersing van Python voor het uitvoeren van oefeningen op het gebied van adverste tests.
Doelgroep
- Beveiligingsengineers die zich verdiepen in AI-/ML-beveiligingsrisico’s.
- Machine learning-engineers verantwoordelijk voor de veiligheid en robuustheid van modellen.
- Red team-leden die AI-systemen toevoegen aan hun testbereik.
14 Uren