Neem contact met ons op

Cursusaanbod

Het dreigingslandschap binnen AI

  • Waarom AI-beveiliging anders is: non-determinisme, ondoorzichtige redenering en prompts als aanvalsvlakken
  • Classificatie van aanvallen: op trainingstijd, inferentietijd en in de supply chain
  • Het aanvalsmodel binnen ML: wie valt AI-systemen aan en waarom

OWASP Top 10 voor LLM-applicaties

  • Prompt-injectie: directe en indirecte aanvalstechnieken
  • Ongeschikte verwerking van uitvoer en kruisplugin-verzoekfrauserie
  • Vervuiling van traininggegevens en kwetsbaarheden binnen de supply chain
  • Denial-of-service van modellen, blootstelling van gevoelige informatie en excessieve bevoegdheden
  • Praktijkoefening: het uitbuiten van elke OWASP-categorie op een testapplicatie

Prompt-injectie en red teaming rond jailbreak-technieken

  • Classificatie van injectietechnieken: direct, indirect, meerfasig en multimodaal
  • Geautomatiseerd red teamen met tools als Giskard, Garak en aangepaste fuzzing-tools
  • Classificatie van jailbreaks en beoordeling van verdedigingsmaatregelen<\/li>
  • Het opstellen van een red team-teststructuur voor continue beveiligingstoetsing van LLM’s

Aanvallen en verdedigingen op modelniveau

  • Modelextractie: het stelen van modelparameters en functionaliteit via API-aanroepen
  • Lidmaatschapsinferie: vaststellen of gegevens onderdeel waren van de trainingdataset
  • Adverse voorbeelden: kleine veranderingen die classificatoren en embeddings misleiden
  • Data-vergiftiging: het manipuleren van trainingsdata om achterdeuren te creëren of de prestaties te verlagen

Beveiligingsmaatregelen voor invoer en uitvoer

  • Invoersanitisatie die verder gaat dan traditionele webbeveiliging
  • Uitvoerfiltering: voorkomen van giftige inhoud, lekken van PII en ongewenste codeexecutie
  • Gebruik van beveiligingsbeleidsmechanismen zoals NeMo, Guardrails AI en aangepaste regels
  • Het afdwingen van gestructureerde uitvoer als vorm van beveiliging

Beveiliging van de AI-supply chain

  • Modelherkomst: verifiëren van authenticiteit en integriteit van modellen
  • Scannen op risico’s in afhankelijkheden zoals ML-frameworks en modelformaten
  • Beveiligd serveren van modellen: sandboxing, netwerkisolatie en toegang met minimaal recht
  • Toetsen of gefine-tundeerde en door derden ontwikkelde modellen malware bevatten

Operationele beveiliging voor AI-systemen

  • Toegangscontrole voor model-eindpunten, vectoropslag en agenttools
  • Auditlogging van elke interactie met en beslissing door een AI-model
  • Incidentrespons bij beveiligingsincidenten specifiek binnen AI: wanneer het model zelf gecompromitteerd is
  • Continu beveiligingstesten in CI/CD-pipelines voor ML-toepassingen

Ontwikkelen van een AI-beveiligingsprogramma

  • Beveiligingsrijpheidsmodel en uitvoeringsplan voor AI-beveiliging
  • Integratie van AI-beveiliging binnen bestaande AppSec- en cloudbeveiligingsprogramma’s
  • Gebieden van governance en nieuwe regelgeving betreffende AI-systemen
  • Het opstellen en onderhouden van een organisatiebreed AI-beveiligingstestplan

Vereisten

  • Ervaring met het implementeren van ML-modellen of LLM-applicaties in productie.
  • Kennis van beveiligingsconcepten, waaronder authenticatie, autorisatie en dreiganalyse.
  • Beheersing van Python voor het uitvoeren van oefeningen op het gebied van adverste tests.

Doelgroep

  • Beveiligingsengineers die zich verdiepen in AI-/ML-beveiligingsrisico’s.
  • Machine learning-engineers verantwoordelijk voor de veiligheid en robuustheid van modellen.
  • Red team-leden die AI-systemen toevoegen aan hun testbereik.
 14 Uren

Aantal deelnemers


Prijs per deelnemer

Voorlopige Aankomende Cursussen

Gerelateerde categorieën