Neem contact met ons op

Cursusaanbod

Grondslagen: Bedreigingsmodellen voor agentic AI

  • Soorten bedreigingen: misbruik, escalatie, datalekken en risico’s uit de leverketen
  • Profielen van aanvallers en hun mogelijkheden specifiek voor autonome agents
  • Inventarisatie van assets, vertrouwensgrenzen en cruciale controlepunten

Governance, beleid en risicobeheer

  • Governancekaders voor agentic systemen: rollen, verantwoordelijkheden en goedkeuringsprocedures
  • Beleidsontwikkeling: gebruiksrichtlijnen, escalatieregels, gegevensbehandeling en auditbaarheid
  • Complianceoverwegingen en documentatievereisten voor audits

Identiteit en authenticatie voor niet-menselijke agents

  • Identiteitsontwerp: service-accounts, JWT’s en tijdelijk geldige toegangscodes
  • Patronen voor beperkte toegrechten en tijdelijke authenticatieverlening
  • Beheer van identiteitslevenscyclus, rotatie, delegeren en intrekking

Toegangscontrole, geheimbeheer en databescherming

  • Gedetailleerde toegangsmodellen en beperkingen op basis van capaciteiten voor agents
  • Beheer van vertrouwelijke informatie, encryptie bij overdracht en opslag, evenals minimalisering van verzamelde gegevens
  • Bescherming van kritische kennisbronnen en persoonsgegevens tegen onbevoegd agentsgebruik

Observability, auditing en incidentrespons

  • Telemetrieontwerp voor agentgedrag: intentieregistratie, commando-logs en oorsprongsbewijs
  • Integratie met SIEM, instellen van alarmdrempels en voorbereiden op forensisch onderzoek
  • Procedures voor aanpak en beperking van incidenten waarbij agents betrokken zijn

Red-Teaming bij agentic systemen

  • Planning van red-teamoefeningen: beperkingen, regels en veilige fallbackmechanismen
  • Aanvalstechnieken: promptinjectie, misbruik van hulpmiddelen, manipulatie van redeneringsketens en API-misbruik
  • Uitvoeren van gecontroleerde aanvallen en beoordeling van blootstelling en impact

Versterking en mitigatiestrategieën

  • Technische maatregelen: snelheidsbeperkingen, toegangscontroles en sandboxing
  • Beleidgebaseerde controles: goedkeuringsprocessen, menselijke betrokkenheid en governancekaders
  • Verdediging op model- en promptniveau: inputvalidatie, standaardisering en filtering van uitvoer

Implementatie van veilige agentsystemen

  • Implementatiestrategieën: testomgevingen, canary-releases en gefaseerde uitrol
  • Beheersing van wijzigingen, testpipelijnen en voorafgaande veiligheidstests
  • Samenwerking tussen afdelingen: beveiliging, juridische zaken, productontwikkeling en operaties

Afsluitende oefening: Red-Team / Blue-Team actie

  • Uitvoeren van een gesimuleerde aanval door het red-team op een afgesloten agentsomgeving
  • Het blue-team verdedigt, detecteert en lost problemen op met behulp van beveiligingsmaatregelen en telemetrie
  • Presenteren van resultaten, verbeteringsplannen en aangepaste beleidswijzigingen

Samenvatting en volgende stappen

Vereisten

  • Gedegen kennis van beveiligingsengineering, systeembeheer of cloudoperaties
  • Kennis van AI/ML-concepten en het gedrag van grote taalmodellen (LLM’s)
  • Ervaring met identiteits- en toegangsbeheer (IAM) evenals beveiligd systeemontwerp

Doelgroep

  • Beveiligingsengineers en red-teamers
  • AI-operatiesmedewerkers en platformengineers
  • Compliancefunctionarissen en risicomanagers
  • Engineeringleiders die verantwoordelijk zijn voor implementatie van agents
 21 Uren

Aantal deelnemers


Prijs per deelnemer

Voorlopige Aankomende Cursussen

Gerelateerde categorieën