Geavanceerde cursus over AI-agents: Engineering, beveiliging en governance voor productiesystemen Training Cursus

Dag 1

Anatomie van een moderne AI-agent

Naast chatbots: agenten als zelfstandige redeneer- en handelingssystemen

Reactieve, proactieve, hybride en doelgerichte modelleerpatronen voor agents

Kernonderdelen: waarneming, planning, geheugen, hulpmiddelengebruik en actie

Verschillen tussen ontwerpkeuzes bij enkelvoudige versus meerdere agents

Frameworks en moderne technologieën voor agents

LangChain, LlamaIndex, AutoGen, CrewAI – hun kenmerken en verschillen

Vergelijking met klassieke frameworks zoals JADE en SPADE

Het kiezen van een framework op basis van productie-eisen

Toolaanroep, functie-aanroepen en gestructureerde outputvorming

Praktijk: het maken van een eenvoudige Python-agent met hulpmiddelenaanroepen

Architecturen voor meerdere-agentensystemen

Gecentraliseerde, gedecentraliseerde en hybride ontwerpen van MAS-systemen

FIPA ACL, berichtoverdracht en hedendaagse equivalenten

Coördinatiepatronen: planning, onderhandeling en synchronisatie

Ontstaan van gedragingen en zelforganisatie bij groepen agents

Besluitvorming en leren binnen agenten

Gedragswetenschappen voor samenwerking of competitie tussen agents

Versterkend leren in omgevingen met meerdere agents

Overdraagbaar leren en kennisdeling tussen agents

Oplossen van conflicten en opbouw van vertrouwen binnen samenwerkende agents

Dag 2

Multimodale fundamenten voor agents

Multimodale AI als geïntegreerde werkstroom met tekst, afbeeldingen, spraak en video

Leidende multimodale modellen: GPT-4 Vision, Gemini, Claude en Whisper

Fusiemethoden om verschillende modalityen te combineren in redeneercycli van agents

Kosten, vertragingen en nauwkeurigheidseffecten bij multimodale systemen

Ontwikkelen van het waarnemingslaag voor agents

Beeldverwerking voor AI-agents: classificatie, omschrijving en objectdetectie

Spraakherkenning via Whisper ASR met streamingtranscripties

Text-to-speech-synthese en natuurlijke spraakinteractie

Koppelen van waarnemingsoutputs aan redeneerlogica en hulpmiddelselectie door LLMs

Praktijk: Opbouwen van een multimodale agent in Python

Bepalen van taken, contextvenster en beschikbare tools voor de agent

Volledige koppeling van GPT-4 Vision en Whisper API’s

Implementeren van geheugen, toestand en gespreksbeheer

Veilig activeren van toolaanroepen die daadwerkelijke effecten veroorzaken

Praktijk: Coördineren van een meerdere-agentensysteem

Samenstellen van gespecialiseerde agents met behulp van AutoGen of CrewAI

Rollen, taken en communicatieprotocols tussen individuele agents bepalen

Toewijzing van resources en coördinatie in een simulatieve omgeving

Registreren van denkproces, toolaanroepen en beslissingen voor controle en auditdoeleinden

Dag 3

Bedreigingslandschap bij productie-gebruikte AI-agents

Waarom AI-agentensystemen kwetsbaarder zijn dan traditionele software

Kwetsbare lagen: gegevens, modellen, prompts, tools, output en interfaces

Risicoanalyse bij agents die autonoom hulpmiddelen gebruiken

Vergelijking tussen AI-beveiligingsmaatregelen en traditionele cyberbeveiliging

Hands-on: Aanvalstechnieken tegen AI-agents

Adversariale voorbeelden en verstoringstechnieken: FGSM, PGD, DeepFool

Verschillen tussen open en gesloten aanvallerscenario’s

Modellreverse-engineering en afleiding van trainingsgegevens via membership inference

Datapoisoning en achterdeurinjectie tijdens modeltrainingen

Prompt-injectie, jailbreaking en misbruik van hulpmiddelen door LLM-agents

Defensieve maatregelen en versterking van modellen

Aanvalstrainingen en verbeterde data-augmentatiemethodieken

Gebruik van defensief destilleren en andere beveiligingsinstrumenten

Inputvoorbewerking, maskeren van gradiënten en regularisatietechnieken

Differentiële privacy, ruisinjectie en privacybudgetten toepassen

Federated learning en veilige aggregatie voor gedistribueerde trainingen

Praktijk: Testen met Adversarial Robustness Toolbox

Simulaties van aanvallen op het multimodale agentsysteem uit Dag 2

Het bepalen van robuustheid tegen verstoringen en meetbare degradatiegraad

Gedoseerd toepassen van beveiligingsmaatregelen en controleren van aanvalssuccesrates

Testen van hulpmiddelenaanroep-routebibliotheken op kwetsbaarheid tegen prompt-injecties

Dag 4

Risicomanagement bij AI-systemen

NIST AI Risk Management Framework: sturend beleid, kaartleggen, meting en beheer

ISO/IEC 42001 en andere recente standaarden voor AI-beveiliging

Risicobeoordeling ten opzichte van bestaande GRC-frameworks binnen bedrijven

Verantwoordelijkheid, controleerbaarheid en vereiste documentatie bij AI-systemen

Regelgevende eisen voor agentensystemen

EU AI Act: risicoclassificaties, verboden toepassingen en plichten voor hoogrisicosystemen

Gevolgen van GDPR en CCPA op gegevensverwerking door agents

Amerikaanse uitvoeringsbevel over veilige en betrouwbare AI-ontwikkeling

Sector-specifieke eisen voor financiën, zorgverlening en overheidsdiensten

Risicobeheersing bij gebruik van externe leverancier-AI-hulpmiddelen

Ethiek, vooroordelen en verklarend vermogen

Detectie en mitigering van ongewenste bias bij waarneming en redeneringen van agents

Verantwoordelijke transparantie en uitlegbaarheid als veiligheidscriteria

Rechtvaardigheid, potentiële schade en zorgvuldig beleid bij implementatie

Creëren van inclusieve en controleerbare gedragspatronen voor agents

Productie-implementatie, monitoring en reactie op incidenten

Veilige implementatiemethoden voor enkelvoudige of meerdere-agentensystemen

Gedurendelopende monitoring op drifts, afwijkende patronen en misbruik

Logregistratie, audittrails en forensische capaciteiten voor agentacties

Handelingsplannen en herstelstrategieën bij AI-beveiligingsincidenten

Praktijkvoorbeelden van AI-falen en lessen die daaruit getrokken kunnen worden

Slotopdracht en synthese

Overzicht geven van het tijdens de cursus ontwikkelde multimodale meerdere-agentensysteem

Het beoordelen van eind-naar-eind processen: ontwerp, ontwikkeling, beveiliging, governance en lancering

Zelfevaluatie met betrekking tot voldoen aan alle vereisten van NIST AI RMF

Toekomstverwachtingen rond ontwikkelingen binnen AI-agents en beveiligingsontwikkelingen

Samenvatting en vervolgstappen