Neem contact met ons op

Cursusaanbod

Machine Learning-modellen voorbereiden voor implementatie

  • Modellen verpakken met Docker
  • Modellen exporteren vanuit TensorFlow en PyTorch
  • Overwegingen rond versiebeheer en opslag

Modelaanbieding op Kubernetes

  • Overzicht van inferentieservers
  • Implementeren van TensorFlow Serving en TorchServe
  • Inrichten van model-eindpunten

Technieken voor inferentie-optimalisatie

  • Batchstrategieën
  • Verwerking van gelijktijdige verzoeken
  • Tuning van latentie en doorvoer

Autoscaling van ML-werklasten

  • Horizontal Pod Autoscaler (HPA)
  • Vertical Pod Autoscaler (VPA)
  • Kubernetes Event-Driven Autoscaling (KEDA)

GPU-provisioning en resourcebeheer

  • Configureren van GPU-nodes
  • Overzicht van NVIDIA Device Plugin
  • Resource-aanvragen en limieten voor ML-werklasten

Modeluitrol- en releasestrategieën

  • Blue/green-implementaties
  • Canary-uitrolpatronen
  • A/B-testen voor model-evaluatie

Monitoring en observabiliteit voor ML in productie

  • Metrieken voor inferentiewerklasten
  • Logging- en tracingpraktijken
  • Dashboarding en alerting

Beveiliging en betrouwbaarheidsaspecten

  • Beveiligen van model-eindpunten
  • Netwerkbeleidsregels en toegangscontrole
  • Zorgen voor hoge beschikbaarheid

Samenvatting en vervolgstappen

Vereisten

  • Begrip van werkstromen voor gecontaineriseerde applicaties
  • Ervaring met Python-gebaseerde machine learning-modellen
  • Basiskennis van Kubernetes

Doelgroep

  • ML-engineers
  • DevOps-engineers
  • Platform engineering teams
 14 Uren

Aantal deelnemers


Prijs per deelnemer

Getuigenissen (3)

Voorlopige Aankomende Cursussen

Gerelateerde categorieën