Cursusaanbod
Machine Learning Modellen Voorbereiden voor Deployment
- Modellen verpakken met Docker
- Modellen exporteren uit TensorFlow en PyTorch
- Versiebeheer en opslagoverwegingen
Model Serving op Kubernetes
- Overzicht van inference servers
- TensorFlow Serving en TorchServe deployen
- Model endpoints opzetten
Inference Optimalisatietechnieken
- Batching strategieën
- Concurrency request handling
- Latency en throughput tuning
Autoscaling ML Workloads
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
GPU Provisionering en Resource Management
- GPU nodes configureren
- NVIDIA device plugin overzicht
- Resource requests en limits voor ML workloads
Model Rollout en Release Strategieën
- Blue/green deployments
- Canary rollout patterns
- A/B testing voor model evaluatie
Monitoring en Observability voor ML in Productie
- Metrics voor inference workloads
- Logging en tracing praktijken
- Dashboards en alerting
Security en Reliability Overwegingen
- Model endpoints beveiligen
- Network policies en access control
- High availability waarborgen
Samenvatting en Volgende Stappen
Vereisten
- Een begrip van containergebaseerde applicatie workflows
- Ervaring met Python-gebaseerde machine learning modellen
- Vertrouwdheid met Kubernetes fundamentals
Doelgroep
- ML-ingenieurs
- DevOps ingenieurs
- Platform engineering teams
Getuigenissen (5)
Interactiviteit, geen hele dag naar diavoorstellingen zitten kijken
Emilien Bavay - IRIS SA
Cursus - Kubernetes Advanced
Automatisch vertaald
Hij was geduldig en begreep dat we achterbleven
Albertina - REGNOLOGY ROMANIA S.R.L.
Cursus - Deploying Kubernetes Applications with Helm
Automatisch vertaald
De training was meer praktisch
Siphokazi Biyana - Vodacom SA
Cursus - Kubernetes on AWS
Automatisch vertaald
Leren over Kubernetes.
Felix Bautista - SGS GULF LIMITED ROHQ
Cursus - Kubernetes on Azure (AKS)
Automatisch vertaald
Het gaf een goede basis voor Docker en Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Cursus - Docker (introducing Kubernetes)
Automatisch vertaald