Bedankt voor uw aanvraag! Een van onze medewerkers neemt binnenkort contact met u op
Bedankt voor uw boeking! Een van onze medewerkers neemt binnenkort contact met u op.
Duur 14 uren
Cursusaanbod
Machine learning-modellen voor implementatie voorbereiden
- Modellen verpakken met Docker
- Modellen exporteren vanuit TensorFlow en PyTorch
- Overwegingen rondom versiebeheer en opslag
Model Serving op Kubernetes
- Overzicht van inferentieservers
- TensorFlow Serving en TorchServe implementeren
- Model-eindpunten configureren
Optimalisatietechnieken voor inferentie
- Batching-strategieën
- Afhandeling van gelijktijdige aanvragen
- Afstemmen van latentie en doorputsnelheid
Autoscaling van ML-workloads
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
GPU-provisie en bronnemanagement
- GPU-knooppunten configureren
- Overzicht van de NVIDIA device plugin
- Bronverzoeken en limieten voor ML-workloads
Strategieën voor modelrollout en releasemanagement
- Blue/green implementaties
- Canary-rolloutpatronen
- A/B-testing voor modelevaluatie
Monitoring en observability van ML in productie
- Metrieken voor inferentieworkloads
- Praktijken voor logging en tracing
- Dashboards en alerteringsmechanismen
Overwegingen rondom beveiliging en betrouwbaarheid
- Beveiliging van modeleindpunten
- Netwerkbeleid en toegangsbeheer
- Hoge beschikbaarheid waarborgen
Samenvatting en vervolgstappen
Vereisten
- Een begrip van workflows voor gecontaineriseerde applicaties
- Ervaring met machine learning-modellen op basis van Python
- Kenning van de basisprincipes van Kubernetes
Publiek
- ML-ingenieurs
- DevOps-ingenieurs
- Platform engineering teams
Getuigenissen (1)
Ik heb de Kubernetes-onderdelen van de training gewaardeerd, omdat ik eerder met K8s-pods en -poorten te maken heb gehad en het nu beter snap. Dankjewel!
Laura Miron - Betfair
Cursus - Docker and Kubernetes
Automatisch vertaald