Cursusaanbod
Inleiding tot GPU-geaccelereerde containerisatie
- GPU-gebruik in diepleerworkflows begrijpen
- Hoe Docker GPU-gebaseerde werkloads ondersteunt
- Belangrijke prestatieoverwegingen
Installeren en configureren van het NVIDIA Container Toolkit
- Stuurprogramma's en CUDA-compatibiliteit instellen
- GPU-toegang binnen containers valideren
- De runtime-omgeving configureren
Bouwen van GPU-geactiveerde Docker-images
- Gebruik maken van CUDA-basisimages
- AI-frameworks verpakken in GPU-klare containers
- Afhankelijkheden voor training en inferentie beheren
Uitvoeren van GPU-geaccelereerde AI-workloads
- Trainingsjobs uitvoeren met behulp van GPUs
- Werkloads met meerdere GPUs beheren
- GPU-gebruik monitoren
Optimaliseren van prestaties en resourceallocatie
- GPU-resources beperken en isoleren
- Gheheugen, batchgroottes en apparaatplaatsing optimaliseren
- Prestatietuning en diagnostiek
Gecontaineerde inferentie en modelservering
- Bouwen van inferentieklaar containers
- Zware werkloads op GPUs serveren
- Modelrunners en API's integreren
Schaalbaarheid van GPU-workloads met Docker
- Strategieën voor gedistribueerde GPU-training
- Infrentie-microservices schalen
- Multi-container AI-systemen coördineren
Beveiliging en betrouwbaarheid voor GPU-geactiveerde containers
- Veilige GPU-toegang in gedeelde omgevingen garanderen
- Container-images versterken
- Updates, versies en compatibiliteit beheren
Samenvatting en vervolgstappen
Vereisten
- Verstaan van de basisprincipes van diep leeren
- Ervaring met Python en veelgebruikte AI-frameworks
- Vakbekwaamheid in basisbegrippen van containerisatie
Doelgroep
- Diepleerengineers
- O&O-teams
- AI-modeltrainers
Getuigenissen (2)
Zoals ik eerder al zei, was dit voor iemand als mij (zonder ervaring) een poort van doorbraak om functies en mogelijkheden van deze programma's en tools te begrijpen.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Cursus - Docker and Kubernetes
Automatisch vertaald
geavanceerd en gestructureerd cursusprogramma.
Bert Paelinckx - Cube SoftwareSolutions
Cursus - Introduction to Docker
Automatisch vertaald