Programmeren van AMD GPU's Training Cursus
ROCm is een open source-platform voor het programmeren van GPU's dat ondersteuning biedt voor AMD-GPU’s en tevens compatibel is met CUDA en OpenCL. ROCm stelt programmeurs in staat om rechtstreeks toegang te krijgen tot de hardwaredetails en volledige controle uit te oefenen over het parallelle verwerkingsproces. Dit vereist echter wel een grondig begrip van de architectuur van het apparaat, het geheugenmodel, het uitvoeringsmodel en optimalisatietechnieken.
HIP is een C++-runtime-API en programmeertaal die het mogelijk maakt om code te schrijven die zowel op AMD- als NVIDIA-GPU’s werkt. HIP biedt een lichte abstractielaag over de native GPU-API’s, zoals ROCm en CUDA, waardoor gebruikers bestaande GPU-bibliotheken en -tools kunnen inzetten.
Deze door instructeurs begeleide training (online of ter plaatse) is bedoeld voor ontwikkelaars van beginners- tot gevorderdenniveau die ROCm en HIP willen gebruiken om AMD-GPU’s te programmeren en hun parallelisme optimaal uit te buiten.
Aan het einde van deze training zullen deelnemers in staat zijn om:
- Een ontwikkelomgeving op te zetten waarin ROCm Platform, een AMD-GPU en Visual Studio Code aanwezig zijn.
- Een eenvoudig ROCm-programma te schrijven dat vectoradditie uitvoert op de GPU en de resultaten vervolgens uit het GPU-geheugen haalt.
- De ROCm-API te gebruiken voor het raadplegen van apparaatinformatie, het reserveren en vrijgeven van geheugen, het overdragen van data tussen host en device, het starten van kernels en het synchroniseren van threads.
- De HIP-taal te hanteren voor het schrijven van kernels die op de GPU worden uitgevoerd en data bewerken.
- Ingebouwde functies, variabelen en bibliotheken in HIP te gebruiken voor veelvoorkomende taken en operaties.
- ROCm- en HIP-geheugentypen zoals globaal, gedeeld, constant en lokaal in te zetten om data-overdrachten en geheugentoegang te optimaliseren.
- De uitvoeringsmodellen van ROCm en HIP toe te passen voor het beheren van threads, blokken en grids die de parallelle werking vormgeven.
- ROCm- en HIP-programma’s te debuggen en testen met behulp van hulpmiddelen zoals ROCm Debugger en ROCm Profiler.
- ROCm- en HIP-programma’s te optimaliseren door middel van technieken als coëlescentie, caching, prefetching en profilering.
Opzet van de cursus
- Interactieve lezingen en discussies.
- Veel oefeningen en praktische opdrachten.
- Hands-on implementaties in een live-labomgeving.
Mogelijkheden tot cursuscustomisatie
- Wilt u een op maat gemaakte training? Neem dan contact met ons op om de details af te spreken.
Cursusaanbod
Inleiding
- Wat is ROCm?
- Wat is HIP?
- ROCm versus CUDA versus OpenCL
- Overzicht van de kenmerken en architectuur van ROCm en HIP
- Het opzetten van de ontwikkelomgeving
Aan de slag
- Een nieuw ROCm-project aanmaken met Visual Studio Code.
- De structuur en bestanden van het project verkennen.
- Het programma compileren en uitvoeren.
- De output weergeven met behulp van printf en fprintf.
ROCm-API
- De rol van de ROCm-API in het host-program begrijpen.
- Apparaatinformatie en mogelijkheden raadplegen via de ROCm-API.
- Geheugen op de GPU reserveren en vrijgeven met behulp van de ROCm-API.
- Data overdragen tussen host en device door gebruik te maken van de ROCm-API.
- Kernels starten en threads synchroniseren via de ROCm-API.
- Fouten en uitzonderingen afhandelen met behulp van de ROCm-API.
HIP-taal
- De rol van de HIP-taal in het device-program begrijpen.
- Kernels schrijven die op de GPU worden uitgevoerd en data bewerken met behulp van HIP.
- HIP-datatypen, kwalificerende termen, operators en expressies gebruiken.
- Ingebouwde functies, variabelen en bibliotheken in HIP benutten voor veelvoorkomende operaties.
ROCm- en HIP-geheugenmodel
- Het verschil tussen host- en device-geheugenmodellen begrijpen.
- Gebruik maken van ROCm- en HIP-geheugentypen zoals globaal, gedeeld, constant en lokaal.
- Geheugenobjecten als pointers, arrays, textures en surfaces inzetten via ROCm en HIP.
- Het gebruik van verschillende toegangsmodi – zoals read-only, write-only en read-write – bij geheugenoperaties.
- Het begrijpen van het geheugenconsistentiemodel en synchronisatiemechanismen in ROCm en HIP.
ROCm- en HIP-uitvoeringsmodel
- Het onderscheid tussen host- en device-uitvoeringsmodellen begrijpen.
- Parallelisme beheren met behulp van threads, blokken en grids in ROCm en HIP.
- Functies zoals hipThreadIdx_x, hipBlockIdx_x en hipBlockDim_x gebruiken om threadbeheer te regelen.
- Blokeigenschappen zoals __syncthreads en __threadfence_block hanteren om synchronisatie te bewerkstelligen.
- Gridspecifieke functies zoals hipGridDim_x, hipGridSync en coöperatieve groepen inzetten voor uitgebreid threadbeheer.
Debugging
- Vaak voorkomende fouten en bugs in ROCm- en HIP-programma’s herkennen.
- Het debuggen van variabelen, breakpoints en de call stack met Visual Studio Code.
- Het debuggen van programma's op AMD-apparaten door middel van ROCm Debugger.
- De prestaties analyseren via ROCm Profiler voor verdere optimalisatie.
Optimalisatie
- Factoren bepalen die de performantie van ROCm- en HIP-programma’s beïnvloeden.
- Het toepassen van coëlescentietechnieken om geheugenbandbreedte te verhogen.
- Caching- en prefetching-technieken gebruiken om geheugentraagheid terug te dringen.
- Gedeeld en lokaal geheugen benutten om data-access en bandbreedte aanzienlijk te verbeteren.
- Het meten en verfijnen van uitvoeringstijd en systeemgebruik door middel van profileringstechnieken.
Samenvatting en vervolgstappen
Vereisten
- Basiskennis van de C/C++-taal en begrip van concepten rond parallel programmeren
- Grondige kennis van computarchitectuur en het geheugenhiërarchiepatroon
- Ervaring met command-line-tools en code-editors
Doelgroep
- Ontwikkelaars die ROCm en HIP willen leren gebruiken om AMD-GPU’s te programmeren en hun parallelle capaciteiten optimaal in te zetten.
- Ontwikkelaars die code met hoge prestaties en schaalbaarheid willen schrijven voor diverse AMD-apparaten.
- Programmeurs die meer willen weten over de onderliggende aspecten van GPU-programmeren en hun codeprestaties verder willen optimaliseren.
Voor open trainingen is een minimum aantal van 5 deelnemers vereist
Programmeren van AMD GPU's Training Cursus - Boeking
Programmeren van AMD GPU's Training Cursus - Navraag
Programmeren van AMD GPU's - Consultancyaanvraag
Voorlopige Aankomende Cursussen
Gerelateerde cursussen
AI-applicaties ontwikkelen met Huawei Ascend en CANN
21 UrenHuawei Ascend is een reeks AI-processoren die speciaal zijn ontworpen voor high-performance inferentie en training.
Deze live-training onder begeleiding van een instructeur (online of op locatie) richt zich op AI-engineers en data scientists met middenniveau-ervaring die neural netwerkmodellen willen ontwikkelen en optimaliseren met behulp van het Ascend-platform van Huawei en het CANN-toolkit.
Na afronding van deze training zullen deelnemers in staat zijn tot:
- Het instellen en configureren van de CANN-ontwikkelomgeving.
- Het ontwikkelen van AI-applicaties met behulp van MindSpore en CloudMatrix-werkstromen.
- Het optimaliseren van de prestaties op Ascend NPU’s door gebruik te maken van aangepaste operators en tiling-strategieën.
- Het implementeren van modellen in edge- of cloudomgevingen.
Opbouw van de cursus
- Interactieve lezingen en discussies.
- Praktijkmatig gebruik van Huawei Ascend en het CANN-toolkit in voorbeeldtoepassingen.
- Begeleide oefeningen gericht op modelontwikkeling, training en implementatie.
Mogelijkheden tot cursusaanpassing
- Indien u een op maat gemaakte training wenst, rekening houdend met uw infrastructuur of datasets, neem dan contact met ons op om dit te regelen.
AI-modellen implementeren met CANN en Ascend AI-processors
14 UrenCANN (Compute Architecture for Neural Networks) is Huawei’s rekenstack voor kunstmatige intelligentie, bedoeld om AI-modellen te implementeren en te optimaliseren op de Ascend AI-processors.
Deze praktijkgerichte training onder leiding van een instructeur (online of op locatie) is gericht op AI-ontwikkelaars en -engineers met basiskennis die efficiënt hun getrainde modellen willen implementeren op Huawei Ascend-hardware, gebruikmakend van het CANN-toolkit en frameworks zoals MindSpore, TensorFlow of PyTorch.
Na afronding van deze training kunnen deelnemers:
- De CANN-architectuur begrijpen en haar rol in het implementatieproces van AI-modellen waarderen.
- Modellen uit populaire frameworks converteren naar een Ascend-compatibel formaat.
- Hulpmiddelen zoals ATC, OM-modelconversie en MindSpore inzetten voor inferentie op edge-apparaten en in de cloud.
- Implementatieproblemen identificeren en prestaties optimaliseren op Ascend-hardware.
Vorm van de training
- Interactieve lezingen en demonstraties.
- Praktische oefeningen met CANN-tools en simulators of apparaten op basis van Ascend-processors.
- Reële implementatietoepassingen gebaseerd op daadwerkelijke AI-modellen.
Mogelijkheden voor maatwerk
- Indien gewenst kunnen wij een geheel op uw behoeften afgestemde training verzorgen; neem gerust contact met ons op.
AI-inferentie en implementatie met CloudMatrix
21 UrenCloudMatrix is het geïntegreerde AI-ontwikkel- en implementatieplatform van Huawei, dat bedoeld is om schaalbare inferentiepijplijnen in productieomgevingen te ondersteunen.
Deze live-training onder begeleiding van een instructeur (online of op locatie) is gericht op AI-professionals met weinig tot gemiddelde ervaring die hun AI-modellen willen implementeren en monitoren via het CloudMatrix-platform, waarbij gebruik wordt gemaakt van CANN en MindSpore.
Aan het einde van deze training zullen de deelnemers in staat zijn om:
- CloudMatrix te gebruiken voor het inpakken, implementeren en leveren van modellen.
- Modellen om te zetten en te optimaliseren voor gebruik op Ascend-processors.
- Pijplijnen in te richten voor zowel realtime- als batch-inferentietaken.
- Implementaties te monitoren en de prestaties ervan af te stellen in productieomgevingen.
Vorm van de cursus
- Interactieve lezingen en discussies.
- Praktische oefeningen met CloudMatrix in echte implementatiescenario’s.
- Begeleide oefeningen gericht op conversie, optimalisatie en schaalbaarheid.
Mogelijkheden tot cursusaanpassing
- Indien u een maatwerktraining wenst die is afgestemd op uw specifieke AI-infrastructuur of cloudomgeving, kunt u contact met ons opnemen om dit te regelen.
GPU-programmering op Biren AI-acceleratoren
21 UrenDe Biren AI-acceleratoren zijn krachtige GPUs die speciaal ontworpen zijn voor AI- en HPC-toepassingen, met ondersteuning voor grootschalige training en inferentie.
Deze door een instructeur begeleide training (online of ter plaatse) is bedoeld voor ontwikkelaars op middelmatig tot gevorderd niveau die ervaring willen opdoen in het programmeren en optimaliseren van applicaties met behulp van Birens eigen GPU-omgeving. Er worden ook praktische vergelijkingen gemaakt met CUDA-gebaseerde omgevingen.
Aan het einde van deze training zullen deelnemers in staat zijn tot:
- De architectuur en geheugenhiërarchie van Biren-GPU’s begrijpen.
- Het ontwikkelingsmilieu opzetten en het programmeren volgens Birens model beheersen.
- CUDA-achtige code vertalen en optimaliseren voor gebruik op Biren-platformen.
- Prestatieverbeteringstechnieken toepassen en foutopsporing uitvoeren.
Opbouw van de cursus
- Interactieve lezingen en discussies.
- Praktijkgerichte oefeningen waarbij Biren SDK wordt toegepast op voorbeeld-GPU-taken.
- Begeleide oefeningen gericht op portering van code en prestatieoptimalisatie.
Opties voor maatwerk bij de cursus
- Indien u een op maat gemaakte training wenst die is afgestemd op uw specifieke applicatie-omgeving of integratievereisten, neem dan contact met ons op om de details te bespreken.
Ontwikkeling van Cambricon MLU-toepassingen met BANGPy en Neuware
21 UrenCambricon MLU’s (Machine Learning Units) zijn gespecialiseerde AI-chips die optimaal presteren bij het uitvoeren en trainen van modellen, zowel in edge-omgevingen als datacentra.
Deze praktijkgerichte training onder begeleiding van een instructeur (online of op locatie) richt zich op ontwikkelaars met middenniveau kennis die AI-modellen willen ontwikkelen en implementeren met behulp van het BANGPy-framework en de Neuware SDK op Cambricon MLU-hardware.
Aan het einde van deze training zullen deelnemers in staat zijn om:
- Het ontwikkelmilieu voor BANGPy en Neuware correct in te stellen.
- Python- en C++-gebaseerde modellen te ontwikkelen en te optimaliseren voor gebruik op Cambricon MLU’s.
- Modellen te implementeren op edge-apparaten en datacentra die de Neuware-runtime draaien.
- AI-werkstromen te integreren met versnelleringsfuncties die specifiek zijn voor Cambricon MLU’s.
Opbouw van de training
- Interactieve presentaties en discussies.
- Praktische oefeningen met BANGPy en Neuware voor ontwikkeling en implementatie.
- Gedetailleerde oefeningen gericht op optimalisatie, integratie en testen.
Mogelijkheden tot maatwerk
- Wilt u een op maat gemaakte training die aansluit bij uw Cambricon-apparaat of toepassingsdoel? Neem dan contact met ons op om de mogelijkheden te bespreken.
Inleiding tot CANN voor ontwikkelaars van AI-frameworks
7 UrenCANN (Compute Architecture for Neural Networks) is het AI-rekenkundige hulpmiddel van Huawei dat wordt gebruikt om AI-modellen te compileren, te optimaliseren en te implementeren op Ascend AI-processoren.
Deze interactieve training onder begeleiding (online of ter plaatse) is bedoeld voor beginnende AI-ontwikkelaars die willen begrijpen hoe CANN past binnen de gehele levenscyclus van een model – van training tot implementatie – en hoe het samenwerkt met frameworks zoals MindSpore, TensorFlow en PyTorch.
Na afloop van deze cursus zullen de deelnemers in staat zijn om:
- De doelstellingen en architectuur van het CANN-hulpmiddel te begrijpen.
- Een ontwikkelomgeving in te richten met CANN en MindSpore.
- Een eenvoudig AI-model om te zetten en te implementeren op Ascend-hardware.
- De basiskennis te verwerven voor toekomstige optimalisatie- of integratieprojecten met CANN.
Opzet van de cursus
- Interactieve lezingen en discussies.
- Praktijkopdrachten waarbij eenvoudige modellen worden geïmplementeerd.
- Stap-voor-stap uitleg van de CANN-toolchain en de integratiepunten ermee.
Mogelijkheden tot cursusaanpassing
- Indien u een op maat gemaakte training wenst, kunt u contact met ons opnemen om de details af te spreken.
CANN voor implementatie van AI op randapparaten
14 UrenHet Ascend CANN-hulpmiddelenpakket van Huawei maakt het mogelijk om krachtige AI-inferentie uit te voeren op randapparaten, zoals de Ascend 310. CANN biedt essentiële hulpmiddelen voor het compileren, optimaliseren en implementeren van modellen wanneer rekenkracht en geheugen beperkt zijn.
Deze door een instructeur geleide live-training (online of op locatie) is bedoeld voor AI-ontwikkelaars en systeemintegratoren met voldoende voorkennis die modellen willen implementeren en optimaliseren op Ascend-randapparaten met behulp van het CANN-hulpmiddelenpakket.
Aan het einde van deze training zullen deelnemers in staat zijn tot:
- Het voorbereiden en omzetten van AI-modellen voor gebruik op de Ascend 310 met behulp van CANN-hulpmiddelen.
- Het bouwen van lichte inferentiepijplijnen met MindSpore Lite en AscendCL.
- Het optimaliseren van modelprestaties in omgevingen met beperkte rekenkracht en geheugenruimte.
- Het implementeren en monitoren van AI-applicaties in praktische randtoepassingen.
Opbouw van de cursus
- Interactieve lezingen en demonstraties.
- Praktische oefeningen met modellen en scenario’s specifiek voor randapparaten.
- Livevoorbeelden van implementatie op virtuele of fysieke randhardware.
Mogelijkheden tot aanpassing van de cursus
- Bent u geïnteresseerd in een op maat gemaakte training? Neem dan contact met ons op om dit te regelen.
Inzicht in Huawei’s AI-compute-stack: van CANN tot MindSpore
14 UrenDe AI-stack van Huawei – variërend van het low-level CANN SDK tot het high-level MindSpore-framework – biedt een nauw geïntegreerde omgeving voor ontwikkeling en implementatie van AI, speciaal geoptimaliseerd voor Ascend-hardware.
Deze door een instructeur geleide, live-training (online of op locatie) richt zich op technische professionals met basis- tot middenniveau die willen begrijpen hoe CANN en MindSpore samenwerken om het beheer van de AI-levenscyclus en infrastructuurbeslissingen te ondersteunen.
Aan het einde van deze training zijn deelnemers in staat om:
- De meerdere lagen van Huawei’s AI-compute-stack te begrijpen.
- Te zien hoe CANN modeloptimalisatie en implementatie op hardwareniveau ondersteunt.
- Het MindSpore-framework en de bijbehorende toolchain te beoordelen in vergelijking met andere industriele oplossingen.
- De rol van Huawei’s AI-stack binnen ondernemings- of cloud-/on-premise-omgevingen vast te stellen.
Opzet van de cursus
- Interactieve lezingen en discussies.
- Live-demo’s van systemen en voorbeeldstudies uit de praktijk.
- Optionele begeleide oefeningen rond het verloop van modellen van MindSpore naar CANN.
Mogelijkheden tot cursuscustomisatie
- Voor het aanvragen van een op maat gemaakte training kunt u contact met ons opnemen om dit te regelen.
Het optimaliseren van de prestaties van neurale netwerken met CANN SDK
14 UrenCANN SDK (Compute Architecture for Neural Networks) vormt de basis voor AI-berekeningen bij Huawei. Het stelt ontwikkelaars in staat om de prestaties van al geïmplementeerde neurale netwerken te verfijnen en te optimaliseren op Ascend AI-processoren.
Deze praktijkgerichte training, begeleid door een instructeur (online of ter plaatse), is bedoeld voor ervaren AI-ontwikkelaars en systeemengineers die de inferentieprestaties willen verbeteren met behulp van CANN’s geavanceerde hulpmiddelen, waaronder de Graph Engine, TIK en ontwikkeling van aangepaste operators.
Aan het einde van deze training zullen deelnemers in staat zijn te:
- De runtime-architectuur en prestatiecyclus van CANN begrijpen.
- Profileringsinstrumenten en de Graph Engine gebruiken voor analyse en optimalisatie van prestaties.
- Aangepaste operators creëren en optimaliseren met behulp van TIK en TVM.
- Geheugenbeperkingen oplossen en de doorvoersnelheid van modellen verhogen.
Vorm van de cursus
- Interactieve lezingen en discussies.
- Praktische oefeningen waarbij profileringsanalyse en operatorafstemming in realtime plaatsvinden.
- Oefeningen ter optimalisatie aan de hand van voorbeelden uit praktijkscenario’s.
Mogelijkheden tot cursuscustomisatie
- Wilt u een op maat gemaakte training? Neem dan contact met ons op om dit te regelen.
CANN SDK voor computer vision- en NLP-pipelines
14 UrenDe CANN SDK (Compute Architecture for Neural Networks) biedt krachtige hulpmiddelen voor het implementeren en optimaliseren van AI-applicaties in real-time, met name op het gebied van computer vision en NLP, op hardware van Huawei Ascend.
Deze interactieve training, verzorgd door een instructeur (online of ter plaatse), is bedoeld voor AI-professionals met een middenniveau kennis die visie- en taalmodellen willen ontwikkelen, implementeren en optimaliseren voor productiedoeleinden met behulp van de CANN SDK.
Na afronding van deze cursus zijn de deelnemers in staat tot:
- Het implementeren en optimaliseren van CV- en NLP-modellen met behulp van CANN en AscendCL.
- Het gebruiken van CANN-tools om modellen te converteren en deze in live-pipelines te integreren.
- Het verbeteren van de inferentieprestaties bij taken zoals detectie, classificatie en sentimentanalyse.
- Het ontwikkelen van real-time CV-/NLP-pipelines voor implementatie op edge-apparaten of in de cloud.
Opzet van de cursus
- Interactieve presentaties en demonstraties.
- Praktijkwerk in het lab: modelimplementatie en performance-profiling.
- Ontwerpen van live-pipelines op basis van echte toepassingen uit computer vision en NLP.
Mogelijkheden tot cursusaanpassing
- Wilt u een op maat gemaakte training? Neem dan contact met ons op om de mogelijkheden te bespreken.
Aangepaste AI-operators ontwikkelen met CANN TIK en TVM
14 UrenCANN TIK (Tensor Instruction Kernel) en Apache TVM maken geavanceerde optimalisatie en aanpassing van AI-modeloperators mogelijk voor Huawei Ascend-hardware.
Deze door een instructeur geleide, live-training (online of op locatie) is bedoeld voor systeemontwikkelaars met gevorderde kennis die aangepaste operators voor AI-modellen willen bouwen, implementeren en afstemmen, waarbij gebruik wordt gemaakt van het TIK-programmeermodel van CANN en de integratie met de TVM-compiler.
Na afloop van deze training zullen de deelnemers in staat zijn om:
- Aangepaste AI-operators te schrijven en te testen met behulp van het TIK-DSL voor Ascend-processoren.
- Eigen operators te integreren in de CANN-runtime en uitvoeringsgrafiek.
- TVM toe te passen voor het plannen, automatisch afstellen en benchmarken van operators.
- De prestaties op instructieniveau van aangepaste rekenpatronen te debuggen en optimaliseren.
Opbouw van de cursus
- Interactieve presentaties en demonstraties.
- Praktische oefeningen in het coderen van operators met behulp van TIK en TVM-pijplijnen.
- Testen en afstemmen op Ascend-hardware of simulators.
Mogelijkheden tot cursusaanpassing
- Indien u een op maat gemaakte training wenst, kunt u contact met ons opnemen om de details af te spreken.
Het migreren van CUDA-applicaties naar Chinese GPU-architecturen
21 UrenChinese GPU-architecturen zoals Huawei Ascend, Biren en Cambricon MLU bieden alternatieven voor CUDA die speciaal zijn ontwikkeld voor de lokale AI- en HPC-markten.
Deze live-training onder begeleiding van een instructeur (online of op locatie) is bedoeld voor GPU-programmeurs met gevorderde kennis en infrastructuurspecialisten die bestaande CUDA-applicaties willen migreren en optimaliseren voor gebruik op Chinese hardwareplatforms.
Aan het einde van deze training zullen de deelnemers in staat zijn om:
- de compatibiliteit van bestaande CUDA-werkbelastingen met alternatieven op basis van Chinese chips te beoordelen;
- CUDA-codebases over te zetten naar Huawei CANN, Biren SDK en Cambricon BANGPy-omgevingen;
- de prestaties te vergelijken en optimalisatiemogelijkheden te identificeren tussen verschillende platforms;
- praktische uitdagingen rond cross-architectuurondersteuning en implementatie aan te pakken.
Opzet van de cursus
- Interactieve presentaties en discussies;
- Praktische oefeningen in codevertaling en vergelijking van prestaties;
- Gedurende de cursus worden ook strategieën voor multi-GPU-aanpassingen behandeld.
Mogelijkheden tot aanpassing van de cursus
- Indien u een op maat gemaakte training wenst, afgestemd op uw eigen platform of CUDA-project, neem dan contact met ons op om dit te bespreken.
Prestatieoptimalisatie op Ascend, Biren en Cambricon
21 UrenAscend, Biren en Cambricon zijn toonaangegende AI-hardwareplatformen in China. Ze bieden ieder unieke hulpmiddelen voor prestatieanalyse en optimalisatie van AI-werkbelastingen op productieniveau.
Deze praktijkgerichte, door een instructeur geleide training (online of ter plaatse) richt zich op gevorderde AI-infrastructurele engineers en prestatiespecialisten die hun modelinference- en trainingsprocessen willen optimaliseren op verschillende Chinese AI-chipplatforms.
Na afronding van deze training zijn deelnemers in staat om:
- Modellen te benchmarken op Ascend-, Biren- en Cambricon-platforms.
- Systemische knelpunten en inefficiënties in geheugengebruik of rekenkracht te identificeren.
- Grafiekgebaseerde, kerngebaseerde en operator-gebaseerde optimalisatietechnieken toe te passen.
- Implementatiepijplijnen af te stemmen om doorvoer en latentie te verbeteren.
Opzet van de cursus
- Interactieve lezingen en discussies.
- Praktische oefeningen waarbij profilerings- en optimalisatietools op elk platform worden gebruikt.
- Gidsende opdrachten gericht op concrete tuning-scenario’s.
Opties voor cursusaanpassing
- Mocht u een maatwerktraining willen op basis van uw specifieke prestatieomgeving of modeltype, neem dan contact met ons op om dit te bespreken.