Bedankt voor uw aanvraag! Een van onze medewerkers neemt binnenkort contact met u op
Bedankt voor uw boeking! Een van onze medewerkers neemt binnenkort contact met u op.
Duur 14 uren
Cursusaanbod
Inleiding tot de ontwikkeling van op maat gemaakte operatoren
- Waarom op maat gemaakte operatoren bouwen? Gebruiksgevallen en beperkingen
- Structuur van de CANN-runtime en integratiepunten voor operatoren
- Overzicht van TBE, TIK en TVM in het AI-ecosysteem van Huawei
TIK gebruiken voor low-level operatorenprogramming
- Begrijpen van het TIK-programmeermodel en ondersteunde API's
- Geheugenbeheer en tegelstrategie in TIK
- Een op maat gemaakte operator maken, compileren en registreren in CANN
Testen en valideren van op maat gemaakte operatoren
- Unit testing en integratietesten van operatoren in de graf
- Problemen met kernelprestaties debuggen
- Operatoruitvoering en buffergedrag visualiseren
Planning en optimalisatie op basis van TVM
- Overzicht van TVM als compiler voor tensoroperatoren
- Een planning schrijven voor een op maat gemaakte operator in TVM
- Afstemmen, benchmarken en codegeneratie voor Ascend met TVM
Integratie met frameworks en modellen
- Op maat gemaakte operatoren registreren voor MindSpore en ONNX
- Modelintegriteit en fallback-gedrag verifiëren
- Grafen met meerdere operatoren ondersteunen met gemengde precisie
Casestudies en gespecialiseerde optimalisaties
- Casestudy: hoog-efficiënte convolutie voor kleine ingangsformaten
- Casestudy: optimalisatie van geheugengevoelige attention-operatoren
- Beste praktijken voor de implementatie van op maat gemaakte operatoren over verschillende apparaten
Samenvatting en volgende stappen
Vereisten
- Uitgebreide kennis van de interne structuur van AI-modellen en berekeningen op operatoreniveau
- Ervaring met Python en Linux-ontwikkelomgevingen
- Kennis van compilatoren voor neurale netwerken of optimalisatoren op grafniveau
Doelgroep
- Compileringenieurs die werken aan AI-toolchains
- Systeemontwikkelaars die zich richten op diepgaande AI-optimalisatie
- Ontwikkelaars die op maat gemaakte operatoren bouwen of nieuwe AI-werkbelastingen targeten
