Bedankt voor uw aanvraag! Een van onze medewerkers neemt binnenkort contact met u op
Bedankt voor uw boeking! Een van onze medewerkers neemt binnenkort contact met u op.
Cursusaanbod
Inleiding tot het ontwikkelen van aangepaste operators
- Waarom aangepaste operators bouwen? Gebruiksgevallen en beperkingen
- CANN runtime-structuur en integratiepunten voor operators
- Overzicht van TBE, TIK en TVM in het Huawei AI-ecosysteem
TIK gebruiken voor low-level operator Programming
- Het TIK-programmeer-model en ondersteunde APIs begrijpen
- Geheugenbeheer en tiling-strategie in TIK
- Een aangepaste op creëren, compileren en registreren met CANN
Testen en valideren van aangepaste ops
- Eenheidstesten en integratietesten van ops in de grafiek
- Oplossen van kernelniveau-prestatieproblemen
- Uitvoering van ops en buffergedrag visualiseren
TVM-gebaseerde planning en optimalisatie
- Overzicht van TVM als compiler voor tensor ops
- Een planning schrijven voor een aangepaste op in TVM
- TVM afstellen, benchen en code genereren voor Ascend
Integratie met frameworks en modellen
- Aangepaste ops registreren voor MindSpore en ONNX
- Integriteit van het model en fallbackgedrag verifiëren
- Multi-operatorgrafieken ondersteunen met gemengde precisie
Casussen en gespecialiseerde optimalisaties
- Casus: hoge-efficiëntie convolutie voor kleine invoergrootten
- Casus: geheugenbewuste attentieoperator optimaliseren
- Beste praktijken voor het implementeren van aangepaste ops over apparaten
Samenvatting en volgende stappen
Vereisten
- Sterke kennis van de internals van AI-modellen en berekeningen op operatorniveau
- Ervaring met Python en Linux ontwikkelomgevingen
- Kennis van neural network compilers of graph-level optimizers
Doelgroep
- Compiler engineers die werken aan AI toolchains
- System developers die zich richten op laag-niveau AI-optimisatie
- Developers die custom ops bouwen of zich richten op nieuwe AI-workloads
14 Uren