Cursusaanbod

Inleiding tot het ontwikkelen van aangepaste operators

  • Waarom aangepaste operators bouwen? Gebruiksgevallen en beperkingen
  • CANN runtime-structuur en integratiepunten voor operators
  • Overzicht van TBE, TIK en TVM in het Huawei AI-ecosysteem

TIK gebruiken voor low-level operator Programming

  • Het TIK-programmeer-model en ondersteunde APIs begrijpen
  • Geheugenbeheer en tiling-strategie in TIK
  • Een aangepaste op creëren, compileren en registreren met CANN

Testen en valideren van aangepaste ops

  • Eenheidstesten en integratietesten van ops in de grafiek
  • Oplossen van kernelniveau-prestatieproblemen
  • Uitvoering van ops en buffergedrag visualiseren

TVM-gebaseerde planning en optimalisatie

  • Overzicht van TVM als compiler voor tensor ops
  • Een planning schrijven voor een aangepaste op in TVM
  • TVM afstellen, benchen en code genereren voor Ascend

Integratie met frameworks en modellen

  • Aangepaste ops registreren voor MindSpore en ONNX
  • Integriteit van het model en fallbackgedrag verifiëren
  • Multi-operatorgrafieken ondersteunen met gemengde precisie

Casussen en gespecialiseerde optimalisaties

  • Casus: hoge-efficiëntie convolutie voor kleine invoergrootten
  • Casus: geheugenbewuste attentieoperator optimaliseren
  • Beste praktijken voor het implementeren van aangepaste ops over apparaten

Samenvatting en volgende stappen

Vereisten

  • Sterke kennis van de internals van AI-modellen en berekeningen op operatorniveau
  • Ervaring met Python en Linux ontwikkelomgevingen
  • Kennis van neural network compilers of graph-level optimizers

Doelgroep

  • Compiler engineers die werken aan AI toolchains
  • System developers die zich richten op laag-niveau AI-optimisatie
  • Developers die custom ops bouwen of zich richten op nieuwe AI-workloads
 14 Uren

Aantal deelnemers


Prijs Per Deelnemer

Voorlopige Aankomende Cursussen

Gerelateerde categorieën