Formation Création d’opérateurs IA personnalisés avec CANN TIK et TVM

Introduction au développement d’opérateurs personnalisés

• Pourquoi créer des opérateurs personnalisés ? Cas d’usage et contraintes
• Structure du runtime CANN et points d’intégration des opérateurs
• Présentation de TBE, TIK et TVM dans l’écosystème IA de Huawei

Utilisation de TIK pour la programmation d’opérateurs de bas niveau

• Compréhension du modèle de programmation TIK et des API prises en charge
• Gestion de la mémoire et stratégie de tuilage (tiling) dans TIK
• Création, compilation et enregistrement d’un opérateur personnalisé avec CANN

Test et validation des opérateurs personnalisés

• Tests unitaires et tests d’intégration des opérateurs dans le graphe
• Débogage des problèmes de performance au niveau du noyau (kernel)
• Visualisation de l’exécution des opérateurs et du comportement des tampons (buffers)

Ordonnancement et optimisation basés sur TVM

• Présentation de TVM en tant que compilateur pour les opérateurs tensoriels
• Écriture d’un ordonnancement (schedule) pour un opérateur personnalisé dans TVM
• Réglage, évaluation comparative et génération de code TVM pour Ascend

Intégration avec les frameworks et les modèles

• Enregistrement des opérateurs personnalisés pour MindSpore et ONNX
• Vérification de l’intégrité du modèle et du comportement de repli (fallback)
• Prise en charge des graphes multi-opérateurs avec précision mixte

Études de cas et optimisations spécialisées

• Étude de cas : convolution à haute efficacité pour de petites tailles d’entrée
• Étude de cas : optimisation de l’opérateur d’attention conscient de la mémoire
• Bonnes pratiques pour le déploiement d’opérateurs personnalisés sur différents appareils

Résumé et prochaines étapes