Formation Optimisation des performances des réseaux de neurones avec le SDK CANN

Aperçu des capacités d'optimisation de CANN

• Comment les performances d'inférence sont gérées dans CANN
• Objectifs d'optimisation pour les systèmes IA embarqués et edge
• Compréhension de l'utilisation de l'IA Core et de l'allocation mémoire

Utilisation du moteur de graphes pour l'analyse

• Présentation du moteur de graphes et du pipeline d'exécution
• Visualisation des graphes d'opérateurs et des métriques d'exécution
• Modification des graphes computationnels pour l'optimisation

Outils de profilage et métriques de performance

• Utilisation de l'outil de profilage CANN (profiler) pour l'analyse des charges de travail
• Analyse du temps d'exécution des noyaux et des goulots d'étranglement
• Profilage des accès mémoire et stratégies de tuilage

Développement d'opérateurs personnalisés avec TIK

• Aperçu de TIK et du modèle de programmation d'opérateurs
• Implémentation d'un opérateur personnalisé à l'aide du DSL TIK
• Tests et benchmarking des performances des opérateurs

Optimisation avancée des opérateurs avec TVM

• Introduction à l'intégration de TVM avec CANN
• Stratégies d'auto-réglage pour les graphes computationnels
• Quand et comment passer de TVM à TIK

Techniques d'optimisation mémoire

• Gestion de la disposition mémoire et du placement des tampons
• Techniques pour réduire la consommation de mémoire sur la puce
• Pratiques recommandées pour l'exécution asynchrone et la réutilisation

Déploiement en conditions réelles et études de cas

• Étude de cas : réglage des performances pour le pipeline de caméras intelligentes (ville intelligente)
• Étude de cas : optimisation de la pile d'inférence pour véhicules autonomes
• Directives pour le profilage itératif et l'amélioration continue

Synthèse et prochaines étapes