Formation Déploiement de modèles IA avec CANN et les processeurs IA Ascend

Introduction à CANN et aux processeurs IA Ascend

• Qu'est-ce que CANN ? Rôle dans la pile de calcul IA de Huawei
• Vue d'ensemble de l'architecture des processeurs Ascend (310, 910, etc.)
• Vue d'ensemble des frameworks IA pris en charge et de la chaîne d'outils

Conversion et compilation de modèles

• Utilisation de l'outil ATC pour la conversion de modèles (TensorFlow, PyTorch, ONNX)
• Création et validation de fichiers de modèles OM
• Gestion des opérateurs non pris en charge et des problèmes courants de conversion

Déploiement avec MindSpore et d'autres frameworks

• Déploiement de modèles avec MindSpore Lite
• Intégration de modèles OM avec des API Python ou des SDK C++
• Travail avec Ascend Model Manager

Optimisation des performances et profilage

• Compréhension des optimisations AI Core, mémoire et tiling
• Profilage de l'exécution des modèles avec les outils CANN
• Bonnes pratiques pour améliorer la vitesse d'inférence et l'utilisation des ressources

Gestion des erreurs et débogage

• Erreurs courantes de déploiement et leur résolution
• Lecture des journaux et utilisation de l'outil de diagnostic d'erreurs
• Tests unitaires et validation fonctionnelle des modèles déployés

Scénarios de déploiement Edge et Cloud

• Déploiement sur Ascend 310 pour les applications edge
• Intégration avec des API cloud et des microservices
• Études de cas réelles en vision par ordinateur et NLP

Résumé et prochaines étapes