Prenez contact avec nous

Plan du cours

Introduction à Cambricon et à l'architecture MLU

  • Aperçu du portefeuille de puces IA de Cambricon.
  • Architecture MLU et pipeline d'instructions.
  • Types de modèles pris en charge et cas d'utilisation.

Installation de la chaîne d'outils de développement

  • Installation de BANGPy et du SDK Neuware.
  • Configuration de l'environnement pour Python et C++.
  • Compatibilité des modèles et prétraitement.

Développement de modèles avec BANGPy

  • Structure des tenseurs et gestion des formes.
  • Construction du graphe de calcul.
  • Prise en charge des opérations personnalisées dans BANGPy.

Déploiement avec le runtime Neuware

  • Conversion et chargement des modèles.
  • Contrôle de l'exécution et de l'inférence.
  • Pratiques de déploiement sur la périphérie et dans les centres de données.

Optimisation des performances

  • Cartographie mémoire et ajustement des couches.
  • Tracage et profilage de l'exécution.
  • Bottlenecks courants et corrections.

Intégration des UIM dans les applications

  • Utilisation des API Neuware pour l'intégration des applications.
  • Prise en charge du streaming et des modèles multiples.
  • Cas d'inférence hybride CPU-MLU.

Projet et cas d'utilisation de bout en bout

  • TP : Déploiement d'un modèle de vision ou de NLP.
  • Inférence en périphérie avec intégration BANGPy.
  • Tests de précision et de débit.

Résumé et prochaines étapes

Pré requis

  • Compréhension des structures de modèles d'apprentissage automatique (machine learning).
  • Expérience avec Python et/ou C++.
  • Connaissance des concepts de déploiement et d'accélération de modèles.

Public cible

  • Développeurs d'IA embarquée.
  • Ingénieurs ML déployant vers la périphérie ou les centres de données.
  • Développeurs travaillant avec des infrastructures IA chinoises.
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires