Prenez contact avec nous

Plan du cours

Introduction à Cambricon et à l’architecture MLU

  • Aperçu du portefeuille de puces IA de Cambricon
  • Architecture MLU et pipeline d’instructions
  • Types de modèles pris en charge et cas d’usage

Installation de la chaîne d’outils de développement

  • Installation de BANGPy et du SDK Neuware
  • Configuration de l’environnement pour Python et C++
  • Compatibilité des modèles et prétraitement

Développement de modèles avec BANGPy

  • Structure des tenseurs et gestion des formes
  • Construction du graphe de calcul
  • Prise en charge des opérations personnalisées dans BANGPy

Déploiement avec le runtime Neuware

  • Conversion et chargement des modèles
  • Contrôle de l’exécution et de l’inférence
  • Bonnes pratiques de déploiement sur l’edge et le data center

Optimisation des performances

  • Mémoire mappée et réglage des couches
  • Tracing et profilage de l’exécution
  • Goulots d’étranglement courants et solutions

Intégration des MLU dans les applications

  • Utilisation des API Neuware pour l’intégration d’applications
  • Prise en charge du streaming et de plusieurs modèles
  • Scénarios d’inférence hybride CPU-MLU

Projet de bout en bout et cas d’usage

  • TP : Déploiement d’un modèle de vision par ordinateur ou de NLP
  • Inférence sur l’edge avec intégration BANGPy
  • Test de la précision et du débit

Résumé et prochaines étapes

Pré requis

  • Compréhension des structures de modèles d’apprentissage automatique
  • Expérience avec Python et/ou C++
  • Connaissance des concepts de déploiement et d’accélération de modèles

Public cible

  • Développeurs d’IA embarquée
  • Ingénieurs ML déployant sur l’edge ou le data center
  • Développeurs travaillant avec l’infrastructure IA chinoise
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (1)

Cours à venir

Catégories Similaires