Plan du cours
Introduction à la sécurité dans le TinyML
- Défis de sécurité dans les systèmes ML à ressources limitées
- Modèles de menaces pour les déploiements TinyML
- Catégories de risques pour les applications d'IA embarquée
Confidentialité des données dans l'IA périphérique
- Enjeux de confidentialité pour le traitement des données sur l'appareil
- Minimisation de l'exposition et du transfert de données
- Techniques de gestion décentralisée des données
Attaques adverses sur les modèles TinyML
- Menaces d'évasion et d'empoisonnement de modèles
- Manipulation des entrées sur les capteurs embarqués
- Évaluation de la vulnérabilité dans des environnements contraints
Renforcement de la sécurité pour le ML embarqué
- Couches de protection du micrologiciel et du matériel
- Mécanismes de contrôle d'accès et de démarrage sécurisé
- Meilleures pratiques pour la protection des pipelines d'inférence
Techniques TinyML préservant la confidentialité
- Quantification et considérations de conception de modèles pour la confidentialité
- Techniques d'anonymisation sur l'appareil
- Méthodes d'encryption légère et de calcul sécurisé
Déploiement et maintenance sécurisés
- Provisionnement sécurisé des appareils TinyML
- Stratégies de mises à jour OTA et de correctifs
- Surveillance et réponse aux incidents à la périphérie
Tests et validation des systèmes TinyML sécurisés
- Cadres de test de la sécurité et de la confidentialité
- Simulation de scénarios d'attaque réels
- Considérations de validation et de conformité
Études de cas et scénarios appliqués
- Échecs de sécurité dans les écosystèmes d'IA périphérique
- Conception d'architectures TinyML résilientes
- Évaluation des compromis entre performance et protection
Résumé et prochaines étapes
Pré requis
- Une compréhension des architectures de systèmes embarqués
- Une expérience des flux de travail en apprentissage automatique
- Des connaissances des fondamentaux de la cybersécurité
Public cible
- Analystes de la sécurité
- Développeurs IA
- Ingénieurs embarqués
Nos clients témoignent (3)
inventorier et identifier les différentes expositions aux risques au sein de l'IA
Gary Cook - Cybersecurity and Information Technology Risk Division
Formation - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traduction automatique
J'ai vraiment apprécié d'apprendre sur les attaques par IA et les outils disponibles pour commencer à pratiquer et à utiliser activement pour les tests de sécurité. J'ai acquis beaucoup de connaissances que je n'avais pas au début, et le cours a répondu à mes attentes. Ma partie préférée de la formation était le navigateur Comet, et j'ai été impressionné par ce qu'il pouvait faire. C'est assurément quelque chose que je vais explorer davantage. Globalement, c'était un excellent cours et j'ai beaucoup apprécié d'apprendre le Top 10 OWASP GenAI.
Patrick Collins - Optum
Formation - OWASP GenAI Security
Traduction automatique
Les connaissances professionnelles et la manière dont il les a présentées devant nous
Miroslav Nachev - PUBLIC COURSE
Formation - Cybersecurity in AI Systems
Traduction automatique