Formation Éthique et gouvernance des agents d'IA autonomes

Fondements de l'éthique dans les systèmes autonomes

• Définition de l'autonomie dans les agents d'IA
• Théories éthiques clés appliquées au comportement des machines
• Points de vue des parties prenantes et conception sensible aux valeurs

Risques sociétaux et cas d'usage à haut enjeu

• Agents autonomes dans la sécurité publique, la santé et la défense
• Collaboration humain-IA et limites de la confiance
• Scénarios de conséquences involontaires et d'amplification des risques

Paysage juridique et réglementaire

• Aperçu de la législation et des tendances en matière de politique de l'IA (Loi UE sur l'IA, NIST, OCDE)
• Responsabilité, responsabilité civile et personnalité juridique des agents d'IA
• Initiatives de gouvernance mondiale et lacunes

Explicabilité et transparence décisionnelle

• Défis de la prise de décision autonome en boîte noire
• Conception pour des agents explicables et audibles
• Outils et cadres de transparence (par exemple, fiches de modèle, fiches de données)

Alignement, contrôle et responsabilité morale

• Stratégies d'alignement de l'IA pour le comportement des agents
• Paradigmes de contrôle humain dans la boucle vs. humain sur la boucle
• Responsabilité partagée entre concepteurs, utilisateurs et institutions

Évaluation et atténuation des risques éthiques

• Cartographie des risques et analyse des défaillances critiques dans la conception d'agents
• Dispositifs de sécurité et mécanismes d'arrêt d'urgence
• Biais, discrimination et audit de l'équité

Conception de la gouvernance et supervision institutionnelle

• Principes de la gouvernance responsable de l'IA
• Modèles de supervision et d'audit multi-parties prenantes
• Conception de cadres de conformité pour les agents autonomes

Résumé et prochaines étapes