Qui est responsable quand l'IA fait une erreur ?

Une machine n'est pas une personne juridique. Elle ne peut être ni poursuivie ni punie. La responsabilité se répartit donc entre les personnes et les organisations de la chaîne. Si une médecin reprend une recommandation de l'IA sans la vérifier, elle en reste responsable. Si un produit intégrant de l'IA est défectueux, le fabricant peut être tenu responsable. Des tribunaux ont déjà sanctionné des avocats qui avaient cité des jugements inventés par l'IA.

L'UE, avec l'AI Act, échelonne les obligations selon le risque : des règles plus strictes s'appliquent à l'IA utilisée dans les processus de candidature, l'octroi de crédit ou la médecine que pour un chatbot de service client. La Suisse suit sa propre voie. Le Conseil fédéral a décidé en 2025 de mettre en œuvre la convention sur l'IA du Conseil de l'Europe et d'adapter les lois existantes de manière ciblée, plutôt que de créer sa propre loi sur l'IA.

Pour les entreprises, cela signifie : qui utilise l'IA a besoin de règles claires sur qui vérifie les résultats et qui les valide.