Question 13 · Quels risques apparaissent ?
Puis-je encore faire confiance aux images et aux vidéos ?
Version courte
Pas sans vérification. L'IA produit aujourd'hui des images, des voix et des vidéos à peine distinguables du réel. La confiance viendra à l'avenir moins de l'image elle-même que de la source qui la diffuse.
Version longue
Autrefois, une photo valait preuve. Aujourd'hui, quelques secondes d'enregistrement vocal suffisent pour reproduire une voix, et quelques photos pour créer une vidéo crédible. Des escrocs en profitent, par exemple pour des appels avec la voix d'un membre de la famille ou pour de faux appels vidéo où un prétendu chef ordonne un virement.
La détection technique n'aide que de façon limitée, car falsifications et outils de détection s'améliorent mutuellement. Certains fournisseurs munissent les images d'IA de filigranes invisibles, et l'AI Act exige l'identification de certains contenus d'IA. Des habitudes simples sont plus efficaces : face à des contenus surprenants ou bouleversants, vérifier d'abord la source. En cas de demande d'argent au téléphone, raccrocher et rappeler soi-même. Convenir d'un mot de code avec sa famille.
Un effet secondaire est délicat : si tout peut être falsifié, on peut aussi faire passer le vrai pour un faux.
Quand les images peuvent mentir, c'est la source qui devient la preuve.
Sources de cette question
- Europäische Union. (2024). Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz. Amtsblatt der Europäischen Union. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Autres questions sur ce thème
Ta question manque ?
Envoie-la à frag [at] rogerbasler [.] ch. Des questions choisies recevront une réponse et seront ajoutées ici.