Pregunta 13 · ¿Qué riesgos surgen?
¿Puedo seguir confiando en imágenes y vídeos?
Versión corta
Ya no sin más. Hoy la IA genera imágenes, voces y vídeos casi indistinguibles de los reales. En el futuro, la confianza surgirá menos de la propia imagen que de la fuente que la difunde.
Versión larga
Antes, una fotografía valía como prueba. Hoy bastan unos pocos segundos de grabación de voz para recrear una voz, y algunas fotos para un vídeo creíble. Los estafadores aprovechan esto, por ejemplo con llamadas con la voz de un familiar o con videollamadas falsas en las que un supuesto jefe ordena una transferencia.
La detección técnica ayuda solo de forma limitada, porque las falsificaciones y las herramientas de detección se mejoran mutuamente. Algunos proveedores marcan las imágenes de IA con marcas de agua invisibles, y la Ley de IA exige etiquetar determinados contenidos generados por IA. Más eficaces son hábitos sencillos: ante contenidos sorprendentes o perturbadores, comprobar primero la fuente. Ante peticiones de dinero por teléfono, colgar y devolver la llamada por cuenta propia. Acordar con la familia una palabra clave.
Hay un efecto secundario delicado: si todo puede ser falso, también se puede descartar lo real tachándolo de falsificación.
Si las imágenes pueden mentir, la fuente se convierte en la prueba.
Fuentes de esta pregunta
- Europäische Union. (2024). Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz. Amtsblatt der Europäischen Union. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Más preguntas sobre este tema
¿Falta tu pregunta?
Escríbela a frag [at] rogerbasler [.] ch. Las preguntas seleccionadas se responderán y se añadirán aquí.