Pregunta 10 · ¿Qué es la IA y cómo funciona?
¿Cómo sé si una respuesta de la IA es correcta?
Versión corta
Solo lo sabes cuando lo compruebas. La IA formula afirmaciones falsas con la misma convicción que las correctas. Comprobar significa: mirar las fuentes, buscar una segunda fuente independiente para los hechos importantes y fijarse especialmente en las cifras.
Versión larga
Los especialistas llaman "alucinaciones" a los hechos inventados. Surgen porque un modelo de lenguaje está entrenado para dar una respuesta plausible. Investigadores mostraron en 2025 que los métodos habituales de entrenamiento y evaluación premian adivinar: un modelo que, ante la incertidumbre, inventa algo, obtiene mejores resultados en muchas pruebas que uno que dice "No lo sé".
De ahí se derivan reglas sencillas. Cuanto más específico sea un dato, por ejemplo una cita, un año o un artículo de ley, más vale la pena controlarlo. Hay que hacer clic siempre en las fuentes que da la IA, porque también las fuentes pueden estar inventadas. Y puedes preguntarle sin problema: "¿Qué tan seguro estás y cómo puedo comprobarlo?". Eso no sustituye una verificación, pero hace visible la incertidumbre.
En temas de salud, derecho y dinero vale la regla: usar la IA para prepararse, decidir con especialistas.
La IA siempre suena segura, la certeza solo surge al comprobar.
Fuentes de esta pregunta
- Kalai, A. T., Nachum, O., Vempala, S. S., & Zhang, E. (2025). Why language models hallucinate. arXiv. https://doi.org/10.48550/arXiv.2509.04664
Más preguntas sobre este tema
¿Falta tu pregunta?
Escríbela a frag [at] rogerbasler [.] ch. Las preguntas seleccionadas se responderán y se añadirán aquí.