Pregunta 05 · ¿Qué es la IA y cómo funciona?
¿Inventa cosas la IA y se entrena a sí misma mientras lo hace?
Versión corta
La IA puede generar combinaciones nuevas: textos, imágenes e ideas que no existían antes. Pero mientras hablas con ella, no aprende nada nuevo. Se entrena antes, en un proceso laborioso que controlan las empresas.
Versión larga
Entrenamiento y uso son dos fases separadas. Durante el entrenamiento, un modelo analiza enormes cantidades de texto y ajusta miles de millones de cifras internas, los llamados parámetros. Después, esas cifras se congelan. En la conversación, el modelo utiliza lo que ha aprendido, pero no cambia mientras lo hace. Si un chat recuerda conversaciones anteriores, hay detrás una función de memoria que guarda notas, no un nuevo entrenamiento.
Aun así, la IA puede inventar. Recombina de formas nuevas patrones conocidos. Eso suele dar resultados útiles y a veces sorprendentes. Pero esa misma capacidad hace que invente datos que suenan plausibles y son falsos.
Las empresas usan ahora también datos generados por IA para entrenar nuevos modelos. Eso ocurre de forma deliberada y controlada. No existe un modelo que se mejore a sí mismo en secreto durante la noche.
La IA combina lo nuevo a partir de lo viejo y, al hacerlo, no distingue entre una idea y un error.
Fuentes de esta pregunta
- Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30. https://doi.org/10.48550/arXiv.1706.03762
Más preguntas sobre este tema
¿Falta tu pregunta?
Escríbela a frag [at] rogerbasler [.] ch. Las preguntas seleccionadas se responderán y se añadirán aquí.