Pregunta 04 · ¿Qué significa la IA para nosotros, los seres humanos?
¿Puede la IA desarrollar conciencia?
Versión corta
Según el conocimiento actual, ninguna IA tiene conciencia. Si esto es posible en principio sigue siendo una cuestión abierta en la ciencia, porque ni siquiera sabemos con exactitud cómo surge la conciencia en los seres humanos.
Versión larga
Los modelos de lenguaje pueden escribir sobre miedo, alegría o soledad, y eso resulta convincente. Han aprendido de miles de millones de textos humanos cómo las personas hablan de sus sentimientos. Pero un texto sobre el dolor no es dolor.
En 2023, investigadores de neurociencia, filosofía e informática tradujeron las teorías habituales sobre la conciencia en características comprobables y evaluaron sistemas de IA con ellas. Su resultado: ningún sistema de entonces cumplía los criterios. Pero tampoco encontraron ningún obstáculo técnico que lo descarte para siempre. Por eso, algunas empresas de IA se ocupan de manera preventiva de la cuestión de si algún día los modelos deberían recibir consideración moral.
Para la vida cotidiana, esto significa: si una IA dice que siente algo, está reproduciendo lo que había en sus datos de entrenamiento sobre los sentimientos. La pregunta sobre la conciencia debe tomarse en serio, pero no a partir de lo que un chatbot cuenta sobre sí mismo.
Que la IA pueda hablar de sentimientos muestra sobre todo cuánto hemos escrito sobre ellos.
Fuentes de esta pregunta
- Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., Deane, G., Fleming, S. M., Frith, C., Ji, X., Kanai, R., Klein, C., Lindsay, G., Michel, M., Mudrik, L., Peters, M. A. K., Schwitzgebel, E., Simon, J., & VanRullen, R. (2023). Consciousness in artificial intelligence: Insights from the science of consciousness. arXiv. https://doi.org/10.48550/arXiv.2308.08708
Más preguntas sobre este tema
¿Falta tu pregunta?
Escríbela a frag [at] rogerbasler [.] ch. Las preguntas seleccionadas se responderán y se añadirán aquí.