Question 04 · Qu'est-ce que l'IA signifie pour nous, les humains ?
L'IA peut-elle développer une conscience ?
Version courte
D'après les connaissances actuelles, aucune IA n'a de conscience. Si cela est possible en principe reste une question scientifiquement ouverte, parce que nous ne savons même pas précisément comment la conscience apparaît chez l'être humain.
Version longue
Les modèles de langage peuvent écrire sur la peur, la joie ou la solitude, et cela paraît convaincant. Ils ont appris, à partir de milliards de textes humains, comment les gens parlent de leurs sentiments. Mais un texte sur la douleur n'est pas de la douleur.
En 2023, des chercheurs en neurosciences, philosophie et informatique ont traduit des théories courantes de la conscience en critères vérifiables et y ont mesuré des systèmes d'IA. Leur conclusion : aucun système de l'époque ne remplissait ces critères. Mais ils n'ont pas non plus trouvé d'obstacle technique qui exclurait cela pour toujours. Certaines entreprises d'IA se penchent donc par précaution sur la question de savoir si des modèles devraient un jour être pris en considération moralement.
Dans la vie quotidienne, cela signifie : quand une IA dit ressentir quelque chose, elle reproduit ce qui figurait dans ses données d'entraînement sur les sentiments. La question de la conscience doit être prise au sérieux, mais pas sur la base de ce qu'un chatbot raconte sur lui-même.
Que l'IA puisse parler de sentiments montre surtout combien nous en avons écrit à ce sujet.
Sources de cette question
- Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., Deane, G., Fleming, S. M., Frith, C., Ji, X., Kanai, R., Klein, C., Lindsay, G., Michel, M., Mudrik, L., Peters, M. A. K., Schwitzgebel, E., Simon, J., & VanRullen, R. (2023). Consciousness in artificial intelligence: Insights from the science of consciousness. arXiv. https://doi.org/10.48550/arXiv.2308.08708
Autres questions sur ce thème
Ta question manque ?
Envoie-la à frag [at] rogerbasler [.] ch. Des questions choisies recevront une réponse et seront ajoutées ici.