Est-ce que l'IA invente des choses et s'entraîne elle-même en le faisant ?

L'entraînement et l'utilisation sont deux phases séparées. Pendant l'entraînement, un modèle analyse d'énormes quantités de textes et ajuste ainsi des milliards de valeurs internes, appelées paramètres. Ensuite, ces valeurs sont figées. Lors d'une conversation, le modèle utilise ce qu'il a appris, mais ne change pas pour autant. Quand une conversation se souvient d'échanges précédents, c'est une fonction de mémoire qui enregistre des notes, pas un nouvel entraînement.

L'IA peut quand même inventer. Elle recombine des schémas connus d'une nouvelle manière. Cela donne souvent des résultats utiles et parfois surprenants. Mais la même capacité fait qu'elle invente des faits qui sonnent plausibles et qui sont faux.

Des entreprises utilisent désormais aussi des données générées par l'IA pour entraîner de nouveaux modèles. Cela se fait de manière ciblée et contrôlée. Un modèle qui s'améliorerait lui-même en secret la nuit n'existe pas.