Erfindet KI Sachen und trainiert sich dabei selbst?

Training und Nutzung sind zwei getrennte Phasen. Im Training analysiert ein Modell riesige Textmengen und passt dabei Milliarden interner Zahlen an, die sogenannten Parameter. Danach werden diese Zahlen eingefroren. Im Gespräch nutzt das Modell, was es gelernt hat, verändert sich dabei aber nicht. Wenn sich ein Chat an frühere Gespräche erinnert, steckt eine Gedächtnisfunktion dahinter, die Notizen speichert, kein neues Training.

Erfinden kann KI trotzdem. Sie setzt bekannte Muster neu zusammen. Das ergibt oft Brauchbares und manchmal Überraschendes. Dieselbe Fähigkeit führt aber dazu, dass sie Fakten erfindet, die plausibel klingen und falsch sind.

Firmen nutzen inzwischen auch KI-erzeugte Daten, um neue Modelle zu trainieren. Das geschieht gezielt und kontrolliert. Ein Modell, das sich nachts heimlich selbst verbessert, gibt es nicht.