Frage 10 · Was ist KI und wie funktioniert sie?
Woher weiss ich, ob eine KI-Antwort stimmt?
Kurze Version
Du weisst es erst, wenn du prüfst. KI formuliert falsche Aussagen genauso überzeugend wie richtige. Prüfen heisst: Quellen anschauen, bei wichtigen Fakten eine zweite unabhängige Quelle suchen und bei Zahlen besonders genau hinsehen.
Lange Version
Fachleute nennen erfundene Fakten Halluzinationen. Sie entstehen, weil ein Sprachmodell darauf trainiert ist, eine plausible Antwort zu geben. Forschende haben 2025 gezeigt, dass gängige Trainings- und Testverfahren das Raten belohnen: Ein Modell, das bei Unsicherheit etwas erfindet, schneidet in vielen Tests besser ab als eines, das "Ich weiss es nicht" sagt.
Daraus folgen einfache Regeln. Je spezifischer eine Angabe ist, etwa ein Zitat, eine Jahreszahl oder ein Gesetzesartikel, desto mehr lohnt sich die Kontrolle. Quellenangaben der KI immer anklicken, denn auch Quellen können erfunden sein. Und frag die KI ruhig: "Wie sicher bist du dir, und wie kann ich das prüfen?" Das ersetzt keine Prüfung, macht Unsicherheit aber sichtbar.
Bei Gesundheit, Recht und Geld gilt: KI zur Vorbereitung nutzen, entscheiden mit Fachleuten.
KI klingt immer sicher, Gewissheit entsteht erst beim Prüfen.
Quellen zu dieser Frage
- Kalai, A. T., Nachum, O., Vempala, S. S., & Zhang, E. (2025). Why language models hallucinate. arXiv. https://doi.org/10.48550/arXiv.2509.04664
Weitere Fragen aus diesem Themenfeld
Deine Frage fehlt?
Schreib sie an frag [at] rogerbasler [.] ch. Ausgewählte Fragen werden hier beantwortet und ergänzt.