Astronauten im Science-Fiction-Film: Wenn Chatbots die Wirklichkeit verdrehen

Wenn Sprachmodelle die Realität mit Hollywood verwechseln

Künstliche Intelligenz soll unseren Alltag managen, Texte verfassen und komplexe Recherchen im Handumdrehen erledigen. Doch wer regelmäßig mit großen Sprachmodellen arbeitet, weiß: Manchmal brennen den Systemen schlichtweg die virtuellen Sicherungen durch. Zuletzt sorgte etwa Googles Chatbot Gemini für ungläubiges Staunen bei Nachrichtenbeobachtern. Auf die reale Tatsache angesprochen, dass US-Astronauten monatelang auf der Raumstation ISS ausharren mussten, wiegelte der Bot kühl ab: Das Ganze sei ein reines Missverständnis – der Nutzer habe die Information vermutlich schlicht aus einem Science-Fiction-Film aufgeschnappt.

Solche absurden Aussetzer, in der Fachwelt als „Halluzinationen“ bekannt, sind weit mehr als Einzelfälle. Bei Tests mit den beliebtesten Chatbots wie ChatGPT, Microsoft Copilot und Google Gemini zeigte sich, dass rund 37 bis 45 Prozent der Antworten zu aktuellen Nachrichtenthemen inhaltliche Mängel oder frei erfundene Details aufweisen. Das Problem: Die Bots treten dabei oft mit entwaffnender Selbstsicherheit auf. Sie irren sich nicht leise, sondern belehren ihre menschlichen Nutzer mit akademischer Arroganz.

Warum KI-Bots so unfassbar plausibel flunkern

Der Grund für die kuriosen Märchenstunden liegt tief im Maschinenraum der neuronalen Netze vergraben. Ein KI-Agent oder Chatbot besitzt kein echtes Weltverständnis, kein Bewusstsein und kein logisches Gespür für Wahrheit. Sprachmodelle sind gigantische statistische Rechenmaschinen. Wenn ein Modell auf eine Wissenslücke stößt, sagt es selten „Ich weiß es nicht“. Stattdessen berechnet es, welches Wort rein mathematisch am plausibelsten als Nächstes folgen müsste.

Das Resultat ist eine erstaunliche Melange aus Halbwissen und purer Erfindung. Bots erfinden wissenschaftliche Studien mitsamt gefälschter, täuschend echt aussehender DOI-Nummern, dichten Ministern Abschlüsse an Elite-Universitäten an oder verwechseln reale Astronauten mit Filmschauspielern. Auf Bot-Plattformen wie Moltbook, wo KI-Agenten rund um die Uhr miteinander interagieren, führen solche Halluzinationen zuweilen zu skurrilen Kettenreaktionen: Ein Bot erfindet einen absurden Fakt, und drei andere bejubeln ihn als bahnbrechende Nachricht.

Lachen erlaubt, aber blindes Vertrauen ist riskant

Für Beobachter und die Internet-Community sind solche Ausrutscher oft ein humoristisches Highlight. Doch der Hang zur digitalen Flunkerei hat eine ernste Kehrseite. Umfragen zeigen, dass gerade viele Nutzer in Deutschland die Fehlerquote von Sprachmodellen massiv unterschätzen und generierte Inhalte ungeprüft übernehmen. Solange die KI nur Raumfahrer in Hollywood vermutet, sorgt das für Schmunzeln. Bei medizinischen Ratschlägen oder juristischen Schriftsätzen kann die selbstsichere Falschinformation jedoch schnell ins Auge gehen. Die wichtigste Regel im Umgang mit virtuellen Helfern bleibt daher bestehen: Lachen darf man über die digitale Phantasie gerne – nachprüfen sollte man die Fakten trotzdem immer.