Halluzinationen erkennen: 4 Warnsignale, bevor du glaubst

Vier Warnsignale, mit denen du erfundene Fakten in KI-Antworten erkennst — ohne selbst Experte zu sein. Plus Prüf-Prompt zum Kopieren.

Halluzinationen erkennen: 4 Warnsignale, bevor du glaubst

Du fragst eine KI nach dem Umsatz eines Unternehmens, und sie antwortet: „Laut Geschäftsbericht 2024 lag der Umsatz bei 42,3 Millionen Euro." Die Zahl steht da, als wäre sie sicher. Nur: Es gibt keinen Geschäftsbericht, der das sagt — die Zahl ist erfunden. Solche Antworten heißen Halluzinationen: falsche oder erfundene Informationen, die eine KI als Tatsache präsentiert. Das Problem ist nicht, dass KI Fehler macht. Das Problem ist, dass sie sie mit derselben Selbstsicherheit vorträgt wie richtige Antworten.

Warum Halluzinationen nicht nach Fehler aussehen

Der entscheidende Punkt vorweg: Eine halluzinierte Antwort ist fast nie erkennbar „falsch". Sie ist das Gegenteil — glatt, plausibel, vollständig. Eine KI hat kein Wissen über die Welt, sondern erzeugt Texte, die statistisch wahrscheinlich sind. Ob etwas wahr ist, ist für das Modell kein Kriterium. Es kann nicht „ich weiß es nicht" sagen, wenn die wahrscheinlichste Fortsetzung eben eine erfundene Zahl ist.

Für dich heißt das: Du kannst dich nicht darauf verlassen, dass eine Antwort auffällig falsch klingt. Du brauchst Warnsignale, die unabhängig vom Inhalt funktionieren — auch dann, wenn du vom Thema selbst wenig verstehst. Genau darum geht es hier.

Warnsignal 1: Quellen, die es nicht gibt

Das verlässlichste Warnsignal ist die Quelle. Wenn eine KI eine Studie, einen Bericht, einen Artikel oder einen Link nennt, der sich nicht nachprüfen lässt, ist die Wahrscheinlichkeit hoch, dass auch der Inhalt erfunden ist. Halluzinierte Quellen sehen echt aus: plausibler Titel, seriös klingende Institution, sogar ein echtes Autorenjahr.

Der Test ist simpel und kostet eine Minute:

  • Link anklicken. Führt er zu einer 404-Seite oder zu etwas ganz anderem? Dann war die Quelle nie da.
  • Titel suchen. Den Titel der genannten Studie in eine Suchmaschine eingeben. Taucht er nicht auf, gibt es ihn nicht.
  • Autor und Institution abgleichen. Existiert die Person? Arbeitet sie dort, wo die KI behauptet?

Besonders tückisch sind Mischformen: Der Autor existiert, das Journal existiert — nur der konkrete Artikel nicht. Die KI setzt aus echten Versatzstücken etwas Neues zusammen. Deshalb reicht es nicht, dass ein Detail stimmt; die Quelle muss als Ganzes auffindbar sein.

Warnsignal 2: Unangemessene Sicherheit

Wer wirklich etwas weiß, weiß meist auch, wo es unsicher ist. Fachleute sagen „in der Regel", „nach aktuellem Stand", „das hängt ab von". Eine Antwort, die keinerlei Einschränkung kennt, ist verdächtig — gerade bei komplexen oder umstrittenen Themen.

Achte auf Formulierungen wie „definitiv", „zweifelsfrei", „immer" oder „es ist bewiesen". Das heißt nicht, dass jede solche Antwort falsch ist. Aber es ist ein Signal, genauer hinzusehen. Eine ehrliche Antwort auf eine schwierige Frage enthält fast immer einen Rest Unsicherheit oder eine Bedingung.

Der Umkehrschluss gilt übrigens nicht: Eine KI, die höflich „vermutlich" sagt, kann trotzdem danebenliegen. Sicherheit ist nur ein Warnsignal, kein Freibrief in die andere Richtung.

Warnsignal 3: Zahlen, die zu glatt sind

Erfundene Fakten sind oft auffällig präzise. „42,3 Millionen", „im dritten Quartal 2018", „laut einer Umfrage unter 1.247 Befragten" — solche Angaben klingen nach sorgfältiger Recherche, sind aber genau die Stellen, an denen Modelle besonders gern erfinden. Eine Zahl lässt sich nämlich nicht aus dem Zusammenhang erschließen; wenn das Modell sie nicht kennt, bleibt ihm nur, sie zu raten.

Die Gegenfrage lautet immer: Woher kommt diese Zahl? Wenn die Antwort „nirgends" ist — keine Quelle, kein Link, keine Herleitung —, dann ist die Zahl wertlos, egal wie genau sie aussieht. Grobe Größenordnungen („im einstelligen Milliardenbereich") sind übrigens oft zuverlässiger als punktgenaue Angaben, weil sie aus dem Kontext ableitbar sind.

Warnsignal 4: Die Antwort hält der Nachfrage nicht stand

Ein Fakt bleibt ein Fakt, egal wie du fragst. Eine Halluzination ist flüchtig. Fragst du nach, widerspricht sich die KI, lenkt ab oder gibt klein bei: „Da hast du recht, das war falsch." Das klingt vorbildlich selbstkritisch — ist aber ein Hinweis darauf, dass die erste Antwort nicht auf Wissen beruhte, sondern auf Wahrscheinlichkeit.

Zwei Techniken machen das sichtbar:

  • Anders formulieren. Dieselbe Frage noch einmal stellen, mit anderen Worten. Kommt eine andere Zahl oder eine andere Behauptung heraus, ist mindestens eine davon falsch.
  • Konkret nach der Herleitung fragen. „Wie kommst du auf diese Zahl? Welche Quelle genau?" Eine Antwort ohne nachvollziehbare Herleitung ist eine Behauptung, kein Beleg.

Was du in der Praxis tun kannst

Die vier Warnsignale ersetzen keine Faktenprüfung, aber sie sortieren vor: Sie sagen dir, wo du genauer hinschauen musst. Ein kurzer Prüf-Prompt hilft, die eigene Arbeit zu strukturieren. Wer die Grundbausteine eines guten Prompts noch nicht kennt, findet sie im Beitrag Die 5 Bausteine eines guten Prompts.

Beantworte meine Frage unten. Am Ende jeder Aussage,
die eine Tatsache, Zahl oder Quelle enthält, füge in
eckigen Klammern hinzu: [Quelle: ...] mit dem konkreten
Link oder der konkreten Fundstelle.

Wenn du dir bei einer Aussage nicht sicher bist, schreibe
stattdessen [unsicher]. Wenn du keine Quelle angeben
kannst, schreibe [keine Quelle]. Erfinde keine Quellen.

Frage: [deine Frage]

Das ist keine Garantie — eine KI kann auch in diesem Format erfinden. Aber es zwingt dich, jede Tatsachenbehauptung einzeln zu sehen, statt einen glatten Fließtext zu glauben. Und es macht den zweiten Schritt billiger: Alles mit „keine Quelle" oder „unsicher" prüfst du selbst, alles andere klickst du kurz an.

Für den Alltag gilt eine einfache Faustregel: Je teurer ein Irrtum wäre, desto mehr musst du prüfen. Eine Mail an den Kollegen darf ruhig eine unscharfe Formulierung enthalten. Ein Angebot, eine Steuerangabe, eine Vertragsaussage — nicht. Wer den Unterschied kennt, spart Zeit beim Prüfen und setzt sie dort ein, wo sie wirklich zählt.

Grenzen

Die Warnsignale funktionieren nicht überall. Bei kreativen oder rein sprachlichen Aufgaben — einem Text umformulieren, eine Idee ausarbeiten — gibt es keine Fakten zu prüfen, also auch keine Halluzination in diesem Sinn. Und kein Warnsignal ersetzt die eigentliche Prüfung: Selbst eine Antwort mit perfekter Quelle und angemessener Unsicherheit kann falsch sein. Die Signale verkleinern das Risiko, sie beseitigen es nicht.

Der Punkt ist nicht, der KI grundsätzlich zu misstrauen. Sondern zu wissen, welche Antworten eine zweite Prüfung brauchen — bevor du eine erfundene Zahl weitergibst und sie sich in deinem Umfeld als Fakt festsetzt. Wer die vier Warnsignale im Kopf hat, erkennt die meisten Halluzinationen, ohne Experte für das Thema zu sein.

Newsletter

Keinen Beitrag mehr verpassen

Neue Beiträge und konkrete KI-Tipps direkt in dein Postfach – kostenlos und jederzeit abbestellbar.

Jetzt abonnieren