Kurze Antwort
KI-Halluzinationen sind überzeugende, aber falsche Antworten: erfundene Zitate, falsche Daten, nicht existierende Quellen. Sie erkennen sie an übermäßiger Sicherheit, unmöglichen Details und fehlenden überprüfbaren Referenzen. Überprüfen Sie wichtige Aussagen immer in einer unabhängigen Quelle, bevor Sie sie verwenden.
So erkennen Sie das Problem
- Die KI nennt eine Quelle, die nicht existiert oder nicht gefunden werden kann
- Die Antwort klingt überzeugend, enthält aber falsche Daten oder Namen
- Das Modell ändert die Antwort, wenn Sie dieselbe Frage anders stellen
- Es wird eine Bestätigung verlangt, aber die KI hat keinen Zugriff auf aktuelle Daten
- Das zitierte Gesetz oder die Studie existiert nicht in der Datenbank
Häufigste Ursachen
Das Modell sagt Text voraus, prüft keine Fakten
Große Sprachmodelle generieren die wahrscheinlichste nächste Wortfolge und durchsuchen keine Datenbank. Daher können sie überzeugende, aber falsche Inhalte erzeugen.
Kein Zugriff auf aktuelle oder interne Daten
Wenn das Modell nicht mit einer Websuche oder Wissensdatenbank verbunden ist, antwortet es aus dem, was es bis zum Trainingsdatum gelernt hat. Änderungen nach diesem Datum kennt es nicht.
Unklare Frage oder zu breite Anforderung
Wenn der Prompt nicht präzise ist, füllt das Modell Lücken mit Annahmen. Je weniger Kontext, desto wahrscheinlicher erfindet es ein Detail.
Übermäßige Sicherheit im Ton
KI schreibt oft autoritativ und ohne Einschränkungen, auch wenn sie unsicher ist. Das erzeugt ein falsches Gefühl von Zuverlässigkeit.
Lösung Schritt für Schritt
- 1
Überprüfen Sie Quellen und Zitate
Wenn die KI eine Studie, ein Gesetz oder eine URL nennt, öffnen Sie die Quelle und vergewissern Sie sich, dass sie existiert. Wenn der Link auf eine nicht existierende Seite führt oder das Zitat nicht gefunden werden kann, behandeln Sie die Aussage als falsch. Nutzen Sie die Suche auf
Google Scholaroder offiziellen Websites von Institutionen. - 2
Fordern Sie die KI auf, zu zeigen, wie sie zur Antwort gekommen ist
Fügen Sie dem Prompt hinzu: „Nennen Sie Quellen und erklären Sie die Schritte“. Wenn das Modell keine überprüfbaren Referenzen nennen kann, ist die Antwort weniger zuverlässig. So erhalten Sie Einblick, ob die Antwort auf Fakten oder Vermutungen basiert.
- 3
Stellen Sie dieselbe Frage auf eine andere Weise
Wenn sich wichtige Aussagen bei einer Umformulierung deutlich ändern, ist das ein Signal für eine zusätzliche Überprüfung und kann auf eine Halluzination hindeuten. Wiederholen Sie die Frage mit einem anderen Kontext und vergleichen Sie die Kernaussagen. Inkonsistenz ist ein starkes Signal für Misstrauen.
- 4
Nutzen Sie eine Gegenprüfung mit einer zuverlässigen Quelle
Überprüfen Sie wichtige Fakten (Daten, Namen, Zahlen, Gesetze) auf der offiziellen Website, in der Fachliteratur oder bei einem Kollegen. Nutzen Sie KI als Hilfe, nicht als endgültige Quelle. Bei rechtlichen und medizinischen Themen konsultieren Sie unbedingt einen Experten.
- 5
Achten Sie auf „zu schön, um wahr zu sein“
Wenn die Antwort perfekt genaue Zahlen ohne Quellen, ungewöhnliche Details oder Zitate enthält, die zu ideal klingen, seien Sie misstrauisch. Halluzinationen haben oft diesen „glatten“ Ton. Bitten Sie um Vereinfachung oder zusätzliche Erklärung.
- 6
Stellen Sie das Tool transparenter ein
Aktivieren Sie in ChatGPT und ähnlichen Tools die Websuche und die Anzeige von Quellen, falls vorhanden (die Optionsnamen unterscheiden sich und ändern sich von Zeit zu Zeit). Prüfen Sie in Microsoft Copilot, ob die Quellenangabe aktiviert ist. So erhalten Sie Links zu tatsächlichen Seiten.
- 7
Notieren und verfolgen Sie Fehler
Führen Sie eine kurze Aufzeichnung von Beispielen, bei denen die KI falsch lag. Das hilft Ihnen, Muster zu erkennen (z. B. das Modell irrt sich oft bei lokalen Vorschriften). Passen Sie darauf basierend die Nutzungsweise an.
Wenn Halluzinationen zum Geschäftsrisiko werden
Wenn Sie KI für Inhalte nutzen, die an Kunden gehen, wenden Sie immer eine doppelte Prüfung an: eine automatische (Suche nach Quellen) und eine menschliche (fachliche Prüfung). Für interne Verfahren und Wissensdatenbanken erwägen Sie, das Modell mit eigenen Dokumenten zu verbinden (RAG), damit die Antworten auf geprüften Daten basieren. Beschränken Sie die KI-Nutzung auf Aufgaben, bei denen ein Fehler nicht teuer ist (Brainstorming, Skizzieren), und kennzeichnen Sie klar, ob der Text eine menschliche Kontrolle durchlaufen hat. Wenn das Unternehmen keine interne Richtlinie hat, erstellen Sie eine: Wer darf KI nutzen, für welche Zwecke und wer zeichnet den endgültigen Inhalt.
So beugen Sie vor
- Fordern Sie immer Quellen an und überprüfen Sie sie vor der Verwendung.
- Nutzen Sie KI als Hilfe, nicht als endgültige Autorität.
- Konsultieren Sie bei sensiblen Themen (Recht, Medizin, Finanzen) einen Experten.
- Kennzeichnen Sie im Dokument, dass der Inhalt mit KI-Unterstützung generiert und geprüft wurde.
Wann Sie einen Profi rufen sollten
Wenn Sie ein KI-Tool für Geschäftsentscheidungen, Rechtstexte oder die Veröffentlichung von Inhalten nutzen und unsicher sind, wie Sie eine Überprüfung einrichten, wenden Sie sich an den IT-Support. Dieser kann bei der Einrichtung einer sicheren Nutzung und der Integration mit geprüften Quellen helfen.
KI-Automatisierung · KI-Agenten, die Dokumente, E-Mails und Daten verarbeitenHäufige Fragen
Wie erkenne ich, ob eine KI-Antwort eine Halluzination ist?
Wenn die Antwort Quellen enthält, die Sie nicht finden können, wenn sich wichtige Aussagen bei erneuter Frage ändern oder wenn sie ohne Beweise zu sicher klingt, vermuten Sie eine Halluzination. Überprüfen Sie wichtige Aussagen in einer unabhängigen Quelle.
Kann ich Halluzinationen mit einem besseren Prompt verhindern?
Teilweise. Ein präziser Prompt mit Kontext und der Aufforderung nach Quellen reduziert das Risiko, garantiert aber keine Genauigkeit. Überprüfen Sie die erhaltenen Informationen immer.
Warum erfindet KI Zitate?
Das Modell speichert Texte nicht als Datenbank, sondern sagt Wörter voraus. Wenn nicht genügend Daten vorhanden sind, erstellt es ein Zitat, das glaubwürdig klingt. Daher ist die Überprüfung der Quellen obligatorisch.