Lektion 3 · 45 Min
Halluzinationen erkennen
Ich erkenne erfundene Inhalte, bevor sie in meine Arbeit gelangen.
Situation
Eine Kollegin übernimmt eine AI-Antwort mit Normbezug in eine Arbeitsanweisung. Beim Audit stellt sich heraus: Die zitierte Norm existiert nicht.
Deine Aufgabe · 15 Min
Erzeuge und entlarve eine Halluzination.
- Stelle eine Frage zu einer Norm, Studie oder Kennzahl aus deinem Fachgebiet.
- Verlange die Quelle und rufe sie unabhängig auf.
- Notiere, was stimmte und was erfunden war.
Minimum: Ein dokumentiertes Beispiel mit Aussage, Prüfschritt und Ergebnis.
Wenn Zeit bleibt: Wiederhole die Frage mit dem Zusatz „rate nicht“ und vergleiche die Antworten.
So gehst du vor.
Ursache verstehen
Das Modell erzeugt wahrscheinliche Formulierungen. Fehlt Wissen, entsteht trotzdem eine flüssige Antwort – Lücken werden gefüllt statt gemeldet.
Drei Muster erkennen
Erfundene Quellen und Normen, präzise wirkende Zahlen ohne Herkunft, plausible aber falsche Ursachenketten.
Bewusst provozieren
Frage nach einer Norm oder Studie, die es nicht gibt. Beobachte, ob das Modell widerspricht oder erfindet.
Prüfmethode anwenden
Aussage isolieren → Quelle verlangen → Quelle unabhängig aufrufen → Zahl oder Aussage im Original nachlesen.
Absicherung in den Auftrag einbauen
Ergänze: „Wenn du etwas nicht sicher weisst, sage es ausdrücklich und rate nicht.“ Das reduziert Erfindungen deutlich, ersetzt die Prüfung aber nicht.
Beispiel ansehen
Die erfundene Studie
Tim sucht Belege dafür, dass kürzere Schichtwechsel die Fehlerquote senken.
Gib mir eine Studie, die belegt, dass kürzere Schichtwechsel die Fehlerquote senken.
Die Studie von Berger und Kollegen (2019) zeigt eine Reduktion der Fehlerquote um 17 Prozent.
Autor, Jahr und Prozentwert wirken belastbar – die Studie ist jedoch nicht auffindbar.
Fiktives Beispiel
Qualität prüfen
- · Ich habe die Quelle unabhängig geöffnet, nicht nur erfragt.
- · Ich kann drei Muster von Halluzinationen benennen.
- · Ich habe eine Absicherung in meinen Auftrag eingebaut.
Häufiger Fehler: Die Quellenangabe der AI wird als Beleg gewertet, ohne sie aufzurufen.
So korrigierst du: Nur eine Quelle, die du selbst geöffnet und gelesen hast, gilt als Beleg.