KI-Ergebnisse prüfen und Halluzinationen erkennen

Was eine Halluzination ist

Als Halluzination wird eine erfundene oder verfälschte Aussage bezeichnet, die wie eine sichere Tatsache formuliert ist. Typisch sind nicht existierende Quellen, vertauschte Jahreszahlen, erfundene Zitate oder plausibel klingende Fachbegriffe.

Besonders aufmerksam sollten Sie bei Geschichte, Politik, Naturwissenschaften, aktuellen Ereignissen und Zahlenmaterial sein. Eine genannte Quelle ist erst dann hilfreich, wenn sie auffindbar ist und die konkrete Aussage tatsächlich stützt.

Die Fünf-Punkte-Prüfung

Prüfen Sie vor dem Einsatz in dieser Reihenfolge:

• Fakten: Stimmen Namen, Daten, Definitionen, Rechnungen und Beispiele?
• Quellen: Existieren sie, sind sie geeignet und belegen sie die Aussage?
• Aufgabenlogik: Ist jede Aufgabe mit den gegebenen Informationen lösbar?
• Passung: Stimmen Sprache, Umfang und Hilfen mit Lernziel und Lerngruppe überein?
• Durchführung: Passen Zeit, Material, Raum und Sozialform zum echten Unterricht?

Warnzeichen erkennen

Warnzeichen sind übergenaue Zahlen ohne Quelle, ein Literaturtitel ohne Autor oder Fundstelle, wechselnde Begriffe für denselben Sachverhalt und Aufgaben, deren Musterlösung mehr voraussetzt als der Arbeitsauftrag. Auch scheinbar perfekte Differenzierung kann problematisch sein, wenn sie Kindern pauschal Eigenschaften zuschreibt.

Lassen Sie eine fragliche Passage nicht nur von derselben KI bestätigen. Prüfen Sie sie in einer verlässlichen Fachquelle, im Schulbuch oder in einer Originalquelle.

Korrigieren statt verwerfen

Markieren Sie die konkrete Schwachstelle und lassen Sie nur diesen Teil überarbeiten. Fordern Sie bei Fakten eine Quelle an, bei Aufgaben eine vollständige Probe-Lösung und bei Differenzierungen eine Begründung, wie der fachliche Kern erhalten bleibt. Die abschließende Freigabe liegt trotzdem bei Ihnen.