Halluzination
Eine KI-Antwort, die plausibel klingt, faktisch aber falsch ist.
Was es bedeutet
Sprachmodelle erzeugen Text nach Wahrscheinlichkeit, nicht nach Wahrheit. Eine Halluzination entsteht, wenn die Wahrscheinlichkeit hoch ist, dass eine Aussage so klingt, obwohl sie nicht stimmt. Häufig: erfundene Quellen, falsche Jahreszahlen, frei erfundene Zitate. Drei Schutzmechanismen: Domänen-Check (kennt sich das Modell aus?), Quellen-Check (gibt es die zitierte Quelle wirklich?), Plausibilitäts-Check (ergibt das in meinem Fach Sinn?).
Im Schulalltag
ChatGPT zitiert eine Studie «Müller & Schmidt 2019» mit konkreten Zahlen — die Studie existiert nicht.