Wo KI-Verzerrungen entstehen

Welche Menschen und Erfahrungen kommen in den Daten vor? Welche Muster lernt das Modell? Für wen fallen die Ausgaben anders aus? Und was verändert sich, sobald das System im Alltag eingesetzt wird?

Ein neuer Fachbeitrag zur Public-Health-Ausbildung verbindet diese Ebenen. Sein Kompetenzrahmen ist ein Vorschlag, noch kein empirisch geprüftes Lehrprogramm. Die Grafik vereinfacht die vier Prüfebenen; sie beschreibt keine gemessenen Fehlerquoten.

Für den Unterricht nehme ich daraus eine Anregung mit: Bei einer auffälligen KI-Antwort nicht bloss die Formulierung verbessern. Gemeinsam überlegen, welche Daten, Entscheidungen und Einsatzbedingungen dahinterliegen könnten – und für welche Vermutung uns noch Belege fehlen. Eine gut klingende Korrektur allein erklärt die Ursache nicht.