Plausibilität ist keine Quellenprüfung
Ein Sprachmodell erzeugt Text auf Grundlage gelernter Muster und des jeweiligen Kontexts. Eine flüssige Antwort ist deshalb kein Beweis dafür, dass eine Behauptung stimmt oder eine angeführte Quelle existiert. Ein System mit Suchfunktion kann zusätzliche Informationen beziehen; auch dann musst du prüfen, ob die verlinkte Stelle die konkrete Aussage tatsächlich trägt. Entscheidend ist nicht, wie selbstsicher die Formulierung klingt. Entscheidend ist, ob eine Behauptung an einer geeigneten unabhängigen Grundlage überprüft werden kann.
Eine Rolle ist enger als eine Wunschliste
«Hilf beim Lernen» lässt offen, ob das System die Lösung liefert, einen Hinweis gibt oder nur zustimmt. Formuliere stattdessen einen Arbeitsauftrag mit Grenze: Stelle eine Rückfrage zu meiner Begründung; gib noch keine Musterlösung. Ergänze das Material, das verwendet werden darf, und die Stelle, an der ein Mensch entscheidet. Eine solche Vorgabe kann die Zusammenarbeit strukturieren, garantiert aber nicht ihre Einhaltung. Plane daher, was du tust, wenn das System doch eine fertige Antwort oder einen sachlich falschen Hinweis liefert.
Prüfen muss möglich sein
Die Aufforderung «prüfe alles kritisch» ist als Lernauftrag zu unbestimmt. Wähle eine überprüfbare Aussage, stelle geeignete Gegenquellen bereit und kläre das Verfahren. Bei einer Zahl kann das ein Originaldatensatz sein, bei einer Interpretation der zugrunde liegende Text, bei einer beruflichen Empfehlung eine vorgegebene Prozessregel. Ein zweites Modell ist kein unabhängiger Beleg für eine Sachfrage. Es kann eine alternative Hypothese liefern; die Überprüfung benötigt weiterhin eine passende Grundlage. Wenn diese fehlt, lautet das Ergebnis offen oder ungeklärt.
Grenzen praktisch organisieren
Verwende für die Erprobung erfundene oder sorgfältig anonymisierte Fälle. Gib keine vertraulichen Lernenden- oder Betriebsdaten in ein beliebiges Werkzeug ein. Kläre die in deiner Institution zugelassenen Dienste und die Bedingungen für deren Nutzung, bevor du mit echten Gruppen arbeitest. Biete denselben Denkauftrag auch mit einem vorbereiteten Impuls oder einer Partnerperson an. So bleibt die didaktische Idee unabhängig von einem privaten Bezahlkonto. In diesem Kurs sind alle Impulse vorbereitet; es findet kein Live-Gespräch mit einem KI-Modell statt.