Warum Schüler:innen bei Prüfungen so halluzinieren, wie das KI-Systeme tun

Kürzlich wollte ich nachlesen, was Ikkimel in einem Gespräch gesagt hatte. Ich hatte das Audio-File des Gesprächs und versuchte, mit ChatGPT eine Transkription zu erstellen. Hier zwei Auszüge aus dem Prompt-Dialog:

ChatGPT gibt mir keine klaren Informationen. Das hat einen Grund, mit dem man erklären kann, weshalb viele KI-Systeme halluzinieren. Wei Xing hat ihn in einem Artikel bei Krautreporter wie folgt beschrieben:

Wenn ein KI-System von Google oder OpenAl „Ich weiß es nicht" sagt, erhält es dieselbe Bewertung, die es bekommen hätte, wenn es komplett falsche Informationen geliefert hätte. Die optimale Strategie in diesem Bewertungssystem ist daher: zu raten.

Mit «Bewertung» ist hier ein Vorgang gemeint, mit dem die Ausgaben von KI-Programmen gesteuert werden. Diese sind also so aufgesetzt, dass sie eher behaupten, etwas zu wissen oder zu können, als dass sie zugeben, wenn sie Anfragen nicht so bearbeiten können, wie das Benutzer:innen sich wünschen. In meinem Fall führt das dazu, dass ChatGPT vorgibt, eine Datei transkribieren zu können, obwohl das technisch nicht möglich ist.

Welche Gründe das haben mag, dass die Verantwortlichen diese Tools so designt haben: Für Menschen ist das nicht sinnvoll. Wenn für uns klar, dass jemand etwas nicht weiss oder nicht kann, ist das eine wichtige Information, die wir auch in Bezug auf unsere Technologie bräuchten. Umgekehrt müssen Menschen lernen, zuzugeben, wenn sie etwas nicht wissen oder nicht können, um anderen diese wertvollen Informationen zu liefern.

Schulische Prüfungen funktionieren aber genau so wie die Bewertungssysteme von KI-Tools. Schüler:innen halluzinieren bei klassischen Prüfungen genauso, wie das diese Bots tun. Warum: Weil sie keine Punkte erhalten, wenn sie bei einer Aufgabe hinschreiben, dass sie etwas nicht wissen oder nicht können. Tun sie so, als wüssten sie es, gibt es zumindest eine Möglichkeit, dass das ihre Bewertung verbessert.

Sinnvolle Prüfungen sind so gestaltet, dass Schüler:innen auch Lücken in ihrem Wissen oder fehlende Kompetenzen ehrlich angeben können. Wer sich reflexartig darüber lustig machen möchte, dass Schüler:innen bei Prüfungsfragen «Weiss ich nicht» hinschreiben würden, könnte eine längerfristige Perspektive einnehmen: Jedes «Weiss ich nicht» ist an der Schule eigentlich ein «Weiss ich noch nicht» – sich bewusst zu werden, wo Lücken vorhanden sind, ist der erste Schritt, um sie dann zu füllen. Prüfungen sind dann besonders problematisch, wenn sie suggerieren, Lernprozesse müssten irgendwann beendet sein.