(via Barbara Geyer auf LinkedIn):
“Selbst die besten Modelle mit Websuche liegen bei rund 30 % Halluzinationsrate. Fast jede dritte Aussage ist faktisch nicht gestützt. Der tückischste Befund: Die häufigsten Fehler sind nicht erfundene Quellen, sondern Fälle, in denen die KI eine echte Quelle nennt, deren Inhalt die Behauptung gar nicht stützt. Schwerer zu erkennen und deshalb gefährlicher.
Dazu kommt ein Kaskadeneffekt. Je länger ein Gespräch dauert, desto mehr baut die KI auf eigenen Fehlern auf. Bis zu 20 % der falschen Referenzen tauchen in späteren Runden wieder auf.
🛡 Fünf Strategien gegen Halluzinationen
1️⃣ Websuche aktivieren. Die meisten KI-Tools haben eine Websuchfunktion, die oft nicht standardmäßig eingeschaltet ist. Laut Studie senkt sie die Halluzinationsrate von 60 % auf 30 %. Das allein löst das Problem nicht, ist aber der wichtigste erste Schritt.
2️⃣ Quellen auf Inhalt prüfen. Dass eine KI eine Quelle angibt, heißt nicht, dass die Quelle die Aussage stützt. Dieses Content-Grounding ist die häufigste Fehlerquelle. Also: Quelle öffnen und nachlesen.
3️⃣ Gespräche kurz halten. Der Kaskadeneffekt ist messbar. Lieber mehrere kurze Konversationen starten, statt ein langes Gespräch zu führen, in dem sich frühe Fehler fortpflanzen.
4️⃣ Bei Nischenwissen skeptisch sein. Die Studie beschreibt eine gefährliche Mittelzone. Bei Themen mit wenig Trainingswissen füllen Modelle Lücken mit plausibel klingenden Details auf. Genau dort, wo du es am wenigsten merken würdest.
5️⃣ Gegenproben stellen. Bitte die KI, ihre eigene Antwort kritisch zu hinterfragen. Oder suche gezielt nach der Originalquelle. Kostet zwei Minuten, kann einen gravierenden Fehler verhindern.
💡 Mein Fazit
KI nicht nutzen, ist keine Lösung. KI blind vertrauen, auch nicht. Websuche einschalten, Gespräche kurz halten, Quellen wirklich lesen. Das sind keine komplizierten Methoden. Aber sie machen den Unterschied zwischen einer KI, die uns klüger macht, und einer, die uns in die Irre führt. Denn am Ende entscheidet nicht die KI über die Qualität der Antwort. Sondern wie wir mit ihr arbeiten.”
