KI-Systeme generieren Inhalte und produzieren dabei auch falsche Quellenangaben (via heise.de):
“Das IKRK sieht sich in seiner Stellungnahme genötigt, darauf hinzuweisen, dass KI-Systeme „nicht recherchieren, keine Quellen verifizieren oder Informationen überprüfen“. Die Inhalte würden nur auf Basis statistischer Muster generiert, weshalb sie Katalognummern, Beschreibungen von Dokumenten oder gar Verweise zu Plattformen „erfinden“: „Weil es ihr Zweck ist, Inhalte zu generieren, können sie nicht anzeigen, dass Informationen nicht existieren.“ Stattdessen würden sie Details „erfinden“, die zwar plausibel erscheinen, aber kein Fundament in einem Archiv haben. Zuverlässige Informationen finde man nur in offiziellen Katalogen wie jenem des IKRK oder eben direkt in Bibliotheken.”