Heike Baller schreibt auf ihrem Blog zum Thema «Warum ich KI bei der Recherche nicht empfehlen kann»:
«Der Hauptgrund aber ist die Art und Weise, mit der KI Texte generiert – mit der Gefahr, dass die Wahrscheinlichkeiten, wie Token aufeinander folgen, dazu führen kann, dass der neu estellte Text thematisch nicht zum Inhalt des Papers, der Frage usw. passt. Weil eben textgenerative KI Texte nicht versteht, sondern in Zahlen runterbricht, Muster erkennt, auf bestimmte Inhalte und gegen bestimmte Biases trainiert wurde und auf nicht nachvollziehbare Weise dann neue Zahlenkombinationen als Token zusammenrechnet, die als Text ausgegeben werden.
Als Inspirationsbooster und für andere Aufgaben, deren Fokus nicht auf Verlässlichkeit und Faktentreue abzielt, kann textgenerative KI einiges leisten – unbenommen. Bei einer Suche im WWW oder in Literaturrecherchetools geht es aber genau um solche Aspekte – deshalb halte ich KI bei der Recherche für ungeeignet. Kann sein, dass sich das ändert. Eine Momentaufnahme.»