Grokipedias Fehler legen die Grenzen von KI offen – und liefern Lehren für Wikipedia - Digitale Kultur, soziale Medien und Creator

Eine Untersuchung von Grokipedia ergab zahlreiche sachliche Fehler, sich wiederholende Formulierungen und eine schwache Quellenlage, zeigte aber auch, wie KI Wikipedia dabei helfen könnte, übersehene Informationen aufzuspüren und Kontext hinzuzufügen, wenn sie von menschlichen Redakteuren angeleitet wird.

Grokipedia, die von Elon Musk ins Leben gerufene, von KI verfasste Alternative zu Wikipedia, ist laut Bill Adair, einem Journalisten und Professor an der Duke University, der die Einträge über sich selbst untersucht hat, voller sachlicher Fehler, unnötiger Details und holpriger Formulierungen.

Ein Grokipedia-Artikel vermischte Adairs Biografie fälschlicherweise mit der von Marion Danne „Bill“ Adair, einem unbedeutenden Baseballspieler und Manager der Minor Leagues, der 2002 starb. Auf der Seite hieß es, der Journalist habe 19 Jahre lang Baseball gespielt, die Chicago White Sox trainiert und die Arizona State University besucht. Tatsächlich, so Adair, habe er nie Minor-League-Baseball gespielt und sei 1,73 Meter groß, nicht 1,83 Meter.

Grokipedia hat außerdem einen separaten Artikel über den Journalisten. Adair zählte in diesem Eintrag 32 Fehler, darunter erfundene Details, veraltete Informationen und Behauptungen, die seine Arbeit missverstanden. Der Artikel bezeichnete ihn fälschlicherweise als Leiter des Journalismusprogramms der Duke University, eine Position, die er fünf Jahre zuvor aufgegeben hatte, und schrieb ihm zu, 2000 die Geschichte über George W. Bushs Verurteilung wegen Trunkenheit am Steuer aufgedeckt zu haben.

Das Label „von Grok faktengeprüft“ verhinderte die Fehler nicht. Adair sagte, viele der Probleme seien darauf zurückzuführen, dass das System das von ihm zusammengetragene Material nicht verstanden habe, und nicht einfach darauf, dass es Fakten erfunden habe. Er beschrieb Grok als ein System, das Details von zahlreichen Webseiten kombiniere, ohne ihre Bedeutung oder Richtigkeit zuverlässig zu beurteilen.

Auch die Schreibweise war eine erhebliche Schwäche. Das Grokipedia-Profil des Journalisten umfasste etwa 5.600 Wörter, verglichen mit ungefähr 700 Wörtern auf Wikipedia. Laut Adair wiederholte es Informationen über PolitiFact, erklärte das Bewertungssystem der Organisation mehrfach und stützte sich auf eine nach Unternehmen klingende Sprache und Schlagwörter.

Trotz dieser Mängel argumentierte Adair, Grokipedia zeige mehrere Möglichkeiten auf, wie KI Wikipedia-Redakteure unterstützen könnte. Die umfassenden Suchvorgänge entdeckten mitunter Informationen, die menschliche Mitwirkende übersehen hatten. Der Grokipedia-Artikel enthielt umfangreiches Material über Adairs Forschungen zu politischen Lügen und seine Arbeit mit Faktenprüfern auf internationaler Ebene – Themen, die in seinem Wikipedia-Eintrag fehlten.

Grokipedia enthielt außerdem einen Abschnitt über Kritik und Kontroversen im Zusammenhang mit PolitiFact, darunter Vorwürfe, die Organisation sei gegenüber Republikanern voreingenommen, sowie Adairs Antwort darauf. Obwohl die Darstellung übermäßig enthusiastisch sein konnte, sagte Adair, diese Art von Kontext und Ausgewogenheit könnte für Wikipedia nützlich sein, das von Musk und anderen kritisiert wurde, die die Plattform als zu linksgerichtet betrachten.

Musk startete Grokipedia als Alternative zu Wikipedia, das er als „Wokepedia“ bezeichnet hat. Grok soll Hunderttausende Wikipedia-Artikel unter der Creative-Commons-Lizenz der Enzyklopädie kopiert haben, bevor es Material aus anderen Quellen im Internet hinzufügte. Musk sagte, das System sei dafür entwickelt worden, beliebte Wikipedia-Artikel zu überprüfen und Inhalte hinzuzufügen, zu ändern oder zu löschen.

Das Projekt hat seine Ambitionen bislang nicht erfüllt. Die Artikel von Grokipedia sind häufig veraltet und wurden wegen Fehlern, Verschwörungstheorien, Quellen mit geringer Glaubwürdigkeit und einer politischen Schlagseite nach rechts kritisiert. Auch der Prozess ist weniger transparent als bei Wikipedia: Leser können zwar Änderungen anfordern und sehen, ob diese Anfragen genehmigt werden, doch Grokipedia liefert nicht dasselbe Maß an Informationen über Bearbeiter und Überarbeitungen.

Berichten zufolge stellte die Website im vergangenen Frühjahr für eine gewisse Zeit ihre Aktualisierungen ein, bevor sie Ende September wieder aufgenommen wurden. Die Startseite wurde später neu gestaltet und präsentierte häufig einen Artikel über Musk. Grokipedia umfasst außerdem Funktionen wie zufällig angezeigte kürzlich vorgenommene Änderungen und von KI erzeugte Audiolesungen mit mehreren Stimmen.

Wikipedia hat von großen Sprachmodellen erzeugte Inhalte verboten, doch KI-verfasstes Material hat für die Redakteure dennoch zusätzliche Arbeit geschaffen. Die Kontrolle neu angelegter Seiten muss minderwertige Beiträge erkennen und entfernen, während die Wikimedia Foundation davor gewarnt hat, dass KI-generierte Antworten den Datenverkehr zu Wikipedia verringern und Spenden gefährden könnten.

Adairs Einschätzung lautet, dass KI noch nicht bereit ist, die ehrenamtlichen Wikipedia-Redakteure zu ersetzen. Die Fehler von Grokipedia, die schwache Sprache und die Unfähigkeit, wichtige Informationen von belanglosen Details zu unterscheiden, unterstreichen die Bedeutung menschlicher Urteilskraft. Gleichzeitig deutet die Fähigkeit des Systems, umfassend zu suchen, übersehenes Material zusammenzutragen und zusätzlichen Kontext einzuführen, darauf hin, dass KI zu einer nützlichen Hilfe bei Recherche und Schreiben werden könnte, sofern die Redakteure weiterhin für die Bewertung und Auswahl der Ergebnisse verantwortlich bleiben.

Quellen: Nieman Lab.