Partner von:
Anzeige

Forscher haben einen Bot entwickelt, der täuschend echte Fake-News schreibt

meedia-ki-optik.jpg
©Foto: Fotolia/ Montage: MEEDIA

Robo-Journalismus und Fake-News stehen Medienvertreter skeptisch gegenüber. Doch spätestens wenn Software gut klingende Fake-News produzieren kann, ist Grund zur Panik angesagt. KI-Forschern ist genau das gelungen. Die Arbeiten des Robo-Fakers lesen sich überraschend gut.

Anzeige

Die KI ist demnach in der Lage, zu jedem erdenklichen Thema einen Artikel zu produzieren. Alles, was es dazu brauche, ist eine knappe Themenbeschreibung, im Journalisten-Jargon “Küchenzuruf” genannt. Der Algorithmus arbeitet anschließend komplett unbeaufsichtigt und ohne menschlichen Einfluss.

Entwickelt haben den Content-Golem die Forscher des kalifornischen Startups OpenAI. Eben jener Non-Profit-Organisation, die der Tesla-CEO Elon Musk und Facebook-Investor Peter Thiel mit Millionen Dollar unterstützen. Das Team hat offenbar einen bedeutsamen Entwicklungssprung beim Machine Learning hingelegt. Ihr System ist offenbar in der Lage, in natürlicher Sprache mit nur geringem menschlichen Input plausibel klingende Texte zu formulieren.

In einem Research Paper mit dem Titel “Better Language Models and Their Implications” haben die Entwickler ihre Fortschritte bei der Spracherkennung und -gestaltung veröffentlicht.  Was ungewöhnlich ist: Sie äußern auch große Bedenken. Allen voran, dass solche Tools dafür missbraucht werden könnten, massenhaft glaubhafte Fake-News zu produzieren. Aus diesem Grund will man die Technologie der Öffentlichkeit nicht zugänglich machen.

Reddit dient als Gradmesser

Gefüttert wird der Bot demnach mit Informationen aus über acht Millionen Webseiten, auf die er zugreift. Anstatt aber wahllos Informationen zu recherchieren, beruft sich die KI in erster Linie auf Seiten, die bei Reddit gepostet wurden. Und wiederum nur auf Links, die einen “Karma”-Score von über 3 haben – was bedeutet, dass mindestens drei Menschen den Inhalt aus irgendeinem Grund für wertvoll befunden haben. “Dies kann als heuristischer Indikator dafür angesehen werden, ob andere Benutzer den Link interessant, lehrreich oder einfach nur lustig fanden”, heißt es in dem Schreiben.

Die KI erzeugt im Anschluss Wort für Wort eine eigene Story. Die Erkenntnis der Forscher: Die Texte sind oft stimmig, aber selten wahrheitsgetreu. Denn alle Zitate und Zuschreibungen sind frei erfunden. Die Sätze basieren zwar auf bereits online veröffentlichten Informationen, aber die Zusammensetzung dieser Informationen ist neu.

Anzeige

Screenshot: BBC

Mitunter kommt aber auch leicht zu entlarvender Unsinn dabei heraus: In einer Demo, das berichtet die BBC, schrieb die KI über einen Protestmarsch, der von einem Mann namens “Paddy Power” organisiert wurde. Dabei handelt es sich allerdings erkennbar um eine britische Wettbüro-Kette. “Wir haben verschiedene Fehlermodi beobachtet”, erklärt das Team im Forschungspapier. Dazu zählen unter anderem sich wiederholender Text, unnatürliche Themenwechsel oder aber Fehler bei der “Weltmodellierung”: Manchmal schreibt die KI etwa über Brände unter Wasser.

“Kriminelle werden die KI nutzen”

Der Vorstoß von OpenAI stößt auf wenig Begeisterung in der Forschergemeinde: “Sie haben viel Budget, und sie produzieren jede eine Menge aufwändig klingende Spielereien”, zitiert die BBC Benjamin Recht, Professor für Informatik an der UC Berkeley. Andere Wissenschaftler befürchten, dass eine solche Technologie ein schlechtes Licht auf akademische Forschung im KI-Segment wirft.

Brandie Nonnecke, Direktorin des Berkeleys Citris Policy Lab, das sich mit gesellschaftlichen Auswirkungen von Technologien beschäftigt, hält solche Fehlinformationen für unvermeidlich. “Es steht außer Frage, ob Kriminelle die KI nutzen werden, um überzeugende gefälschte Nachrichtenartikel und Deepfakes zu erstellen, sie werden es”, sagte sie der BBC. Ihrer Meinung nach sollte sich die Debatte stärker auf Plattformen wie Facebook konzentrieren, auf denen sie verbreitet werden könnte. Vor allem Google dürfte es schwer fallen, die plausibel klingenden Texte, die sich aus Informationen aus Millionen anderer Webseiten zusammensetzen, als Fakes zu entlarven.

Keine Neuigkeiten aus der Medien-Branche mehr verpassen: Abonnieren Sie kostenlos die MEEDIA-Newsletter und bleiben Sie über alle aktuellen Entwicklungen auf dem Laufenden.

Anzeige

Mehr zum Thema

Anzeige
Anzeige
Werben auf MEEDIA
Meedia

Meedia