Anzeige

Im Kampf gegen Fake News: Reuters produziert gefälschte Videos – zu Übungszwecken

Deepfake-Videos: Links der echte Vladimir Putin, rechts die Fälschung © Foto: Screenshot: Youtube: Bloomberg

Um sogenannte „Deepfakes“ besser erkennen zu können und Falschberichterstattung zu vermeiden, greift Reuters zu ungewöhnlichen Mitteln. Die Nachrichtenagentur lässt eigene Fake-Videos produzieren. So will man Redakteure besser für mögliche Fälschungen im Netz sensibilisieren.

Anzeige

Für interne Zwecke ließ man eine spezialisierte Produktionsfirma ein „Deepfake“-Video erstellen, in dem ein bekannter Moderator in einem TV-Studie von einem Script vorlas. Anschließend teilte man die Aufnahme mit dem zwölfköpfigen User-generated-Content-Team. Sie sollten mitteilen, ob ihnen etwas Ungewöhnliches aufgefallen sei.

Probanden erkannten Unstimmigkeiten, aber keinen Fake

Diejenigen, die etwas von der Manipulation wussten, bemerkten ein Missverhältnis zwischen der Audiospur und den Lippenbewegungen, die nicht synchron schienen. Zudem sah es wohl so aus, als würde der Fake-Moderator lispeln, jedoch klang er nicht so. Auch fiel auf, dass die gezeigte Person ungewöhnlich still saß. Diejenigen, die nicht von der Manipulation wussten, bemerkten auch Unstimmigkeiten beim Ton, konnten das Problem aber nicht genauer benennen.

Sogenannte „Deepfakes“ sind gefälschte Foto- oder Videoaufnahmen von echten Persönlichkeiten. Sie nutzen Künstliche Intelligenz, um Gesichtsbewegungen zu antizipieren, und erzeugen mittels neuronaler Netzwerke Bilder, um der Aufnahme einen natürlichen Look zu verleihen.

Anders formuliert: Die Software benötigt lediglich das Gesicht der Person und einen Grundstamm an Mimik, um die Person vor der Kamera sagen und tun zu lassen, was man will. Als Quellmaterial reicht mitunter sogar eine 15-sekündige Aufnahme der Person. Ähnlich der Fake News, bei der Bots natürliche Sprache nachahmen, um eine menschliche Autorenschaft vorzugaukeln, erwecken die Videoaufnahmen den Eindruck, als würde ein echter Mensch gefilmt.

Reuters schätzt, dass rund 10.000 Deepfakes online kursieren, die meisten davon in der Erotikindustrie. Doch abgesehen von einigen bekannten Beispielen von Donald Trump, Barack Obama und Angela Merkel fällt es offenbar schwer, ausreichend „alltägliche“ Beispiele zu finden, um das Format zu studieren. Also greift Reuters auf hausgemachte Fälschungen zurück.

Flut an Fake-Videos

„Die Deep Fakes stapeln sich nicht auf meinem Schreibtisch, aber ich will nicht warten, bis sie es tun“, erklärt Hazel Baker, Head of User Generated Content News-Gathering bei Reuters gegenüber Digiday. Nicht nur deswegen hat Reuters in den vergangenen zwei Jahren das Team, das Videoinhalte auf ihre Authentizität checkt, verdoppelt. Rund 80 Videos pro Woche werden von den Spezialisten überprüft.

Allein während der jüngsten Eskalationen zwischen Indien und Pakistan im vergangenen Monat fand man laut Digiday rund 30 Videos, die sich als Fake erwiesen. Meist handelt es sich dabei um alte Videos, die ge-remixed werden mit neuen Bildunterschriften, sowie Aufnahmen von Attacken, die zu einem anderen Zeitpunkt an einem anderen Ort entstanden sind.

Komplett auf Amateuraufnahmen verzichten will Reuters allerdings nicht: „Bei einem Breaking-News-Event ist die erste Kamera am Tatort oft keine professionelle“, so Baker gegenüber Digiday. „Deswegen können wir es uns nicht leisten, dieses Material zu ignorieren.“

Für die Analyse greifen die Fact-Checker etwa auf bekannte Tools wie Google Maps zurück, aber nutzen auch aufwändigere Video-Analysen. Bei der Recherche zu Augenzeugenvideos nach dem Attentat in Christchurch stieß das Reuters-Team auf ein Video, das angeblich den Moment zeigt, in dem ein Verdächtiger von der Polizei erschossen wurde. Eine Rückwärtssuche der Einzelbilder ergab allerdings, dass es sich um einen anderen Vorfall in Florida aus dem vergangenen Jahr handelte.

Anzeige