Anzeige

#InsideFacebook: SZ-Magazin enthüllt die geheimen Lösch-Regeln des Social-Networks

Im SZ-Magazin berichten Hannes Grassegger und Till Krause, wie Facebook Inhalte löscht

Ginge es nach den geheimen Wünschen des Facebook-Managements, wäre diese Story wohl ein verbotener Inhalt und müsste gelöscht werden: Das SZ-Magazin hat mit Arvato-Mitarbeitern gesprochen, die im Auftrag von Facebook beanstandete Beiträge prüfen. Die Autoren zeichnen ein erschütterndes Bild der Menschen, die fast stündlich mit schrecklichsten Grausamkeiten konfrontiert werden und veröffentlichen Auszüge aus den geheimen Lösch-Regeln des weltgrößten Social Networks.

Anzeige

Sie sichten Enthauptungsvideos, Kinderpornografie, müssen zusehen, wie Hunde mit glühenden Eisenstangen gequält werden oder entscheiden, ob das Foto einer erhängten Person noch zulässig ist, weil vielleicht der Kommentar unter dem Bild nicht eindeutig menschenverachtend ist. Im Auftrag von Facebook hat die Bertelsmann-Tochter Arvato laut SZ in Berlin eine rund 600-Personen-Unit aufgebaut, die beanstandete Inhalte aus dem Social-Network prüft. Sie müssen in zwei Schichten im Akkord entscheiden, ob die Postings, Bilder, Videos oder Kommentare wirklich gegen die Gemeinschaftsstandards von Facebook verstoßen. Dieses Regelwerk ist so etwas wie das Strafgesetzbuch des US-Konzerns, nur dass es eben nicht vor ordentlichen Gerichten bestand hätte, sondern ausschließlich den Zielen und Wünschen eines Wirtschaftsunternehmens folgt.

Zudem sind die Regelungen der Gemeinschaftsstandards geheim. Facebook sorgt sich, dass man mit zu viel Detailwissen das interne Gesetzbuch umgehen könnte. Aus Sicht der SZ klingt das in etwa so, als ob die deutsche Justiz argumentieren würde, dass man aus Präventionsgründen nicht verraten will, was alles eigentlich eine Straftat ist.

In unzähligen Gesprächen, Skype-Interviews oder E-Mail-Konversationen über verschlüsselte Spezial-Dienste, haben die Autoren, Hannes Grassegger und Till Krause, Teile dieser geheimen Gemeinschaftsstandards zusammengetragen. Sie berichten, dass die sogenannten „Content-Moderatoren“ prüfen würden, ob die beanstandeten Inhalte überhaupt von einem Echtnamen-Profil stammen. Handelt es sich um einen erfundenen Account, wird es sofort gelöscht.

Über die genauen Regeln heißt es wörtlich in dem Text, dass unter anderem gelöscht werden muss:

– Ein Bild einer Frau, die sich in der Öffentlichkeit übergibt – dazu der Kommentar: „Oh Gott. Du bist erwachsen. Das ist ekelhaft“ (Grund: Kommentar wird als Mobbing gewertet, und zwar durch die Äußerung von Ekel vor Körperfunktionen).
– Ein Unkommentiertes Foto eines Mädchens neben dem Foto eines Schimpansen mit ähnlichen Gesichtsausdruck (Grund: Herabwürdigende Bildbearbeitung: eindeutiger Vergleich eines Menschen mit einem Tier).
– Ein Video, im dem ein Mensch gequält wird, aber nur wenn darunter ein Kommentar steht, wie: „Mir gefällt es, zu sehen wie viel Schmerz er da erleidet“.

Zudem ist natürlich das Zeigen von weiblichen Brustwarzen oder der primären Geschlechtsteile von Männern und Frauen verboten. Auch ist es untersagt, dass Fotos von Gewaltdarstellungen noch „bejubelt“ werden. Was auf den Bildern zu sehen ist, spiele dagegen keine Rolle.

Bei Hasskommentaren soll der Spielraum der Mitarbeiter mittlerweile eingeschränkt sein. Allerdings fassen die Autoren den Umgang mit Hate-Speech wie folgt zusammen:

Auch über den Umgang mit Fremdenhass finden sich konkrete Anweisungen in den Dokumenten. Stehen bleiben können etwa Sätze, die Migranten als „dreckige Diebe“ bezeichnen, da nur die Zuschreibungen „Terrorist, Mörder oder Sexualstraftäter“ von Facebook entfernt werden. Gelöscht werden müssen hingegen Sätze, die Migranten mit Dreck oder Ungeziefer vergleichen, aber nur, wenn dieser Vergleich als Substantiv erfolgt („Migranten sind Dreck“).

Nicht gelöscht werden sollen dagegen:

– Das Video einer Abtreibung (es seid denn, es enthält Nacktaufnahmen).
– Das Bild eines Erhängten mit dem Kommentar „Hängt diesen Hurensohn“ (Gilt als erlaubte Befürwortung der Todesstrafe; verboten wäre es nur, wenn spezifisch auf eine „Geschützte Personengruppe“ eingegangen würde, also dort etwa stünde: „Hängt diesen Schwulen auf“).
– Bilder einer extrem magersüchtigen Frau ohne Kommentar (Das Zeigen von selbstverletzenden Verhalten ohne Kontext ist gestattet).

Die Regeln sagen, dass Videos, die den Tod von Menschen zeigen, zwar verstörend seien, aber auch das Bewusstsein schärfen könnten.

Tatsächlich sind die SZ-Reporter nicht die ersten, die über die Arbeit der Lösch-Mannschaft in Berlin berichten. Auch das Blog Mobilegeeks sprach bereits mit einigen Angestellten, veröffentlichte Auszüge aus dem Regelwerk und berichte unter welchen massiven Zeitdruck die Arvato-Angestellten stehen. So gibt es klare Vorgaben und Quoten, wie viele beanstandete Inhalte pro Tag abgearbeitet, also betrachtet und bewertet werden müssen.

Bereits im Oktober Jahr 2014 beschrieb die Wired und das Tech-Blog Gawker, die Arbeit des US-Dienstleisters TaskUs, der auf den Philippinen große Lösch-Teams aufgebaut hat und von dort aus einen ähnlichen Job erledigt. Mobilegeeks nahm sich im Frühjahr diesen Jahres ebenfalls noch einmal die Arbeit von TaskUs vor und bezeichneten diese als „Müllabfuhr des Internets“.

Über die Lösch-Teams verraten die Autoren, dass sie intern als „Content-Moderatoren“ bezeichnet werden, nicht zwingend deutsch können müssen, Büro-Sprache sei überwiegend Englisch. Wichtig ist die Muttersprache, so arbeiten syrische Flüchtlinge neben Schweden und Spaniern. Die Arbeitszeit beträgt 40 Stunden und der Einstiegslohn liegt bei rund 1.500 Euro. Also knapp über dem Mindestlohn.

Der Fokus des SZ-Magazins liegt weniger in der konkreten Zusammenfassung des Regelwerkes, sondern mehr auf der Frage, was der Lösch-Job mit den Menschen macht, die ihn erledigen. So kommen die Autoren zu dem Ergebnis, dass die Arbeitgeber die Content-Moderatoren bei der Bewältigung und Verarbeitung der grausamen Bilder, die diese manchmal fast stündlich sehen müssen, weitestgehend alleine lassen würden.

Unbeantwortet bleibt zudem die Frage, ob die Lösch-Teams nicht sogar juristisch verpflichtet wären, alle vermeintlich verbotenen Inhalte in Deutschland sofort zur Anzeige zu bringen. Tatsächlich hoffen die Autoren, dass ihre Recherchen nur der Ausgangspunkt einer folgenden Debatte wird. So versprechen sie, alle folgenden Entwicklungen und Stellungnahmen zur Titelgeschichte unter dem Hashtag #insideFacebook zu sammeln.

Anzeige