Anzeige

#InsideFacebook: SZ-Magazin enthüllt die geheimen Lösch-Regeln des Social-Networks

Im SZ-Magazin berichten Hannes Grassegger und Till Krause, wie Facebook Inhalte löscht
Im SZ-Magazin berichten Hannes Grassegger und Till Krause, wie Facebook Inhalte löscht

Ginge es nach den geheimen Wünschen des Facebook-Managements, wäre diese Story wohl ein verbotener Inhalt und müsste gelöscht werden: Das SZ-Magazin hat mit Arvato-Mitarbeitern gesprochen, die im Auftrag von Facebook beanstandete Beiträge prüfen. Die Autoren zeichnen ein erschütterndes Bild der Menschen, die fast stündlich mit schrecklichsten Grausamkeiten konfrontiert werden und veröffentlichen Auszüge aus den geheimen Lösch-Regeln des weltgrößten Social Networks.

Anzeige

Sie sichten Enthauptungsvideos, Kinderpornografie, müssen zusehen, wie Hunde mit glühenden Eisenstangen gequält werden oder entscheiden, ob das Foto einer erhängten Person noch zulässig ist, weil vielleicht der Kommentar unter dem Bild nicht eindeutig menschenverachtend ist. Im Auftrag von Facebook hat die Bertelsmann-Tochter Arvato laut SZ in Berlin eine rund 600-Personen-Unit aufgebaut, die beanstandete Inhalte aus dem Social-Network prüft. Sie müssen in zwei Schichten im Akkord entscheiden, ob die Postings, Bilder, Videos oder Kommentare wirklich gegen die Gemeinschaftsstandards von Facebook verstoßen. Dieses Regelwerk ist so etwas wie das Strafgesetzbuch des US-Konzerns, nur dass es eben nicht vor ordentlichen Gerichten bestand hätte, sondern ausschließlich den Zielen und Wünschen eines Wirtschaftsunternehmens folgt.

Zudem sind die Regelungen der Gemeinschaftsstandards geheim. Facebook sorgt sich, dass man mit zu viel Detailwissen das interne Gesetzbuch umgehen könnte. Aus Sicht der SZ klingt das in etwa so, als ob die deutsche Justiz argumentieren würde, dass man aus Präventionsgründen nicht verraten will, was alles eigentlich eine Straftat ist.

In unzähligen Gesprächen, Skype-Interviews oder E-Mail-Konversationen über verschlüsselte Spezial-Dienste, haben die Autoren, Hannes Grassegger und Till Krause, Teile dieser geheimen Gemeinschaftsstandards zusammengetragen. Sie berichten, dass die sogenannten „Content-Moderatoren“ prüfen würden, ob die beanstandeten Inhalte überhaupt von einem Echtnamen-Profil stammen. Handelt es sich um einen erfundenen Account, wird es sofort gelöscht.

Über die genauen Regeln heißt es wörtlich in dem Text, dass unter anderem gelöscht werden muss:

– Ein Bild einer Frau, die sich in der Öffentlichkeit übergibt – dazu der Kommentar: „Oh Gott. Du bist erwachsen. Das ist ekelhaft“ (Grund: Kommentar wird als Mobbing gewertet, und zwar durch die Äußerung von Ekel vor Körperfunktionen).
– Ein Unkommentiertes Foto eines Mädchens neben dem Foto eines Schimpansen mit ähnlichen Gesichtsausdruck (Grund: Herabwürdigende Bildbearbeitung: eindeutiger Vergleich eines Menschen mit einem Tier).
– Ein Video, im dem ein Mensch gequält wird, aber nur wenn darunter ein Kommentar steht, wie: „Mir gefällt es, zu sehen wie viel Schmerz er da erleidet“.

Zudem ist natürlich das Zeigen von weiblichen Brustwarzen oder der primären Geschlechtsteile von Männern und Frauen verboten. Auch ist es untersagt, dass Fotos von Gewaltdarstellungen noch „bejubelt“ werden. Was auf den Bildern zu sehen ist, spiele dagegen keine Rolle.

Bei Hasskommentaren soll der Spielraum der Mitarbeiter mittlerweile eingeschränkt sein. Allerdings fassen die Autoren den Umgang mit Hate-Speech wie folgt zusammen:

Auch über den Umgang mit Fremdenhass finden sich konkrete Anweisungen in den Dokumenten. Stehen bleiben können etwa Sätze, die Migranten als „dreckige Diebe“ bezeichnen, da nur die Zuschreibungen „Terrorist, Mörder oder Sexualstraftäter“ von Facebook entfernt werden. Gelöscht werden müssen hingegen Sätze, die Migranten mit Dreck oder Ungeziefer vergleichen, aber nur, wenn dieser Vergleich als Substantiv erfolgt („Migranten sind Dreck“).

Nicht gelöscht werden sollen dagegen:

– Das Video einer Abtreibung (es seid denn, es enthält Nacktaufnahmen).
– Das Bild eines Erhängten mit dem Kommentar „Hängt diesen Hurensohn“ (Gilt als erlaubte Befürwortung der Todesstrafe; verboten wäre es nur, wenn spezifisch auf eine „Geschützte Personengruppe“ eingegangen würde, also dort etwa stünde: „Hängt diesen Schwulen auf“).
– Bilder einer extrem magersüchtigen Frau ohne Kommentar (Das Zeigen von selbstverletzenden Verhalten ohne Kontext ist gestattet).

Die Regeln sagen, dass Videos, die den Tod von Menschen zeigen, zwar verstörend seien, aber auch das Bewusstsein schärfen könnten.

Tatsächlich sind die SZ-Reporter nicht die ersten, die über die Arbeit der Lösch-Mannschaft in Berlin berichten. Auch das Blog Mobilegeeks sprach bereits mit einigen Angestellten, veröffentlichte Auszüge aus dem Regelwerk und berichte unter welchen massiven Zeitdruck die Arvato-Angestellten stehen. So gibt es klare Vorgaben und Quoten, wie viele beanstandete Inhalte pro Tag abgearbeitet, also betrachtet und bewertet werden müssen.

Bereits im Oktober Jahr 2014 beschrieb die Wired und das Tech-Blog Gawker, die Arbeit des US-Dienstleisters TaskUs, der auf den Philippinen große Lösch-Teams aufgebaut hat und von dort aus einen ähnlichen Job erledigt. Mobilegeeks nahm sich im Frühjahr diesen Jahres ebenfalls noch einmal die Arbeit von TaskUs vor und bezeichneten diese als „Müllabfuhr des Internets“.

Über die Lösch-Teams verraten die Autoren, dass sie intern als „Content-Moderatoren“ bezeichnet werden, nicht zwingend deutsch können müssen, Büro-Sprache sei überwiegend Englisch. Wichtig ist die Muttersprache, so arbeiten syrische Flüchtlinge neben Schweden und Spaniern. Die Arbeitszeit beträgt 40 Stunden und der Einstiegslohn liegt bei rund 1.500 Euro. Also knapp über dem Mindestlohn.

Der Fokus des SZ-Magazins liegt weniger in der konkreten Zusammenfassung des Regelwerkes, sondern mehr auf der Frage, was der Lösch-Job mit den Menschen macht, die ihn erledigen. So kommen die Autoren zu dem Ergebnis, dass die Arbeitgeber die Content-Moderatoren bei der Bewältigung und Verarbeitung der grausamen Bilder, die diese manchmal fast stündlich sehen müssen, weitestgehend alleine lassen würden.

Unbeantwortet bleibt zudem die Frage, ob die Lösch-Teams nicht sogar juristisch verpflichtet wären, alle vermeintlich verbotenen Inhalte in Deutschland sofort zur Anzeige zu bringen. Tatsächlich hoffen die Autoren, dass ihre Recherchen nur der Ausgangspunkt einer folgenden Debatte wird. So versprechen sie, alle folgenden Entwicklungen und Stellungnahmen zur Titelgeschichte unter dem Hashtag #insideFacebook zu sammeln.

Anzeige

Alle Kommentare

  1. Für mich stellt sich immer die mehr die Frage, was ist die Agenda des Bertelsmann Konzerns und inwieweit ist sein Handeln noch mit dem Geist einer freiheitlich demokratischen Gesellschaft vereinbar? Stellt Bertelsmann mit seinem weitverzweigten Netz von medialen Eingriffen in das Leben der Bürger nicht in Wirklichkeit schon längst das dar, was Herrn Putin dauernd unterstellt wird, nämlich auf allen Ebenen die Menschen in unserem Lande zu manipulieren?

  2. Bertelsmann-Tochter Arvato – deren Mitarbeiter haben es offensichtlich nicht so mit der Einhaltung von rechtlichen Verpflichtungen und Gesetzen.
    Aber schön, dass solche sich mit Zensur über die Bürger hermachen können.

    Aber wenn man ganz alleine gelassen wird mit seiner Arbeit und man nicht kündigen will, weil die Bezahlung fürs Bilder anschauen stimmt….

    Wir fordern Traumaspezialisten … für jeden Mitarbeiter gleich zwei, aber bitte dabei die Frauen-und Migratenquote. Wir fühlen uns ja soo alleine bei der Arbeit.

    1. Geld nehmen und dann das arme Opferlämmchen spielen – toll!
      Wollen wir nun „gesäubertes Internet“ oder nicht? Vielleicht sollten das in Zukunft Roboter machen, die sind nicht so verlogen.
      Warum eigentlich „gleich zwei Trauma Spezialisten – Frauenquote und Multikulti eingeschlossen“?
      Warum suchen Sie sich eigentlich nicht einen anderen Job, z.B. als Vegan-Kontrolleurin bei Aldi?

  3. Die Regeln werden nicht veröffentlicht, weil die Suche nach Verstößen automatisiert, mit Hilfe eines Programms erfolgt. Sind die Regeln bekannt, werden die „Bösen“ einfach andere Begriffe nutzen oder die Begriffe tarnen. Eine dre ckige Schlompe oder eine professionelle Liebesdienerin wird dann nicht mehr gefunden. Das Programm müßte dem angepasst werden und eine Unzahl harmloser Mailings würden ebenfalls geprüft werden.
    Wenn dann alle Postings geprüft werden, ist das dann nicht die totale Überwachung plus Zensur?
    Jeder der diese Forderung an Facebook stellt geht den Weg der der DDR und Stasi.

Dein Kommentar

Deine E-Mailadresse wird nicht veröffentlicht.

*

Anzeige