Anzeige

Automatisches Löschen: Kommt bald der Anti-Troll-Algorithmus?

Können Internet-Trolle durch einen Algorithmus erkannt werden? Wenn es nach Forschern der Universität Stanford geht: Ja. Sie haben mehr als 10.000 gesperrte Kommentar-Accounts untersucht und analysiert, was diese gemeinsam haben. So könnten Troll-Accounts automatisch entdeckt und gesperrt werden.

Anzeige

Wie das Magazin Wired berichtet, haben drei Forscher der Universität Stanford Kommentare von den Nachrichtenseiten CNN und Breitbart sowie des Games-Portals IGN untersucht. CNN hatte dabei mit über einer Million Accounts und ungefähr 30 Millionen Kommentare die größte Leserbeteiligung. Am Ende blieben auf allen drei Seiten etwa 12.000 Accounts übrig, die die Forscher untersuchten. Diese waren zuvor gesperrt worden. Nutzer, die bereits mehrmals blockiert wurden und Spam-Accounts ließ die Untersuchung außen vor.

In der Studie wurde antisoziales Verhalten in den Online-Diskussionsforen der drei Portale untersucht, die Forscher haben die Postings der Trolle dabei über längere Zeit beobachtet – von ihrer Anmeldung in der Community bis zur Sperre ihrer Accounts – und ihre Kommentare mit denen der nicht gesperrten Nutzern verglichen. Die Qualität der Kommentare wurde via Crowdsourcing auf der Amazon-Plattform Mechanical Turk bewertet. Dabei haben sie herausgefunden, dass die gesperrten Nutzer sich eher auf einzelne, ausgewählte Thementhreads konzentrieren und hauptsächlich Kommentare mit irrelevantem oder themenfernen Inhalt abgeben. Der Schreibstil der Postings wurde im Verlauf der Zeit immer schlechter und die Nutzer immer weniger von der Community toleriert. Darüber hinaus benutzten die Trolle weniger neutrale Worte wie „könnte“, „vielleicht“, oder „erwägen“.

Basierend auf diesen Ergebnissen könnte, so die Forscher, ein Algorithmus entwickelt werden, der unliebsame Foren-Nutzer automatisch erkennt und sperrt. Noch sei das System jedoch an vielen Stellen ungenau. In zukünftigen Untersuchungen soll das Verhalten der Trolle noch besser beobachtet werden, um die Nutzer nach definierten Mustern einzusortieren.

Anzeige