Forscher entschlüsseln Struktur und Verbreitung von Hass-Inhalten im Netz Social Media: "Autobahnen" des Hasses - scinexx | Das Wissensmagazin
Anzeige
Anzeige

Social Media: „Autobahnen“ des Hasses

Forscher entschlüsseln Struktur und Verbreitung von Hass-Inhalten im Netz

Soziales Netzwerk
Wie Hass-Inhalte im Netz verbreitet und strukturiert sind, haben Forscher nun aufgeklärt. © iLexx/ iStock

Vergiftetes Netz: Hass-Inhalte werden in den sozialen Medien über ein komplexes und extrem anpassungsfähiges Netzwerk verbreitet, wie US-Forscher herausgefunden haben. In diesem Hass-Netzwerk sind extreme Gruppen und Inhalte über Sprach- und Ländergrenzen hinweg verbunden – teilweise sogar über „Hass-Autobahnen“. Weil dieses Netzwerk Plattform-übergreifend ist, wachsen Hass-Cluster nach lokalen Verboten sofort wieder nach, wie die Forscher im Fachmagazin „Nature“ berichten.

Facebook, Instagram, Twitter und Co tragen nicht nur dazu bei, Fake-News und Gerüchte publik zu machen. Die sozialen Medien sind auch wahre Brutstätten für Gruppen, Kommentare und Posts mit extremistischen Ansichten und Ideologien. Zwar versuchen einzelne Plattformen wie Facebook, solche Inhalte einzudämmen und beispielsweise rassistische und antisemitische Gruppen zu blockieren. Doch diese Maßnahmen erwiesen sich bisher meist als ineffektiv.

„Hass zerstört Leben – nicht nur konkret, wie wir es in El Paso, Orlando und Christchurch gesehen haben-, sondern auch psychologisch durch Online-Mobbing und Hass-Rhetorik“, sagt Johnson. „Wir wollten daher wissen, warum dieser Hass so widerstandsfähig ist und wie man ihn besser bekämpfen kann.“

Netzwerk
Beispiel für ein Hass-Netzwerk aus Clustern, Fernverbindungen und Brücken über Plattformen hinweg. © Neil Johnson/ GWU

Über Sprach- und Ländergrenzen hinweg

Für ihre Studie analysierten die Forscher exemplarisch rassistische und rechtsextreme Gruppen auf Facebook und dem mehrsprachigen, in Russland und Teilen Mitteleuropas verbreiteten Netzwerk VKontakte. In diesen Plattformen begannen die Forscher zunächst mit einem Cluster von Hass-Inhalten und folgten dann von dort aus den Verknüpfungen zu weiteren Hass-Clustern – sowohl manuell als auch mithilfe eines Algorithmus.

„Statt ‚Love is in the Air‘ fanden wir Hass im Äther“, sagt Johnson. Wie die Analyse ergab, bilden Hass-Inhalte im Netz hunderte Meinungsknoten, die über die ganze Welt verteilt sind. Dieses Netzwerk von Hass-Clustern reicht über Sprachgrenzen, Länder und kulturelle Hintergründe hinweg. „Wir haben dabei Cluster jeder Größe gefunden“, berichten die Wissenschaftler, was für eine selbstorganisierte, dezentrale Struktur typisch sei.

Anzeige

Europas „Hass-Ökologie“ ist besonders komplex

„Europa zeigt dabei eine besonders komplexe Hass-Ökologie“, so die Forscher. „Sie reflektiert miteinander verwobene Hass-Ideologien, die über einzelne Botschaften und Regionen hinausgehen.“ So finden sich beispielsweise in Neonazi-Clustern auch Posts von Mitgliedern aus den USA, Kanada oder Australien sowie Inhalte zu Football, Brexit oder Musik. Diese Vielfalt mache es diesen Gruppierungen leicht, neue Rekruten von anderen Plattformen, Sprachen oder Ländern zu gewinnen, so die Forscher.

„Diese Hass-Ökologie wirkt wie eine globale Fliegenfalle“, beschreiben Johnson und seine Kollegen das Phänomen. Für die globale Verknüpfung der einzelnen Hass-Netzwerke sorgen dabei Kontinent-überspannende „Hass-Autobahnen, wie die Analysen ergaben: „Über diese Autobahnen werden Hass-Inhalte mit nur einem Klick übertragen“, berichten Johnson und seine Kollegen.

Resilient durch Brücken zwischen Online-Plattformen

Und noch etwas enthüllten die Analysen: Das Hass-Netzwerk ist Plattform-übergreifend – Cluster auf Facebook und anderen sozialen Medien sind eng miteinander verknüpft. „Zwischen VKontakte und Facebook gibt es diese Brücken in Europa, den USA und Südafrika, obwohl VKontakte als lokales Netzwerk in Mitteleuropa gilt“, berichten die Forscher. Über diese Brücken können sich Hass-Inhalte schnell in verschiedenen Netzwerken verbreiten.

Die plattform-übergreifende Struktur hilft diesen Gruppierungen aber auch dabei, Gegenmaßnahmen zu umgehen – unter anderem indem sie auf ein anderes soziales Netzwerk ausweichen. Da Facebook und seine Konkurrenten bisher keine koordinierten Maßnahmen durchführen, bietet dies den Hass-Clustern immer wieder Refugien. „Teile weniger stark überwachter Netzwerke können dadurch zu ‚dunklen Pools‘ von Hass-Verknüpfungen werden“, sagen Johnson und seine Kollegen.

„Wie beim Unkraut“

Diese Refugien und die schnelle Neuverdrahtung des Netzwerks machen es besonders schwer, solche Hass-Cluster effektiv zu bekämpfen. „Das ist wie beim Unkraut: Es kommt immer wieder zurück“, sagt Johnson. Seiner Ansicht nach reicht es daher nicht aus, einzelne Gruppen beispielsweise auf Facebook zu verbieten – es bilden sich sofort Ersatz-Cluster, die dann weiterhin die gleichen Hass-Inhalte verbreiten.

Wird beispielsweise ein Hass-Cluster auf Facebook geblockt, können verknüpfte Cluster auf anderen Plattformen Facebook wieder „rekolonisieren“, indem sie quasi durch die Hintertür neue Gruppen aufmachen. „Als die ukrainische Regierung VKontakte verbot, reinkarnierte das Klu-Klux-Klan-Ökosystem seine Cluster auf Facebook – aber mit ‚Klu-Klux-Klan‘ in kyrillisch geschrieben, was es den Facebook-Algorithmen erschwerte, sie zu erkennen“, berichten die Wissenschaftler.

Was kann man tun?

Doch es gibt Gegenmaßnahmen. Die Forscher haben einige Strategien identifiziert, die die Hass-Netzwerke zurückdrängen und destabilisieren könnten. Der erste Ansatz besteht darin, möglichst viele kleinere Hass-Cluster zu blockieren und zu verbieten. Dadurch wird den größeren Clustern quasi der Nachschub abgeschnitten. Als zweites sollte man versuchen, einen kleinen Teil der Nutzer aus verschiedenen Teilen dieses Netzwerks zu blockieren – das schwäche die Struktur als Ganzes, so Johnson und seine Kollegen.

„Die dritte Maßnahme nutzt die selbstorganisierte Natur des Systems aus, indem es Cluster aufeinander ansetzt“, so die Forscher. Plattform-Manager könnte beispielsweise gezielt Anti-Hass-Gruppen und Accounts schaffen und dann entsprechend engagierte Nutzer dazu animieren, Debatten mit Hass-Clustern zu beginnen. „Das könnte dazu beitragen, Hass-Narrative zu neutralisieren“, so die Forscher.

Noch raffinierter wäre allerdings, Cluster innerhalb des Hass-Netzwerks gegeneinander auszuspielen. Denn die einzelnen Hass-Gruppierungen vertreten in manchen Punkten oft gegensätzliche Ansichten, wie die Analysen ergaben. Einige sind beispielsweise für ein „vereinigtes weißes Europa“, andere wollen dagegen Europa zerschlagen. Wenn man diese Gegensätze stärke, könnte dies das Hass-Netzwerk ebenfalls schwächen, sagen Johnson und seine Kollegen. Sie hoffen, dass ihre Analyse dazu beitragen kann, den Hass im Netz künftig effektiver zu bekämpfen. (Nature, 2019; doi: 10.1038/s41586-019-1494-7)

Quelle: George Washington University

Anzeige

In den Schlagzeilen

Videos jetzt im Netz

Teaserbild Ringvorlesung Klimawandel und Ich

Ringvorlesung "Klimawandel und Ich"

Diaschauen zum Thema

Dossiers zum Thema

News des Tages

Bücher zum Thema

50 Schlüsselideen Digitale Kultur - Tom Chatfield und Carl Freytag

Die berechnete Welt - Leben unter dem Einfluss von Algorithmen Von Nora S. Stampfl

Top-Clicks der Woche

Anzeige
Anzeige