Ciaran O’Connor von ISD Global erklärt, wie dezentrale Plattformen zum Speichern und Verteilen extremistischer Inhalte verwendet werden, und erläutert die Schwierigkeiten, die bei der Bekämpfung dieser Inhalte auftreten.
Die Bemühungen, extremistische Online-Inhalte zu verwalten, haben in den letzten Monaten einen Höhepunkt erreicht, da Regierungen und Organisationen versuchen, ihr Wachstum einzudämmen.
Ende 2022 führten Europol und 13 EU-Mitgliedstaaten – darunter Irland – eine internationale Operation durch, um rechtsextreme und terroristische Inhalte online zu kennzeichnen, was zur Entdeckung von 831 Gegenständen auf 34 Plattformen führte.
Auch die Europäische Kommission verstärkte im Januar ihre Bemühungen und forderte 22 Mitgliedstaaten auf, zusätzliche Schritte zur Bekämpfung der Verbreitung terroristischer Inhalte zu unternehmen. In der Zwischenzeit ist Irland dabei, eine Anti-Desinformationsstrategie zu entwickeln, um „organisierte Kampagnen zur Manipulation von Internetnutzern“ zu bekämpfen.
Aber trotz der Bemühungen, extremistische Inhalte zu entfernen, gibt es Hinweise darauf, dass diese Gruppen ihre Bemühungen einfach auf kleinere, dezentralisierte Plattformen verlagern, um zu verhindern, dass Inhalte entfernt werden. Diese miteinander verbundenen sozialen Plattformen sind als Fediverse bekannt.
Ein kürzlich erschienener Bericht des gemeinnützigen Institute for Strategic Dialogue (ISD) behauptet, dass rechtsextreme Akteure auf dezentrale Videoplattformen wie Odysee und PeerTube wechseln, weil hasserfüllte und verschwörungsähnliche Inhalte von Mainstream-Plattformen wie YouTube entfernt wurden.
Der Bericht konzentrierte sich auf rechtsextreme Inhalte in Deutschland, aber ISD Senior Analyst Ciarán O’Connor sagte gegenüber SiliconRepublic.com, dass ein ähnlicher Trend in Irland zu beobachten sei.
Ein von O’Connor angeführtes Beispiel ist die Verwendung von Videoinhalten zur Verbreitung falscher oder irreführender Behauptungen über Asylbewerber in Irland, zusammen mit „Inhalten, die möglicherweise Hass und Misstrauen im Prozess schüren“.
„Es gibt keine einzige Plattform, die ein typischer irischer Rechtsextremist nutzen kann“, sagte O’Connor. “Sie werden aus unterschiedlichen Gründen unterschiedliche Plattformen verwenden.”
O’Connor sagte, dass diese dezentralisierten Bereiche für rechtsextreme Gruppen in Irland immer nützlicher werden, da ein „Bewusstsein“ besteht, dass ihre Konten wahrscheinlich gesperrt oder gesperrt werden, wenn sie bestimmte Inhalte auf Mainstream-Plattformen veröffentlichen, weil sie gegen die Regeln der Plattform verstoßen.
„Der Vorteil von dezentralen Plattformen besteht darin, dass es oft sehr wenig Community-Anleitung gibt oder – allein aufgrund der zugrunde liegenden Technologie – es fast unmöglich ist, Inhalte vollständig von diesen Plattformen zu entfernen“, sagte O’Connor.
Letztes Jahr argumentierte eine Gruppe britischer Akademiker, dass Razzien gegen Fehlinformationen in den sozialen Medien die Gefahr bergen, Menschen in „schwer zugängliche Ecken des Internets“ zu treiben.
Sichere Orte für extremistische Gruppen
O’Connor sagte, ein weiterer Vorteil, den diese dezentralen Plattformen extremistischen Gruppen bieten, sei ein Ort, an dem das Maß an Kontrolle reduziert sei.
Er sagte, auf diesen Plattformen gepostete Inhalte stünden nicht im gleichen Maße im Rampenlicht wie Mainstream-Plattformen wie YouTube oder Facebook, was es diesen Gruppen erleichtere, Inhalte zu teilen.
Der Bericht von ISD Global untersucht Odysee und PeerTube, zwei dezentrale Plattformen. PeerTube bietet kostenlose Software, mit der Benutzer ihre eigenen „Mini-YouTubes“ erstellen können, um bestimmte Inhalte zu teilen.
Dem Bericht zufolge erlaubt Odysee den Benutzern auch, ihre Inhalte zu monetarisieren und „sie auf dezentralen Servern zu speichern, sodass es praktisch unmöglich ist, sie zu löschen“.
Dem Bericht zufolge enthielten die auf diesen Plattformen gefundenen extremistischen Inhalte Verschwörungstheorien zu Themen wie der Covid-19-Pandemie und der russischen Invasion in der Ukraine. Es gab auch Videos mit Holocaustleugnung und Live-Berichterstattung über den rechtsextremen Terroranschlag 2019 in Christchurch.
„Weder Odysee noch PeerTube sind per se Rechtsextremisten“, hieß es in dem Bericht. „Die verwendete Technologie und die Möglichkeiten, die diese Videodienste bieten, machen sie jedoch attraktiv für rechtsextreme Gruppen, die von größeren Social-Media-Plattformen blockiert werden.“
Diese Plattformen kommen diesen rechtsextremen Gruppen auch zugute, wenn sie versuchen, Inhalte auf Mainstream-Plattformen zu teilen, da es schwieriger wird, Videos und Bilder vollständig zu entfernen, wenn sie von dezentralen Plattformen stammen.
O’Connor sagte, dass schädliche oder gewalttätige Inhalte normalerweise schneller entfernt werden können, wenn sie direkt auf eine Plattform wie Facebook oder YouTube hochgeladen werden, aber es wird komplizierter, wenn Links von Drittanbietern beteiligt sind.
Die Vielfalt der verfügbaren dezentralen Plattformen und die Blockchain-Technologie hinter einigen dieser Websites machen es auch sehr schwierig, sie vollständig abzuschalten.
„Du wirst extremistische Figuren sehen, sie könnten ein Video von einem kürzlichen Protest erstellen und es auf Odysee stellen, aber sie werden es auch auf BitChute stellen und sie könnten es auch auf Rumble stellen und es gibt eine Art Multi- Plattform-Ansatz, so viele dieser Plattformen sind auch eine Art Archiv oder Host-Räume“, sagte O’Connor.
Gegen dezentrale Inhalte
Insgesamt hebt der Bericht von ISD Global die Schwierigkeiten hervor, die damit verbunden sind, der Verbreitung dieser extremistischen Inhalte auf dezentralen Plattformen entgegenzuwirken.
In dem Bericht heißt es, es sei unklar, ob das bevorstehende EU-Gesetz über digitale Dienste für einige dieser Plattformen gelten würde, da nicht alle gewinnorientiert sind und von dem Gesetz ausgenommen werden könnten.
Der Bericht stellt auch fest, dass selbst wenn einzelne extremistische Fälle isoliert sind, die Videos „immer noch zugänglich sind, solange sie einen Hosting-Provider und andere grundlegende Internetstrukturen haben“.
Ein Beispiel, bei dem extremistische Inhalte erfolgreich entfernt wurden, war dem Bericht zufolge Kiwi Farms. Dieses Internetforum im Stil von 8chan war berüchtigt für Belästigungen und gezielte Drohungen gegen verschiedene soziale Gruppen, einschließlich der Transgender-Community.
Letztes Jahr hat Cloudflare versucht, seine Online-Forum-Sicherheitsdienste zu blockieren, unter Berufung auf eine „unmittelbare Bedrohung für Menschenleben“.
„Dies ist eine außergewöhnliche Entscheidung für uns und angesichts der Rolle von Cloudflare als Internet-Infrastrukturanbieter eine gefährliche Entscheidung, mit der wir nicht zufrieden sind“, schrieb Cloudflare-CEO Matthew Prince damals.
Der Bericht stellte fest, dass das Urteil zwar gegen Kiwifarmen wirksam war, das Abschalten ganzer Websites jedoch eine Taktik war, die von autoritären Regimen für Zensurbemühungen missbraucht werden konnte.
Darüber hinaus machen illegale oder verfassungswidrige Inhalte in einem bestimmten Fall oft nur einen Bruchteil der gesamten Inhalte aus“, heißt es in dem Bericht. „Deshalb wäre eine vollständige Sperrung des Zugangs zur Instanz selten verhältnismäßig und gerechtfertigt.“
Unabhängig von den möglichen Maßnahmen, die ergriffen werden könnten, heißt es im ISD Global-Bericht, dass Regierungen und Organisationen die Veränderungen im rechtsextremen Online-Ökosystem „angehen müssen“.
„Das bedeutet, zu klären, welche Plattformarchitekturen wirklich dezentralisiert sind und welche nur als solche beworben werden, um Verantwortung und rechtliche Verantwortlichkeit zu vermeiden“, heißt es in dem Bericht. „Es bedeutet auch zu verstehen, welche Möglichkeiten es für regulatorische und nicht-regulatorische Gegenmaßnahmen gibt.“
10 Dinge, die Sie wissen müssen, jeden Wochentag direkt in Ihren Posteingang. Registrieren für Tägliches BriefingDie Zusammenfassung wichtiger Nachrichten aus Wissenschaft und Technologie von Silicon Republic.