Facebook und der lange Kampf gegen den Hass | Blätter für deutsche und internationale Politik

LoginWarenkorb

Facebook und der lange Kampf gegen den Hass

von Daniel Leisegang

„Geh sterben, du schwule Sau.“ „Merkel sollte gesteinigt werden.“ „Man sollte die ganze Brut vergasen.“ – Beleidigungen, Bedrohungen und Hetze wie diese sind im Internet allgegenwärtig. Dagegen will Bundesjustizminister Heiko Maas nun entschieden vorgehen: Anfang April beschloss das Kabinett seinen Entwurf des Netzwerkdurchsetzungsgesetzes (NetzDG). Es soll die Betreiber sozialer Netzwerke dazu zwingen, sogenannte Hassrede umgehend zu löschen; bei Verzug drohen drakonische Strafen.

Der Gesetzentwurf ist auch das Eingeständnis, dass die freiwillige Selbstkontrolle der sozialen Netzwerke endgültig gescheitert ist. Im Herbst 2015 hatte das Bundesjustizministerium noch eine Task-Force eingerichtet, der Vertreter von Facebook, Google und Twitter sowie zahlreicher Nichtregierungsorganisationen angehörten. Gemeinsam erarbeiteten sie Empfehlungen für den Umgang mit Hassbotschaften im Netz. Diese zeigen jedoch kaum Wirkung: Laut einer Erhebung von jugendschutz.net von Anfang dieses Jahres löscht YouTube inzwischen zwar immerhin rund 90 Prozent der von Nutzern gemeldeten Inhalte, Facebook allerdings nur 39 Prozent und Twitter gerade einmal 1 Prozent.

Der Bundestag soll das NetzDG nun im Eiltempo noch vor der Sommerpause verabschieden.[1] Doch so sehr das Engagement der Regierung zu begrüßen ist, droht sie das Kind mit dem Bade auszuschütten: Denn zum einen verletzt der Entwurf die Persönlichkeitsrechte einzelner Nutzerinnen und Nutzer, und zum anderen gefährdet er deren Grundrecht auf Meinungsfreiheit. Beides zeigt allzu deutlich, wie überfordert wir als Gesellschaft noch immer vor dem Problem der Hassrede stehen.

Ein Schritt vor, zwei Schritte zurück

Bislang müssen Facebook, Twitter und Co. strafbare Inhalte zwar löschen, allerdings ohne rechtliche Folgen befürchten zu müssen, wenn sie es unterlassen. Das soll sich nun ändern: Künftig sollen die Netzwerkbetreiber ein Meldesystem für vermeintlich illegale Inhalte einrichten. Jedes soziale Netzwerk mit mehr als zwei Millionen Nutzern muss zudem den Behörden einen festen Ansprechpartner zur Rechtsdurchsetzung und für Auskunftsersuchen benennen. Ein Novum, das der „Gesichtslosigkeit“ von Facebook und Co. ein Ende bereiten würde.

Wird ein „offensichtlich rechtswidriger“ Inhalt gemeldet, haben die Netzwerkbetreiber 24 Stunden Zeit, diesen und sämtliche Kopien zu löschen. Bei Inhalten, die nicht eindeutig rechtswidrig sind, räumt das Gesetz eine Frist von sieben Tagen ein.[2] Bei wiederholtem Verzug droht den verantwortlichen Mitarbeitern ein Bußgeld in Höhe von bis zu 5 Mio. Euro; die Unternehmen können mit bis zu 50 Mio. Euro belangt werden.[3]

Allerdings plant die Regierung – und hier fangen die grundrechtlichen Schwierigkeiten an –, parallel zur Verabschiedung des NetzDG das Telemediengesetz zu ändern. Dieses verpflichtet Unternehmen schon jetzt zur Herausgabe von Bestandsdaten ihrer Kunden – allerdings nur in Fällen der Strafverfolgung sowie der Gefahrenabwehr durch die Geheimdienste. Künftig aber sollen auch Opfer von Persönlichkeitsrechtsverletzungen einen zivilrechtlichen Auskunftsanspruch erhalten, um so die Identität des Täters von den Netzwerkbetreibern einholen zu können.

Hassrednern den Schutz der Anonymität zu nehmen – so diese ihn überhaupt suchen –, erscheint auf den ersten Blick sinnvoll. Allerdings birgt die Änderung des Telemediengesetzes erhebliche Missbrauchsrisiken: So wäre es politischen Gruppierungen und Stalkern möglich, mithilfe falscher Behauptungen an die persönlichen Daten ihrer politischen Gegner oder Opfer zu gelangen, um diese anschließend einzuschüchtern. Statt dass verbale Bedrohungen unterbunden werden, könnten diese dadurch sogar in physische Gewalt umschlagen.[4] Dem Schutz der Meinungsfreiheit erwiese die Bundesregierung damit einen Bärendienst.[5]

Facebook als private Meinungspolizei?

Weitaus gravierender ist jedoch, dass laut NetzDG die Mitarbeiter der sozialen Netzwerke selbst darüber entscheiden sollen, welche Äußerungen als rechtswidrig einzustufen sind und welche nicht.

In Deutschland gehen, so die Schätzung des Bundesjustizministeriums, bei den sozialen Netzwerken jährlich mehr als 500 000 Beschwerden unter anderem wegen Hasskriminalität ein. Dies entspricht etwa der Anzahl an Straftaten, die jährlich in ganz Berlin erfasst werden.

Ob diese Inhalte gelöscht werden, entscheiden bei Facebook keine Juristen, sondern „Content-Moderatoren“. Hierzulande sind dafür rund 700 Mitarbeiter der Bertelsmann-Tochter Arvato zuständig – für einen Stundenlohn, der etwas über 8,50 Euro Mindestlohn liegt. Wie am Fließband entscheiden sie darüber, ob Darstellungen nackter Körperteile und sadistische Gewaltvideos aus dem Newsfeed der Nutzer entfernt werden oder nicht.[6] Als Grundlage dienen den Moderatoren dabei Facebooks „Gemeinschaftsstandards“ – ein geheimer Katalog, der mehrere hundert Löschregeln umfasst.[7]

Geht es nach dem neuen NetzDG muss Facebook künftig auch das Strafgesetzbuch heranziehen. Der Haken an der Sache ist nur: Ob bestimmte Äußerungen als Volksverhetzung (§ 130 StGB) oder als Verleumdung (§ 187 StGB) zu werten sind, beurteilen normalerweise Staatsanwaltschaften oder Gerichte, nicht jedoch börsennotierte Unternehmen. Die Bundesregierung kümmert das in diesem Fall offenbar wenig: Sie macht die Netzwerkbetreiber, die bereits Partei in dem Verfahren sind, zu Richtern und Meinungspolizisten gleichermaßen.

Die Folgen liegen auf der Hand: Um Kosten und langwierige Gerichtsverfahren zu vermeiden, werden die Moderatoren gemeldete Kommentare im Zweifelsfall eher löschen. Grund dafür sind die drakonischen Bußgelder, die wie ein Damoklesschwert über den Köpfen der verantwortlichen Mitarbeiter hängen. Eine gewissenhafte Prüfung nach Strafbarkeitskriterien ist damit ausgeschlossen. Da die Nutzer in der Regel keine Begründung erhalten, warum ihre Äußerung entfernt wurde, und die meisten von ihnen den Aufwand einer Klage scheuen dürften, entstünde so eine willkürliche Löschkultur durch private Internetdiensteanbieter, die im Widerspruch zur in Artikel 5 GG garantierten Meinungsfreiheit steht.

Ein breites Bündnis aus Wirtschaftsverbänden, netzpolitischen Vereinen und Bürgerrechtsorganisationen fordert daher, Facebook und ähnliche Unternehmen „nicht mit der staatlichen Aufgabe zu betrauen, Entscheidungen über die Rechtmäßigkeit von Inhalten zu treffen.“ Deren Durchsetzung dürfe allerdings auch „nicht an einer mangelnden Ausstattung der Justiz scheitern.“[8]

Gerade hier aber lauert das nächste Problem: Denn die Justiz in Deutschland ist schon jetzt massiv überlastet. Nach Angaben des Deutschen Richterbundes fehlen bundesweit rund 2000 Richter und Staatsanwälte insbesondere im Bereich der Strafjustiz.[9] Zudem gibt es hierzulande noch immer keine Staatsanwaltschaft mit dem Zuständigkeitsschwerpunkt digitale Hasskriminalität.[10]Es wird also vermutlich noch viel Zeit und Geld erforderlich sein, um die Justiz für den Kampf gegen Hassrede ausreichend zu rüsten. Doch selbst wenn die Justiz eines Tages über ausreichend Ressourcen verfügt, um die Flut an Meldungen bewältigen zu können, ist damit keinesfalls gesichert, dass Hassrede tatsächlich auch aus dem Netz verschwindet.

Katz-und-Maus-Spiel

Vielmehr zeichnet sich schon jetzt ein Katz-und-Maus-Spiel zwischen Facebook auf der einen und den sogenannten Hatern auf der anderen Seite ab.

In der Regel dauert es mehrere Stunden, wenn nicht sogar Tage, bis ein Kommentar gemeldet und schließlich gelöscht wird.[11] Mit anderen Worten: Der Geist des Hasses ist entwichen, bevor der Korken wieder in die Flasche gedrückt werden kann.[12]

Ist eine Äußerung auf Facebook aber erst einmal online, bildet sich um diese ein stetig wachsender Diskurskontext – nämlich sobald Nutzer den Beitrag lesen, zitieren, teilen, liken oder kommentieren. Und gemäß den Gesetzen der Aufmerksamkeitsökonomie wird ein Facebook-Beitrag, je mehr Resonanz er erzielt, auch entsprechend häufiger anderen Nutzern angezeigt. Sämtliche Spuren einer Äußerung rückstandslos zu entfernen, wird im Laufe der Zeit somit zunehmend schwieriger.

Nahezu unmöglich ist dies, wenn Nutzerinnen und Nutzer obendrein noch Screenshots der gemeldeten Inhalte teilen, um so einer Löschung vorzubeugen. Bilddateien sind nur eingeschränkt maschinell durchsuchbar und daher für Facebook erheblich schwerer aufzuspüren als Textinhalte. Es ist somit meist ein aussichtsloses Unterfangen, Hassrede, die einmal in der Welt ist, wieder restlos entfernen zu wollen.

Gegenrede und klare Kante?

Angesichts der enormen juristischen und technischen Hindernisse rufen Netzaktivisten wie Markus Beckedahl daher dazu auf, „digitale Zivilcourage zu zeigen und für eine offene Gesellschaft zu kämpfen.“ Auch Sascha Lobo forderte Anfang Mai auf der Bloggerkonferenz Re:Publica, offensiv gegen Hassrede vorzugehen. Er empfiehlt: „Klare Kante und Diskussion. Empathie schüren und Zweifel wecken.“[13]

Als Beispiel für digitale Zivilcourage wird dabei häufig die Facebook-Gruppe #Ichbinhier angeführt. Sie wurde Ende 2016 von Nutzern mit dem Ziel gegründet, Online-Hass mit sachlicher Gegenrede zu begegnen. Der Zulauf ist immens: Innerhalb von drei Monaten wuchs die Gruppe auf über 30 000 Nutzerinnen und Nutzer an.

Auf den ersten Blick spricht viel für eine solche zivilgesellschaftliche Lösung: Gegenrede schränkt die Meinungsfreiheit nicht ein und bedarf auch keiner zusätzlichen staatlichen Überwachung. Vor allem aber verfolgt Hassrede das Ziel des „Silencing“ – die Erzeugung einer diskursiven Übermacht, die Opfergruppen gezielt zum Verstummen bringt. Offener Widerspruch setzt hier zumindest ein deutliches Signal an die schweigenden und unentschiedenen Mitleser. Und im besten Fall kommen auch den Hassrednern selbst Zweifel, so dass sie ihre Fehler einräumen und sich sogar bei den Opfern entschuldigen.

Für das Instrument der Gegenrede plädiert auch Susan Benesch, die an der Harvard Universität forscht. Sie geht davon aus, dass Menschen ihr Verhalten vor allem an gesellschaftliche Reaktionen anpassen, die ihr soziales Handeln auslöst. Als Beleg führt Benesch zahlreiche Fälle ethnisch bzw. rassistisch motivierter Hassrede in Kenia, Myanmar und den USA an, in denen Hass erfolgreich mit Gegenrede bekämpft wurde.[14]

Allerdings dämpft unter anderem die Amadeu Antonio Stiftung derlei Erwartungen.[15] Tatsächlich bleibt die verbale Gegenwehr meist jenen überlassen, die dauerhaft mit Hetze und Beleidigungen konfrontiert sind. Alle anderen setzen sich nur selten der Mühe aus. Auch bei #Ichbinhier meldet sich nur ein Bruchteil der Gruppenmitglieder regelmäßig zu Wort.[16] Die Zurückhaltung ist nachvollziehbar: Viele empfinden den Umgangston im Netz zwar als schier unerträglich. Gegen Hass und Dummheit – oder beides zusammen – zu argumentieren, nötigt dem Einzelnen allerdings zugleich viel Zeit und ein Höchstmaß an Geduld ab.

Das hängt nicht zuletzt mit einem strukturellen Ungleichgewicht der Sprechersituation zusammen, auf das der Sprachwissenschaftler Anatol Stefanowitsch hinweist: „Unsere Sprache liefert uns viele Wörter, mit denen sich Minderheiten abwerten, herabwürdigen und entmenschlichen lassen, aber nur wenige Wörter, die der Abwertung und Entmenschlichung entgegengestellt werden können.“ Im schlimmsten Fall legitimiere die Gegenrede dabei sogar die Hassrede, weil „sie es so aussehen lässt, als finde ein Meinungsaustausch auf Augenhöhe statt.“[17]

All das macht deutlich, dass es bislang keine einfache Formel gegen Beleidigungen und Hetze im Internet gibt. Sicher ist nur, dass wir diese nicht per Knopfdruck löschen können und der Kampf gegen Online-Hass eine gesamtgesellschaftliche Aufgabe bleibt – für die wir vor allem eines brauchen: einen sehr langen Atem.

 


[1] Ein überaus ambitionierter Zeitplan: Vgl. Facebook-Gesetz auf der Kippe, www.golem.de, 16.5.2017.

[2] Dabei zielt das NetzDG keineswegs nur auf Hassrede ab: Neben Beleidigung, übler Nachrede und Bedrohung zählt das NetzDG unter anderem auch Straftaten wie Volksverhetzung, die öffentliche Aufforderung zu Straftaten sowie die Verunglimpfung des Staates und seiner Symbole auf. Vgl. dazu: Niko Härting, Kurzer Prozess für die Meinungsfreiheit: Entwurf eines „Netzwerkdurchsetzungsgesetzes“, www.cr-online.de, 14.3.2017.

[3] Auch wenn „zum Schutz der Meinungsfreiheit ein behutsames Vorgehen der Bußgeldbehörde angezeigt ist“, wie es in der Gesetzesvorlage heißt. Um die Transparenz der Löschverfahren zu gewährleisten, sollen die Netzwerke zudem vierteljährlich Bericht erstatten, wie viele Inhalte sie entfernt haben und wie viele Mitarbeiter dabei zum Einsatz kamen.

[4] Vgl. dazu: Rechtsextreme spionieren geheime Personendaten aus, www.tagesspiegel.de, 25.6.2012.

[5] Ähnlich sieht es mit der häufig erhobenen Forderung nach einer Klarnamenpflicht im Internet aus. Sie würde ausgerechnet jene Minderheiten bedrohen, die auf Anonymität im Internet angewiesen sind. Vgl. dazu Maik Werther, Hass braucht keinen Namen, www.tagesspiegel.de, 14.9.2013.

[6] Vgl. Im Netz des Bösen, www.sueddeutsche.de, 15.12.2016.

[7] Vgl. Facebooks Gesetz: die geheimen Lösch-Regeln, www.sueddeutsche.de, 16.12.2016.

[8] www.deklaration-fuer-meinungsfreiheit.de.

[9] Vgl. Droht der deutschen Justiz der Kollaps?, www.augsburger-allgemeine.de, 7.4.2017.

[10] Zum Begriff der Hasskriminalität vgl. Fragen zur polizeilichen Lagebilderstellung von Anschlägen gegen Flüchtlingsunterkünfte, BT-Drs. 18/7000, Antwort zu Frage Nr. 22 Buchst. b, Seite 17.

[11] Das NetzDG sieht weiterhin vor, dass Nutzer eine Äußerung erst melden müssen, bevor Facebook-Mitarbeiter diese dann auf ihre Rechtmäßigkeit prüfen können.

[12] Vgl. Christoph Kappes, Facebook & Hass: Maßnahmen, Verantwortung und ein Lösungsversuch, www.christophkappes.de, 16.9.2015.

[13] Vgl. „Digitale Zivilcourage zeigen“, www.deutschlandfunk.de, 10.5.2017 sowie Selbstexperiment im braunen Sumpf, www.tagesspiegel.de, 9.5.2017.

[14] Vgl. Susan Benesch on dangerous speech and counterspeech, www.ethanzuckerman.com, 25.3.2014.

[15] Vgl. www.amadeu-antonio-stiftung.de/hatespeech/gegenstrategien.

[16] Vgl. www.spiegel.de, 26.3.2017.

[17] Anatol Stefanowitsch, Der Kampf gegen Hassrede ist nicht zu gewinnen, aber muss geführt werden, www.irights.info, 15.1.2016.

(aus: »Blätter« 6/2017, Seite 17-20)
Themen: Medien, Kultur und Recht

Sommerabo

top