Unsere vernetzte Welt verstehen
Hate Speech und Fake News – Über die Vermischung und Politisierung zweier Begriffe – Teil 2
Mitte März stellte Justizminister Heiko Maas einen Gesetzesvorschlag gegen “Hasskriminalität und strafbare Falschnachrichten“ vor. Der Entwurf für das sogenannte Netzwerkdurchsetzungsgesetz (NetzDG) betrifft vor allem Anbieter sozialer Plattformen im Internet. Die rechtliche Einordnung und Bewertung des Entwurfs wollen wir an dieser Stelle anderen überlassen. Uns interessiert hingegen, wie es dazu kommen konnte, dass sich der Diskurs um diese politischen Kampfbegriffe in Deutschland nun tatsächlich rechtlich zu institutionalisieren scheint.
Im ersten Teil unserer Analyse haben wir den Verlauf der beiden Diskurse während des letzten Jahres nachgezeichnet. Wir konnten unabhängige Diskussionsentwicklungen, aber vor allem die Vermischung der beiden Themenkomplexe in der Berichterstattung gegen Ende des Jahres feststellen. Angesichts des umstrittenen Gesetzesvorstoßes von Justizminister Maas, in die beide Diskussionen zuletzt mündeten, widmen wir uns in diesem zweiten Blogpost nun der Frage, wie es zu dieser starken Politisierung der Begriffe und ihrer Debatten gekommen ist und welche Folgen sich daraus ergeben.
Die Entstehung eines Politikums
Unsere Analyse zu Hate Speech hat eine Vorgeschichte, die im Konflikt “Facebook vs. Heiko Maas” (Spiegel Online, 19.7.2016) ihren Ausdruck findet. Im Jahr 2015 rief Maas gemeinsam mit Internetunternehmen, Beschwerdestellen und NGOs eine Task Force Umgang mit rechtswidrigen Hassbotschaften im Internet ins Leben. Die einjährige Bilanz ihrer Arbeit fiel ernüchternd aus. Die Task Force entpolitisierte die Diskussion nicht, sondern trug trotz oder gerade wegen der daraufhin initiierten Maßnahmen dazu bei, das Thema wesentlich breiter in die Gesellschaft zu tragen. Mehr Wissen zum Ausmaß von Hate Speech wurde produziert und objektivierte die gesellschaftliche Relevanz des Themas. Die Debatte um Hate Speech manifestierte sich in Statistiken, wissenschaftlichen Projekten und neuen zivilgesellschaftlichen Organisationen. Als schließlich die einjährige Bilanz der Arbeit der Task Force anstand, wurden die Maßnahmen in der Praxis allerdings mehrheitlich als wirkungslos bewertet. Den Plattformen selbst werden in der Debatte verstärkt Defizite bei der Löschung von Hasskommentaren nachgesagt. Es wird in Frage gestellt, ob sich das Problem durch eine freiwillige Verpflichtung der Plattformen lösen lässt.
Ein weiteres Kennzeichen der Entwicklung: Politikerinnen und Politiker wurden selbst zu Betroffenen von Hassrede und manipulierten Meldungen auf sozialen Plattformen und äußerten sich zum Teil öffentlich in dieser Rolle. CDU-Generalsekretär Peter Tauber zog Anfang des Jahres 2016 Aufmerksamkeit auf sich, als er sich auf Facebook mit Kommentatoren von Merkels Flüchtlingspolitik anlegte. Ein Fall von Hasstiraden gegen Hamburgs Grünen-Abgeordnete Stefanie von Berg bot Hamburgs Justizsenator Steffen Anlass, die Diskussion nach schärferen gesetzlichen Regeln zu forcieren. Im Zusammenhang damit forderte Steffen zudem erstmals Bußgeld und Schadensersatz, falls Facebook und andere Plattformen diskriminierende Kommentare nicht löschten. Und ein Fall von Fake News traf die Grünen-Bundestagsabgeordnete Renate Künast auf Facebook im November letzten Jahres.
Darüberhinaus stand der Diskurs um Hate Speech und Fake News auf sozialen Plattformen in Beziehung zu anderen politischen Themen, insbesondere der Innen- und Sicherheitspolitik: die Situation der Geflüchteten, der Amoklauf in München, Desinformationskampagnen ausländischer Regierungen, und schließlich die durch die US-Wahl gezogene Verbindung zu den Bundestagswahlen in Deutschland. Der politische Diskurs fand daher vor allem auf der bundespolitischen Ebene statt. Neben Bundespolitikern und Ministerien kommentierten auch Bundeskanzlerin Angela Merkel, Bundestagspräsident Norbert Lammert und Präsident des Bundesverfassungsschutzes Hans-Georg Maaßen die Situation. Es zeigt sich immer deutlicher: Soziale Netzwerke sind in Zeiten von Globalisierung und Digitalisierung relevante Orte des Politischen. Zunehmend verschob sich in der Debatte um Hate Speech und Fake News jedoch der Fokus von den Nutzerinnen und Nutzern auf das Handeln bzw. Nicht-Handeln der Plattformbetreiber selbst. Es unterstreicht die politische Relevanz der Praktiken dieser Unternehmen.
Im Zuge der Diskussion nach der US-Wahl äußerten sich vor allem Bundespolitiker und Regierungsparteien besorgt über die Möglichkeit einer Manipulation der Bundestagswahl. Sie konstruierten dabei das Problem als eine Bedrohung für die Demokratie in Deutschland. Dieses einfache, wie starke Narrativ setzt sich dabei aus zwei Elementen zusammen: Fake News einerseits und der Kontext von Wahlen andererseits. Die Verbindung beider Elemente wurde als Gefahr für demokratische Meinungsbildung bewertet. Das Narrativ produzierte zugleich diskursiv den Anspruch, politisch zu handeln.
Der Druck zu handeln und die politische Entscheidung für ein neues Gesetz
Wie zuvor erläutert, wurde die Fake News-Thematik fast ausschließlich im Hinblick auf die anstehenden Bundestagswahlen diskutiert. Die von vielen in der Politik geteilte Wahrnehmung, dass die anstehende Bundestagswahl durch Falschmeldungen beeinflusst werden könne, ließ den Druck auf Maas größer werden, gesetzlich zu handeln. Hinzu kam, dass die Task Force zum Umgang mit Hate Speech auch nach einem Jahr noch keine befriedigenden Ergebnisse aufzuweisen hatte. Aufgrund dieser Erfahrungen wurde eine Selbstverpflichtung der Plattformen als Lösung für die Probleme kaum mehr diskutiert.
Das politische Bewusstsein für beide Themen kulminierte im November 2016 und setzte sich als ein Diskurs zur Regulierung fort. Bundeskanzlerin Angela Merkel sprach sich zu diesem Zeitpunkt in der Haushaltsdebatte des Bundestages grundsätzlich für neue Regeln aus, um besser mit Fake News umgehen zu können. Sie unterstützte zudem Initiativen, gesetzlich gegen Hasskommentare im Internet vorzugehen. Aus ihrer Sicht verlaufe die Meinungsbildung über soziale Netzwerke heute anders und soziale Plattformen würden, anders als traditionelle Medien, kaum kontrolliert oder reguliert werden. Die politische Entscheidung, regulatorisch einzugreifen, war damit von ganz oben öffentlich autorisiert worden.
Ein Merkmal des im letzten Jahr aufkommenden Regulierungsdiskurses versinnbildlicht Merkels Aussage: Das neue Fake News-Problem wurde schnell mit dem alten Hate Speech-Thema in Beziehung gesetzt. Eine längere Diskussion wie zu Hate Speech, in der es Versuche gab erst das Problem zu verstehen, zu definieren und zu bewerten, gab es im Fall von Fake News nicht. Eine eilige Parallele wurde somit auch hinsichtlich des Umgangs der Plattformen mit unerwünschten Inhalten gezogen. Es ließe sich ein Muster in der Löschpraxis der Plattformen erkennen, so die schärfsten Kritiker. Aus der Hate Speech-Diskussion habe man gelernt, wie vor allem Facebook mit unerwünschten Inhalten umgehe, nämlich wie es Hamburgs Datenschutzbeauftragter Johannes Caspar formuliert, indem negative Folgen sozialisiert werden und die Verantwortung auf Nutzer abgewälzt werde (Handelsblatt, 20.12.2016).
Im Dezember war es dann gemeinschaftlich “die Politik”, welche den Druck auf Facebook und andere soziale Netzwerke mit einem geplanten Gesetz erhöhen wollte (dpa, 16.12.2016). Der Entwurf für ein Netzwerkdurchsetzungsgesetz, der auf Justizminister Maas zurückgeht, könnte nun als Versuch gewertet werden, durch gesetzliche Maßnahmen politische Handlungsfähigkeit zu demonstrieren. Allerdings zieht der Entwurf erhebliche Kritik auf sich. Die jüngsten Reaktionen auf den Versuch einer gesetzlichen Regulierung decken sich mit den Ergebnissen unserer Analyse. Bereits im früheren Verlauf des Diskurses um eine Regulierung von Hate Speech und Fake News im Jahr 2016 lassen sich bei der Frage nach der Zuständigkeit zwei gegenläufige Argumentationslinien identifizieren:
Zum einen die Gruppe derer, die für eine konsequente Durchsetzung bestehenden Rechts oder neue gesetzliche Regelungen argumentierte. Insbesondere die Politik, wenn auch mit Ausnahmen einiger Politiker, rahmte “Fake News” (weit mehr als Hassrede) als politisches Problem, welche eine Bedrohung für die Demokratie und die Gewährleistung einer politischen Öffentlichkeit darstelle. Sie teilen die Idee einer staatlichen Regulierung als politische Handlungsmöglichkeit. Ins Spiel gebracht wurden (teilweise stark umstrittene) Regulierungsvorschläge, die beispielsweise Desinformation zur Destabilisierung eines Staates als Straftatbestand einzuführen, die EU-Richtlinie für audiovisuelle Medien von Hörfunk und Fernsehen auch auf soziale Netzwerke auszuweiten, oder Plattformen unter das deutsche Presserecht zu stellen. Ebenfalls war die Rede von einer Kombination aus Bußgeldern, der Verpflichtung zur Einrichtung einer Rechtsschutzstelle sowie das “Recht auf Richtigstellung” für Betroffene von diffamierenden Falschmeldungen. Die Idee, Bußgelder zu verhängen, falls Facebook und andere Plattformen beanstandete Inhalte nicht löschen sollten, hat ihren Ursprung bereits in der frühen Diskussion um eine verschärfte Regelung im Umgang mit Hate Speech.
Eine zweite Argumentation sucht nach Lösungsansätze jenseits des Rechts. Kompetenz zum effektiven Umgang mit Hate Speech und Fake News sehen die Befürworter vor allem bei den Nutzern, und bei automatisierten Verfahren. Hate Speech und Fake News wurden in diesem Zusammenhang als Problem für die Gesellschaft im Allgemeinen und den einzelnen Konsumenten und Nutzer von (sozialen) Plattformen im Speziellen aufgefasst. Als Lösungsansätze wurden insbesondere die sogenannte Gegenrede, Maßnahmen zur Stärkung der Medienkompetenz von Nutzern, sowie algorithmische Lösungen in die Diskussion eingebracht. Gegen Vorschläge einer gesetzlichen Regulierung positionierten sich in erster Linie Medien und Presse, sowie die Interessenverbände der Internetwirtschaft. Diese sehen in neuen Gesetzen eine Gefahr für die Meinungsfreiheit und warnen vor Zensur. Eine Einschränkung der Meinungsfreiheit könnte durch jene Instanz erfolgen, die beispielsweise bei einer Einführung von Desinformation als Straftatbestand die Grenze zwischen Falschmeldung und Wahrheit zieht. Auch Plattformen wie Facebook könnten bei drohenden Sanktionen geneigt sein, Inhalte im Zweifelsfall zu löschen und dabei häufig über das Ziel hinausschießen.
Nachdem im März der Gesetzentwurf vorgelegt wurde, bleiben diese Grundpositionen in der fortgesetzten Diskussion bestehen. Doch, so können wir im Ausblick feststellen, wird die nun geäußerte Kritik konkreter und differenzierter. Der in die Diskussion eingebrachte Gesetzestextes mobilisiert weitere Akteure, die mit ihrem jeweiligen Hintergrund, den Entwurf bewerten und neue Ideen, Wertvorstellungen und Argumente einbringen. So steigen nun vermehrt Juristen, zivilgesellschaftliche Organisationen und Einrichtungen der Selbstkontrolle und Internetwirtschaft in die Debatte ein.
Zusammenfassung
Ziel der Analyse war es, die öffentlichen Auseinandersetzungen um Hate Speech und Fake News im Verlauf des letzten Jahres nachzuvollziehen. Dabei haben wir im ersten Teil jene zentralen Ereignisse herausgearbeitet, die die Thematiken unabhängig voneinander befeuerten, aber auch Phasen der Verflechtung beider Diskurse erläutert.
Im zweiten Teil ging es uns darum, die dahinterliegenden Prozesse der Diskursentwicklung besser zu verstehen. Wir haben aufgezeigt, wie jene Verflechtung der beiden Phänomene in der öffentlichen Auseinandersetzung, die Debatte um Hate Speech und Fake News zunehmend politisierte und damit den Druck, politisch tätig zu werden, beförderte. Im Kern hat sich Debatte um Fake News und Hate Speech zu einer Auseinandersetzung darüber entwickelt, wie der Gesetzgeber an dieser Stelle durch rechtliche Regelungen eingreifen soll oder muss.
Der nunmehr in einen Regierungsentwurf für ein Netzwerkdurchsetzungsgesetz überführte politische Diskurs wird sich angesichts der zuvor dargestellten Positionen weiter fortsetzen. Gerade die Formulierung eines konkreten Gesetzesentwurfs mobilisiert weitere Akteure und steigert abermals das politische Bewusstsein für die Thematik. In der kommenden Diskussion wird verhandelt werden, welche Regeln und alternative Vorschläge angemessen sind und welche nicht. Es bleibt somit abzuwarten, ob ein Gesetz zum Umgang mit zwei komplexen Phänomenen, wie Hate Speech und Fake News, die gesellschaftliche Kontroverse zu entpolitisieren vermag.
Dieser Beitrag spiegelt die Meinung des Autors und weder notwendigerweise noch ausschließlich die Meinung des Institutes wider. Für mehr Informationen zu den Inhalten dieser Beiträge und den assoziierten Forschungsprojekten kontaktieren Sie bitte info@hiig.de.
Dieser Beitrag spiegelt die Meinung der Autorinnen und Autoren und weder notwendigerweise noch ausschließlich die Meinung des Institutes wider. Für mehr Informationen zu den Inhalten dieser Beiträge und den assoziierten Forschungsprojekten kontaktieren Sie bitte info@hiig.de
Jetzt anmelden und die neuesten Blogartikel einmal im Monat per Newsletter erhalten.
Plattform Governance
Zwischen Zeitersparnis und Zusatzaufwand: Generative KI in der Arbeitswelt
Generative KI am Arbeitsplatz steigert die Produktivität, doch die Erfahrungen sind gemischt. Dieser Beitrag beleuchtet die paradoxen Effekte von Chatbots.
Widerstände gegen Veränderung: Herausforderungen und Chancen in der digitalen Hochschullehre
Widerstände gegen Veränderung an Hochschulen sind unvermeidlich. Doch richtig verstanden, können sie helfen, den digitalen Wandel konstruktiv zu gestalten.
Von der Theorie zur Praxis und zurück: Eine Reise durch Public Interest AI
In diesem Blogbeitrag reflektieren wir unsere anfänglichen Überlegungen zur Public Interest AI anhand der Erfahrungen bei der Entwicklung von Simba.