Zum Inhalt springen
news-1172463_640
02 Mai 2017

Hate Speech und Fake News – Über die Vermischung und Politisierung zweier Begriffe

Im März diesen Jahres stellte Justizminister Heiko Maas einen Gesetzesvorschlag gegen »Hasskriminalität und strafbare Falschnachrichten« vor. Der Entwurf für das sogenannte Netzwerkdurchsetzungsgesetz (NetzDG) betrifft vor allem Anbieter sozialer Online-Plattformen und deren Umgang mit zwei Phänomenen, die als »Hate Speech« und »Fake News«-Konzept gemeinsam ihre politische Wirkung im letzten Jahr entfalteten.
 Die rechtliche Einordnung und Bewertung des umstrittenen Gesetzentwurfs wollen wir an dieser Stelle anderen überlassen. Wir fragen: Wie konnte es dazu kommen, dass sich der Diskurs um diese politischen Kampfbegriffe in Deutschland nun tatsächlich rechtlich zu institutionalisieren scheint? Im ersten Teil rekonstruieren wir den Verlauf der beiden Diskussionen im letzten Jahr. Im zweiten Blogpost widmen wir uns der zunehmenden Politisierung der Diskussionen, die am Ende des Jahres in einen gemeinsamen Diskurs über eine Regulierung zweier eigentlich sehr unterschiedlichen Phänomene mündete.

Eine Rekonstruktion der öffentlichen Auseinandersetzung

Wir blicken insbesondere auf die Diskussion im letzten Jahr. Denn wie die Jury für die Auslobung des Anglizismus des Jahres 2016 schreibt, dienen die Begriffe Hate Speech wie auch Fake News in diesem Jahr »als Kristallisationspunkt für gesellschaftliche Debatten über den Umgang mit diesem nicht völlig neuen, aber mit Wucht ins öffentliche Bewusstsein gedrungenen Phänomen.«

Ein Indikator für die Heftigkeit, mit der beide Begriffe in die öffentliche Debatte einschlugen, ist das gesteigerte Interesse der Medien. Wir haben daher über 800 Veröffentlichungen deutschsprachiger Medien im letzten Jahr untersucht, anhand derer wir den Verlauf der öffentlichen Auseinandersetzungen nachvollziehen. Im Folgenden möchten wir erste Ergebnisse dieser Arbeit präsentieren.1

Rekonstruktion des Verlaufs der Hate Speech-Diskussion

Widmen wir uns also zuerst der Hate Speech-Thematik, als der älteren der beiden Debatten. Wir konnten feststellen, dass sich der Verlauf bis Oktober 2016 als eine Konjunktur des Themas mit Phasen schwankender medien-öffentlicher Aufmerksamkeit darstellt. Die Kurve (siehe Darstellung 1) deutet auf eine eher selektive und ereignisbezogene Verarbeitung des Themas hin. Im November und Dezember erfährt das Thema Hate Speech dann jedoch einen rasanten Aufstieg. Die folgende Grafik stellt die Anzahl der gefundenen Artikel pro Monat zum Thema Hate Speech in 2016 dar.

Darstellung 1: Die “Hate Speech”-Diskussion als Verlauf der Berichterstattung

Wie lassen sich die Schwankungen und insbesondere der steile Anstieg am Ende des Jahres erklären? Nach unseren Analysen müssen dabei drei Phasen unterschieden werden: In der ersten Phase (Januar bis Mai) ist die Medienberichterstattung konjunkturellen Schwankungen unterworfen. Diese Schwankungen lassen sich gut an konkreten, einzelnen Ereignissen festmachen, die für eine kurzlebige Zunahme in der Berichterstattung verantwortlich sind. So beeinflusste Facebook selbst Anfang des Jahres die Agenda der Medien, indem es mehrere Maßnahmen gegen Hassrede mit einem Fokus auf Deutschland ankündigte. Die Kurve beschreibt hier in erster Linie die Fortsetzung der Diskussion aus dem Vorjahr, in der SPD-Justizminister Maas mehr Engagement gegen Hate Speech auf der Plattform forderte. Ende Mai wird der Umgang mit Hate Speech auch zu einem Thema für die europäischen Institutionen. Die EU Kommission einigt sich mit Facebook, Google, Microsoft und Twitter über einen Verhaltenskodex zu Hasskommentaren. In Deutschland bringt ein lokaler Fall rechter Hetze gegen die Grünen-Abgeordnete Stefanie von Berg das Thema erneut auf die mediale Agenda. Der Hamburger Justizsenator Till Steffen (Grüne) forciert daraufhin die Diskussion um eine mögliche Gesetzesverschärfung von Hasskriminalität.

Über den Sommer wird das Medieninteresse von einer stärker gesamtgesellschaftlichen Diskussion getragen. Verschiedene Akteure initiieren in diesen Monaten öffentliche Kampagnen gegen Hate Speech, sowie Projekte, die Hate Speech im Internet beobachten. Erste Zahlen und Statistiken werden von der Wissenschaft veröffentlicht. Das breitere öffentliche Interesse verstetigt die Diskussion in der Politik und fördert den Drang zum politischen Handeln. Im September spricht der Tagesspiegel (4.9.2016) schließlich vom »‘no hate speech!’-Fieber« deutscher Politiker.

Der enorme Anstieg in der Berichterstattung im November und Dezember ist vor allem Ergebnis einer Diskursüberlagerung. Wie ist diese zu erklären? Die dritte Phase der Hate Speech-Diskussion lässt sich nicht mehr nur als ereignisbezogene Schwankung interpretieren. Weitestgehend löst sich die Diskussion um Hate Speech von konkreten Vorfällen, in denen Hassrede in sozialen Netzwerken auftritt. Stattdessen wird diese Diskussion von einer neuen Debatte überlagert, die zum Jahresende mit großer Wucht in das öffentliche Bewusstsein drängt: Die Präsidentschaftswahl in den USA und die Frage nach dem Einfluss von Fake News, die über soziale Plattformen verbreitet werden. Diese neue Kontroverse reaktiviert Ende 2016 die Debatte um Hasskommentare als eine weitere Kategorie unerwünschter Inhalte im Internet.

Rekonstruktion des Verlaufs der Fake News-Diskussion

Der enorme Anstieg der Hate Speech-Diskussion wird von der Fake-News-Diskussion noch einmal um ein Vielfaches überboten. Unsere Analyse der Thematisierung von Falschmeldungen lässt sich im Wesentlichen in drei Phasen aufteilen (siehe Darstellung 2). Insbesondere die Rolle der Plattformen, allen voran Facebook, wird innerhalb der verschiedenen Phasen unterschiedlich gefasst und rückt zunehmend in den Fokus der Diskussion.

Darstellung 2: Fake News-Diskussion als Verlauf der Berichterstattung

Diffamierende Falschmeldungen über Geflüchtete werden als Teil der Flüchtlingsdebatte diskutiert. Zu Beginn des Jahres häufen sich Berichte zu Falschmeldungen über Geflüchtete. Unsere Analyse zeigt jedoch, dass Falschmeldungen hier noch nicht wirklich im Zentrum eines eigenen Diskurses stehen, sondern die Konfliktlinien eher anhand der Positionen in der Flüchtlingsdebatte verlaufen. Die Plattformen, über welche sich jene Falschmeldungen vorrangig verbreiteten, werden zwar häufig genannt und teilweise als besonders nahrhafter Boden für die rapide Verbreitung von Falschmeldungen beschrieben, sie werden jedoch selbst nicht in die Pflicht der Bekämpfung jener Inhalte genommen.

Eine gesteigerte Thematisierung von Falschmeldungen stellen wir wieder im Zuge des Amoklaufs in München am 22. Juli 2016 fest. Der Begriff Falschmeldung meint in dieser Phase der Berichterstattung in erster Linie Gerüchte, welche sich im Chaos als vermeintliche Fakten verbreiten. Obwohl als singuläres Ereignis zu identifizieren, markiert der Amoklauf von München in mehrfacher Hinsicht einen wichtigen Punkt in der Entwicklung der Fake News-Diskussion. So formieren sich hier bereits zentrale Diskurssubjekte und -objekte: Einerseits die sozialen Medien, auf welchen sich Falschmeldungen vornehmlich verbreiten. Andererseits die klassischen Medien, denen teilweise vorgeworfen wird, ein Informationsvakuum entstehen zu lassen, welches den Falschmeldungen auf Twitter oder Facebook mehr Gelegenheit zur Verbreitung verschafft. Und schließlich die Polizei als Institution, welche als weiteres Korrektiv für Falschmeldungen dienen könnte. Mit der Berichterstattung rund um den Amoklauf werden erstmals auch Forderungen nach einem staatlichen Eingreifen laut, Überlegungen dazu bleiben aber abstrakt.

Unter dem Anglizismus Fake News drängte das Thema ins öffentliche Bewusstsein, als Vorwürfe gegen Facebook laut werden, den Wahlsieg von Präsident Trump befördert zu haben. Die Verbreitung von Fake News über die Plattform hätte Trump den Sieg beschert und werfe »die Frage nach der gesellschaftlichen Verantwortung von Facebook auf«, titelt beispielsweise die Süddeutsche Zeitung (09.11.2016). Kreiste die Debatte zuvor meist um konkrete Fälle von Falschmeldungen und wurde deren Verbreitung an sich problematisiert, wird nun Facebooks Umgang (beziehungsweise Nicht-Umgang) damit diskutiert. Zunehmend werden dabei auch Ansätze diskutiert, die über eine bloße Selbstverpflichtung durch Facebook hinausgehen.

Verflechtung zweier Diskussionen zu einem Diskurs

Die Darstellung 3 enthält die Anzahl der Dokumente, die sowohl Hassrede als auch Falschmeldungen thematisieren. Folgt man dem Verlauf, lässt sich eine besondere Vermischung der Diskurse besonders zu zwei Zeitpunkten ablesen.

Darstellung 3: Verflechtung der Diskussionen

Am Jahresanfang treten beide Phänomene in bestimmten Kontexten tatsächlich zusammen auf: So wird vermehrt über Falschmeldungen gegen Geflüchtete berichtet, die gezielt verbreitet wurden, um Hass zu schüren. Begrifflich wird ausschließlich von Falschmeldungen mit diffamierenden Inhalten gesprochen.

Ende des Jahres etablieren sich die beiden Anglizismen Hate Speech und Fake News. Sie werden in Statements und in der Berichterstattung auch gemeinsam gebraucht. In dieser Phase, so verdeutlicht die Darstellungen 1 und 3, wird die Hate Speech-Diskussion kaum mehr eigenständig geführt. Von den 77 Artikeln zu Hate Speech, die wir insgesamt gefunden haben (Darstellung 1) erwähnen 67 auch Fake News (Darstellung 3). Die Hate Speech-Diskussion wird von der neuen Fake News-Debatte quasi subsumiert.

Das Verbindende der beiden einst getrennten Diskussionen ist aber Ende des Jahres nicht mehr das gemeinsame Auftreten zu einem bestimmten Vorfall, sondern der Ort des Sichtbarwerdens beider Phänomene. Plattformen, allen voran Facebook, geraten als vermeintlicher Nährboden für sowohl Hate Speech als auch Fake News zunehmend ins Zentrum der kritischen Aufmerksamkeit. Beide Begriffe stehen für zwei eigentlich unterschiedliche Kategorien unerwünschter Inhalte, die nun aber Gegenstand der gleichen Regulierungsbestrebungen werden.

Zusammenfassung

Die hier präsentierten Ergebnisse sind Teil einer ersten, groben Betrachtung der Hate Speech und Fake News-Diskussion in Deutschland des letzten Jahres. Ziel des ersten Teils unserer Analyse war es, die öffentlichen Auseinandersetzungen erst einmal nachzuvollziehen. Wir haben jene zentralen Ereignisse herausgearbeitet, die die Thematiken unabhängig voneinander befeuerten aber auch Phasen beschrieben, in denen sich beide Diskussionen vermischten. Das Hauptgewicht lag dabei auf dem Jahresende, als im Zuge des US-Präsidentschaftswahl die Debatte um Fake News mit bis dato unbekannter Wucht in das öffentliche Bewusstsein drang und im Zuge dessen das Hate Speech-Thema kaum noch eigenständig diskutiert wurde.
Im kommenden, zweiten Teil unserer Analyse wollen wir zeigen, wie jene Verflechtung der beiden Phänomene im öffentlichen Diskurs die Politisierung der Themen und die Erwartung nach politischem Handeln beförderte. Wir wollen dann den politischen Diskurs nachzeichnen und aufzeigen, wie sich dieser schließlich in Form eines Gesetzesentwurfs konkretisierte.


1 Wir suchten dafür über die Datenbank Dow Jones Factiva Medienmaterial, welches die Anglizismen (Fake News, Hate Speech) oder ihre jeweiligen deutschen Äquivalente (Falschmeldung, Hassrede) im Volltext nennt. Das Material filterten wir anschließend manuell und schlossen nur solche Beiträge ein, die einen Bezug zu sozialen online Plattformen oder Internet herstellen. Der resultierende Textkorpus enthielt insgesamt 845 deutschsprachige Artikel.

Dieser Beitrag spiegelt die Meinung des Autors und weder notwendigerweise noch ausschließlich die Meinung des Institutes wider. Für mehr Informationen zu den Inhalten dieser Beiträge und den assoziierten Forschungsprojekten kontaktieren Sie bitte info@hiig.de.

Dieser Beitrag spiegelt die Meinung der Autorinnen und Autoren und weder notwendigerweise noch ausschließlich die Meinung des Institutes wider. Für mehr Informationen zu den Inhalten dieser Beiträge und den assoziierten Forschungsprojekten kontaktieren Sie bitte info@hiig.de

Kirsten Gollatz

Ehem. Assoziierte Forscherin: Die Entwicklung der digitalen Gesellschaft

Leontine Jenner

Ehem. Studentische Mitarbeiterin: Internet Policy und Governance

Aktuelle HIIG-Aktivitäten entdecken

Forschungsthemen im Fokus

Das HIIG beschäftigt sich mit spannenden Themen. Erfahren Sie mehr über unsere interdisziplinäre Pionierarbeit im öffentlichen Diskurs.

Forschungsthema im Fokus Entdecken

Du siehst eine Tastatur auf der eine Taste rot gefärbt ist und auf der „Control“ steht. Eine bildliche Metapher für die Regulierung von digitalen Plattformen im Internet und Data Governance. You see a keyboard on which one key is coloured red and says "Control". A figurative metaphor for the regulation of digital platforms on the internet and data governance.

Data Governance

Wir entwickeln robuste Data-Governance-Rahmenwerke und -Modelle, um praktische Lösungen für eine gute Data-Governance-Politik zu finden.

HIIG Monthly Digest

Jetzt anmelden und  die neuesten Blogartikel gesammelt per Newsletter erhalten.

Weitere Artikel

eine mehrfarbige Baumlandschaft von oben, die eine bunte digitale Publikationslandschaft symbolisiert

Diamond OA: Für eine bunte, digitale Publikationslandschaft

Der Blogpost macht auf neue finanzielle Fallstricke in der Open-Access-Transformation aufmerksam und schlägt eine gemeinschaftliche Finanzierungsstruktur für Diamond OA in Deutschland vor.

ein Haufen zusammengeknüllter Zeitungen, die Desinformation im Netz repräsentieren

Desinformation: Überschätzen wir uns wirklich selbst?

Wie bewusst sind wir im Umgang mit Desinformation im Internet und vermittelt der öffentliche Diskurs ein ausgewogenes Bild der Reichweite von Desinformationen?

Welche Skills braucht man heutzutage auf dem Arbeitsmarkt?

Im Wettlauf gegen die Maschinen: Skills für die Zukunft

Welche Skills brauchen Arbeitnehmer*innen, um mit dem wandelnden Arbeitsmarkt Schritt halten zu können? Die Untersuchung einer der weltweit größten Online-Freelancer-Plattformen gibt wichtige Einblicke.