Zum Inhalt springen
eine geschwungene weiße Linie vom rechten unteren bis zum oberen rechten Bildrand auf grünem Kunstrasen, die dafür steht, wie Plattformräte zu einer besseren Regulierung von Online-Kommunikation betiragen können
24 Januar 2024

Die Mächtigen regulieren: Das Potenzial von Plattformräten

Social-Media-Plattformen sind bei der öffentlichen und privaten Meinungsbildung nicht mehr wegzudenken. Die Entscheidungen der Plattformen durch Nutzungsbedingungen und algorithmische Moderationspraktiken prägen den Schutz von Menschenrechten. Dies hat eine wichtige Diskussion angestoßen: Wie kann das gesellschaftliche Interesse in diese digitalen Räume integriert werden? Eine potenzielle Lösung für diese komplexe Herausforderung ist das Konzept der Plattformräte oder Social Media Councils (SMCs). Doch wie können diese sicherstellen, dass öffentliche Interessen und demokratische Werte in den Regelsetzungsprozessen von Plattformen berücksichtigt werden? In unserer Forschungsarbeit haben wir uns mit 30 Forscher*innen aus allen Kontinenten der Welt genau diese Frage gestellt. Dieser Blogpost gibt einen kurzen Überblick zum Thema. 

Öffentlicher Diskurs in digitalen Räumen

Private Unternehmen bestimmen im Wesentlichen die Rahmenbedingungen für den öffentlichen Meinungsaustausch auf Online-Plattformen.. Das geschieht durch Content Moderation. Dieser Begriff beschreibt den Prozess, bei dem zum Beispiel Beiträge, Bilder und Videos der Nutzer*innen überprüft und bewertet werden, um sicherzustellen, dass sie den Gemeinschaftsrichtlinien der Plattform entsprechen. Diese Moderation entscheidet also darüber, welche Inhalte als unangemessen gelten und was auf den Plattformen gelöscht, bearbeitet oder zugelassen wird. Unangemessene oder schädliche Inhalte umfassen beispielsweise Beleidigungen, Hassrede, Gewaltverherrlichung, pornografische Materialien, sowie Falschinformationen oder Spam.

Durch diese Nutzungsbedingungen und algorithmische Moderation von Inhalten nehmen Social-Media-Plattformen auch Einfluss auf den öffentlichen Diskurs. Sie entscheiden letztlich darüber, welche Nutzer*innenbeiträge bleiben (und verbreitet werden) und welche entfernt (oder versteckt) werden. Dadurch regulieren sie erheblich, wie sich die öffentliche Meinung in digitalen Räumen formt. Dies ist wiederum entscheidend, wenn wir über die demokratischen Kommunikationsrechte der Bürger*innen nachdenken. Denn Unternehmen agieren hier als Regelsetzer, Durchsetzer und letztlich Richter über ihre eigenen Entscheidungen.

Erweiterung des unternehmerischen Verantwortungsbereichs

Unternehmen sind keine Demokratien. Sie werden nicht von demokratisch gewählten Vertreter*innen geleitet. Sie folgen im Wesentlichen ihrem eigenen Profitinteresse. Wie der Europäische Gerichtshof für Menschenrechte jedoch in seinem Cengiz-Urteil von 2015 betonte, “ist das Internet zu einem der wichtigsten Mittel geworden, um das Recht auf Freiheit der Information und Meinungsäußerung auszuüben, indem es (…) wesentliche Instrumente für die Teilnahme an Aktivitäten und Diskussionen über politische Fragen und Themen von allgemeinem Interesse bereitstellt.” Im Zuge dieser gesellschaftlichen Veränderung kann daher auch die Verantwortlichkeit hinsichtlich Inklusivität und Menschenrechtsschutz nicht ausschließlich auf staatlicher Ebene verortet werden. Auch die Unternehmen nehmen eine entscheidende Rolle ein. So ist, unter anderem durch das Zusammenspiel von staatlichen Gesetzen und privaten Community-Standards, ein hybrider Ordnungsrahmen für digitale Plattformen entstanden.

Expert*innen sind sich einig, dass Unternehmen in solch bedeutenden Positionen für eine angemessene und nachhaltige Ausübung ihrer Vorrangstellung auch gesellschaftlich verantwortlich gemacht werden sollten. Stehen sie hier vor einem Konflikt, weil sie Entscheidungen gegen das Profitinteresse des Unternehmens treffen müssen? Eine mögliche Lösung dieses Interessenkonflikts besteht darin, dem Entscheidungsprozess durch Plattformräte mehr Legitimität zu verleihen. 

Plattformräte als die Legitimation verbessernde Komponente

Die Idee hinter Plattformräten besteht darin, die Inklusivität bei der Entscheidungsfindung und der Gestaltung des Kommunikationsraums zu steigern. Durch die Beteiligung von Personen, die nicht im Interesse des Unternehmens handeln, sollen Grundrechte und andere wichtige Werte auf den Plattformen gestärkt werden. Metas Oversightboard gilt als erster, bedeutender Schritt hin zu einer externen Kontrolle der Entscheidungsprozesse einer kommerziellen Plattform. Dennoch zögern viele andere Plattformen weiterhin, ähnliche Governance-Strukturen einzuführen.

Die genaue, effektive Ausgestaltung dieser Räte ist jedoch noch nicht einheitlich geklärt. Plattformräte sind auf verschiedenen Regelungsebenen (national, regional und global) vorstellbar und können in verschiedenen Konstellationen eingerichtet werden. Auch gibt es verschiedene Ansätze, worüber die Plattformräte entscheiden sollen. Sollten sie nur durch Präzedenzfälle die großen Linien der Moderationspraxis vorgeben, oder als eine Art Gericht jede Entscheidung prüfen, welche die Nutzer*innen anzweifeln?

Inklusivität als wichtiger Faktor

Die Zusammensetzung der Räte ist eine zentrale Frage. Sowohl Expert*innen mit technischem Fachwissen als auch gewählte Vertreter:innen von Nutzer:innen und/oder Minderheiten könnten Teil der Besetzung sein. Die Einbeziehung von Randgruppen ist von großer Bedeutung, um insbesondere die Interessen ansonsten marginalisierter Gruppen einzubeziehen. Dabei kann jedoch die Inklusivität des Plattformrates im Widerspruch zu dessen Effektivität stehen: Größere, möglichst heterogene Räte könnten zwar die Legitimität stärken, kämpfen jedoch gleichzeitig mit der Herausforderung ineffizienter Entscheidungsfindung. Je mehr Interessen berücksichtigt werden müssen, desto aufwendiger gestaltet sich der Entscheidungsprozess. 

Mit diesem Gedanken wurde auch Metas Oversight Board eingesetzt. Bei dessen Gestaltung wurde viel Wert auf Inklusivität gelegt. Unsere komplexe moderne Gesellschaft erzeugt jedoch kaum lösbare Repräsentationsprobleme. Daher wird Metas Oversightboard weiterhin dafür kritisiert, kulturelle oder soziale Perspektiven nicht ausreichend zu berücksichtigen.

Weitere potenzielle Nachteile der Räte könnten die Schwächung staatlicher Regulierungsbehörden, Unklarheit über Verantwortlichkeiten, eine Verwässerung der ethischen Standards, ein normativer Vertuschungseffekt und ein allzu globaler Ansatz für eigentlich regional zu treffende Sprachregeln sein, der lokale Praktiken außer Acht lässt.

Von den anderen lernen

Ein mögliches Vorbild für die komplexe Einrichtung der Räte könnte die Europäische Kommission für Demokratie durch Recht (sog. “Venedig-Kommission”) sein. Diese unabhängige Beratungsstelle im Rahmen des Europarats bietet Fachwissen zu Fragen des Verfassungsrechts und der demokratischen Institutionen, wobei der Fokus auf bewährten Verfahren und Mindeststandards liegt.

Referenzen

Kettemann, Matthias C und Schulz, Wolfgang – Ground Rules for Platform Councils (https://graphite.page/platform-democracy-report/#read-full-article)

Matthias C. Kettemann, Prof. Dr. LL.M. (Harvard)

Forschungsgruppenleiter und Assoziierter Forscher: Globaler Konstitutionalismus und das Internet

Aktuelle HIIG-Aktivitäten entdecken

Forschungsthemen im Fokus

Das HIIG beschäftigt sich mit spannenden Themen. Erfahren Sie mehr über unsere interdisziplinäre Pionierarbeit im öffentlichen Diskurs.

Forschungsthema im Fokus Entdecken

Du siehst eine Tastatur auf der eine Taste rot gefärbt ist und auf der „Control“ steht. Eine bildliche Metapher für die Regulierung von digitalen Plattformen im Internet und Data Governance. You see a keyboard on which one key is coloured red and says "Control". A figurative metaphor for the regulation of digital platforms on the internet and data governance.

Data Governance

Wir entwickeln robuste Data-Governance-Rahmenwerke und -Modelle, um praktische Lösungen für eine gute Data-Governance-Politik zu finden.

HIIG Monthly Digest

Jetzt anmelden und  die neuesten Blogartikel gesammelt per Newsletter erhalten.

Weitere Artikel

Welche Skills braucht man heutzutage auf dem Arbeitsmarkt?

Im Wettlauf gegen die Maschinen: Skills für die Zukunft

Welche Skills brauchen Arbeitnehmer*innen, um mit dem wandelnden Arbeitsmarkt Schritt halten zu können? Die Untersuchung einer der weltweit größten Online-Freelancer-Plattformen gibt wichtige Einblicke.

Russische Online-Plattformen halten mit Amazon, Facebook und Co. mit

Wie russische Online-Plattformen mit den globalen Giganten konkurrieren

Russland ist eines der wenigen Länder, in denen inländische Online-Plattformen mit den US-Giganten mithalten können. Was können wir von ihnen lernen?

Fassade eines Bürohochhauses. Einige Büros sind blau und lila erhellt, andere sind dunkel. Dies symbolisiert das Dateninstitut

Wie wird das Dateninstitut gemeinwohlorientiert?

Das Dateninstitut soll das Datenökosystem koordinieren & Innovationen ermöglichen. (Wie) Kann das gemeinwohlorientiert ablaufen?