Zines zu verantwortungsvoller Content Moderation: Strengthening Trust
Auf Plattformen wie YouTube, Instagram oder TikTok werden täglich Millionen Inhalte daraufhin überprüft, ob sie gegen Regeln verstoßen – etwa durch Hassrede, Diskriminierung oder Desinformation. Diese Entscheidungen in der sogenannten Content Moderation entstehen im Zusammenspiel von menschlichen Moderator*innen und technischen Systemen. Doch wie genau funktioniert diese Zusammenarbeit zwischen Mensch und Maschine? Wer trägt hier die Verantwortung für faire Entscheidungen und Abreitsbedingungen? Und warum kommt es dabei immer wieder zu Fehlern?
Unsere Zines machen diese Moderationsprozesse sichtbar und nachvollziehbar. Sie richten sich an Studierende, Lehrende, Mitarbeitende zivilgesellschaftlicher Organisationen und politische Entscheidungsträger*innen, die ein grundlegendes Verständnis digitaler Plattformen mitbringen und tiefer in die Fragen fairer Content Moderation einsteigen möchten.
Elf Zines für nachvollziehbare Content Moderation
Die Zine-Reihe basiert auf einem Verhaltenskodex für Mensch-Maschine-Entscheidungsprozesse in der Content Moderation, der im Rahmen des Forschungsprojektes Human in the Loop? entwickelt wurde.
Den Einstieg bildet Zine 0, das eine allgemeine Einführung in das Thema Content Moderation bietet und die wichtigsten wiederkehrenden Begriffe in einem Glossar erläutert. Die darauf folgenden Zines 1 bis 10 widmen sich jeweils einem der zehn Codes des Verhaltenskodex.
In allen elf Kapiteln begleiten wir Ari, eine*n Content-Moderator*in, durch den Arbeitsalltag auf einer großen Plattform. Gemeinsam mit Ari wird erfahrbar, welche Aufgaben automatisierte Systeme übernehmen und wo menschliches Urteilsvermögen unverzichtbar bleibt, wo Risiken, Verzerrungen und Machtungleichheiten entstehen und welche strukturellen Voraussetzungen erfüllt sein müssen, damit Moderation fair und nachvollziehbar bleibt. Die Zines können als vollständige Reihe durchgearbeitet oder einzeln genutzt werden, wobei Zine 0 jeweils als Grundlage empfohlen wird.
Warum Zines?
Zines (ausgesprochen: “Siiines”, wie das Ende von Magazine im Englischen) sind Teil der Geschichte von Gegenkultur. Sie sind oftmals künstlerisch gestaltete, selbst publizierte kleine Formate, die in geringer Auflage gedruckt und gut verteilt werden können. Sie passen in jede Tasche und genau darum sollte es auch gehen, wenn es um die dominanten Diskurse unserer Gesellschaft geht. Wenn wir wollen, dass alle Beteiligten und Betroffenen mitsprechen können, dann muss das nötige Wissen auch für alle zugänglich sein.
Warum ist faire Content Moderation wichtig?
Content Moderation soll unsere Grundrechte im Internet schützen und digitale Plattformen so sicherer machen: Hassrede, Desinformation und schädliche Inhalte sollen deshalb erkannt und entfernt werden. Doch die Praxis ist weit komplexer. Automatisierte Systeme treffen Fehlentscheidungen, löschen legitime Inhalte oder übersehen problematische. Menschliche Moderator*innen sind oft überlastet, arbeiten unter belastenden Bedingungen und müssen in kürzester Zeit über Inhalte aus kulturellen Kontexten urteilen, die ihnen fremd sind. Dabei entstehen Verzerrungen, die bestimmte Gruppen und Sprachen systematisch benachteiligen. Wer entscheidet, was sichtbar bleibt und was gelöscht wird, hat erheblichen Einfluss auf öffentliche Kommunikation und gesellschaftliche Teilhabe. Daher ist es entscheidend, dass Moderationsprozesse fair, transparent und nachvollziehbar ablaufen. Faire Content Moderation ist keine rein technische Frage, sondern eine gesellschaftliche Aufgabe, die uns alle betrifft. Ein zentraler Ansatz ist die Entwicklung gemeinsamer Verhaltenskodizes, die Orientierung geben und Verantwortung im Zusammenspiel von Mensch und Maschine klarer verankern.
Anwendungskontext
Die Zines richten sich an alle, die sich mit digitaler Plattformregulierung, algorithmischer Entscheidungsfindung oder der Umsetzung von Verhaltenskodizes befassen. Sie eignen sich besonders als Vermittlungsmaterial in Workshops, Seminaren oder Schulungen, in denen komplexe Fragen rund um Content Moderation zugänglich und diskutierbar gemacht werden sollen. Ein grundlegendes Verständnis digitaler Plattformen und ihrer gesellschaftlichen Rolle wird dabei vorausgesetzt.
Sarah Spitz
Human in the Loop?
Diese Open Educational Resource ist unter der Lizenz Creative Commons Attribution 4.0 Licence veröffentlicht, welche eine freie Verwendung der Materialien unter Angabe des Urhebers ermöglicht.
Die Zines sind doppelseitig konzipiert. Diese Anleitung hilft euch, die Zines zu falten, um aus einem A4 Papier ein lesbares kleines Buch zu machen. Ihr könnt es jederzeit wieder öffnen, um auch die Übersichtsgrafik auf der Rückseite des Papiers zu lesen.
Das HIIG entwickelt kontinuierlich eine breite Palette an OER, darunter eine Redereihe zur digitalen Gesellschaft, einen Werkzeugkasten für Zukunftsdenken und mehrere Spiele.