Digitalisierung für das Gemeinwohl

Twentytyforty ist ein Experiment, das neue Wege zur Übersetzung wissenschaftlicher Erkenntnisse ins Storytelling erforschen soll. Nur so können wir erreichen, ihre gesellschaftlichen Implikationen zur Debatte zu stellen und ihre Erkenntnisse für die Konstruktion der Welt von morgen nutzbar zu machen.

In diesem Artikel problematisiert Prof. Dr. Riika Koulo die Verwendung von Anwendungen der algorithmischen Entscheidungsfindung (ADM) zur Automatisierung rechtlicher Entscheidungsprozesse aus der Perspektive der Politik der Europäischen Union (EU) in Bezug auf vertrauenswürdige künstliche Intelligenz (KI).

Die Beiträge dieses Bandes versammeln programmatische Positionen, welche zentrale Aspekte und Perspektiven der sozialwissenschaftlichen Digitalisierungsforschung darstellen und diskutieren. Hierzu zählen u.a. Forschungsfelder aus den Bereichen Partizipations- und Parteienforschung, Governance der Digitalisierung, methodische Reflexionen über Computational Social Science und die Analyse von Demokratie und Öffentlichkeit unter den Bedingungen der Digitalisierung.

In diesem Weißbuch wird erläutert, wie und warum Rechnungsprüfungen, eine besondere Art von Transparenzmaßnahme, im Rahmen der vier klaren Grundsätze der Unabhängigkeit, des Zugangs, der Öffentlichkeit und der Ressourcen gesetzlich vorgeschrieben werden sollten. Anschließend werden die Arten von Transparenz erläutert und anschließend die Prüfungen in diesem Rahmen in einen Kontext gestellt, wobei auch Risiken und Vorteile beschrieben werden. Das Weißbuch schließt mit der Erläuterung der vier Prinzipien, wie sie aus den vorangegangenen Abschnitten abgeleitet sind.

Dominante Social-Media-Plattformen nutzen zunehmend Automatisierung und KI, um problematische Inhalte zu finden und zu entfernen. Während dies dazu beiträgt, einige der schlimmsten Inhalte an der Verbreitung im Internet zu hindern, kann die algorithmische Moderation von Inhalten Inhalte löschen, die nicht gelöscht werden sollten (Überblockierung) oder Minderheiten diskriminieren. Entscheidend ist, dass die Plattformen nur sehr wenig Transparenz darüber bieten, wie die algorithmische Inhaltsmoderation funktioniert, wie genau ihre Technologien vermutlich sind und wie viele Inhalte sie entfernen, insbesondere ohne menschliche Überprüfung.

Dieses Kurzdossier wurde unter Mitwirkung eines interdisziplinären Teams von Experten aus den Bereichen Rechtswissenschaft, Politikwissenschaft, Soziologie und Ingenieurwesen entwickelt. Es zielt darauf ab, Gesetzgeber und Entscheidungsträger über die Risiken zu informieren, die sich aus der Verbreitung der algorithmischen Inhaltsmoderation ergeben, sowie über die Notwendigkeit eines proaktiveren regulatorischen Ansatzes der Staaten im Hinblick auf die Steuerung von Inhaltsmoderationssystemen, die von Online-Plattformen eingesetzt werden, die eine digitale Infrastruktur für den öffentlichen Diskurs bereitstellen.