Künstliche Intelligenz mit Sinn: Wie sieht die Landschaft gemeinwohlorientierter KI aus?

Wie kann Künstliche Intelligenz sinnvoll für das Gemeinwohl eingesetzt werden? Die Forschungsgruppe Public Interest AI hat einen Datensatz entwickelt, der KI-Projekte dokumentiert, die nicht auf Profit, sondern auf gesellschaftliche Zwecke ausgerichtet sind. Der Datensatz umfasst eine Vielzahl von Projekten in Bereichen wie Umweltschutz, Gesundheit, Bildung, soziale Gerechtigkeit und politische Teilhabe. Damit liefert er Forschenden und der Gesellschaft wertvolle Einblicke in die praktische Anwendung von KI für das Gemeinwohl. Der Artikel beschreibt, wie dieser Datensatz entwickelt wurde, welche Informationen er enthält und wie er dabei helfen kann, gemeinwohlorientierte KI-Projekte besser zu verstehen und weiterzuentwickeln. Doch wie lässt sich der langfristige Einfluss dieser Projekte messen und ihr konkreter Mehrwert für die Gesellschaft bewerten? 

Was ist gemeinwohlorientierte KI?

Die Herausforderung, gemeinwohlorientierte KI zu definieren, liegt darin, dass das Konzept des Gemeinwohls stark von den jeweiligen sozialen und politischen Rahmenbedingungen abhängt. Im Forschungsprojekt Public Interest AI verstehen wir unter Gemeinwohl jene Ergebnisse, die nach einer Definition von Barry Bozeman „dem langfristigen Überleben und Wohlergehen eines Kollektivs, verstanden als Öffentlichkeit“ dienen (Bozeman, 2007). In diesem Kontext geht es bei der Entwicklung von KI-Anwendungen nicht um private oder kommerzielle Interessen, wie etwa die Maximierung von Profiten, sondern um das Wohl der Gemeinschaft als Ganzes. Während Anwendungen wie ChatGPT oder DALL-E in erster Linie darauf ausgerichtet sind, Dienstleistungen für Einzelpersonen oder Unternehmen bereitzustellen, setzen gemeinwohlorientierte KI-Projekte ihre Technologien gezielt ein, um gesellschaftliche Herausforderungen zu adressieren. Durch KI-gestützte Diagnose-Tools oder intelligente Umweltüberwachungssysteme versuchen sie zum Beispiel den gleichberechtigten Zugang zu Informationen zu verbessern oder den Klimawandel zu bekämpfen und so positiven Einfluss zu nehmen.

Das EU-geförderte Projekt SEACLEAR beispielsweise versucht, eine Lösung zu entwickeln, mit welcher Müll automatisiert vom Meeresboden gesammelt werden kann. Dafür nutzen die Entwickler*innen verschiedene technologische Ansätze, unter anderem auch den Einsatz von Robotik und Künstlicher Intelligenz. Das KI-System soll unter anderem dazu genutzt werden, die Areale, in denen Müll unter Wasser liegt, zu identifizieren.

Ein weiteres gemeinwohlorientiertes KI-Tool, welches den gleichberechtigteren Zugang zu Informationen fördert, ist Simba. Die vom HIIG entwickelte Anwendung hilft, Sprachbarrieren im Netz zu senken. Simba umfasst eine Internet-App zur Vereinfachung eigener Texte sowie eine Browser-Erweiterung, die Online-Texte automatisch zusammenfasst und vereinfacht. Ziel ist es, komplexe Sprache insbesondere für Menschen mit Lernschwierigkeiten oder geringen Deutschkenntnissen verständlicher zu machen. Im Unterschied zu bisherigen Angeboten ist Simba frei verfügbar, quelloffen und bewusst nicht-kommerziell konzipiert.

Andere Public Interest AI-Projekte können beispielsweise in Form gemeinnütziger Organisationen ihre Geschäftsmodelle verfolgen. Allerdings zeigt unsere Forschung, dass das Streben nach Profit in der Praxis oft mit den Zielen des Gemeinwohls in Konflikt geraten kann oder zumindest Spannungsverhältnisse erzeugt.  Weiterführende Überlegungen zu den theoretischen Grundlagen des „Gemeinwohl“-Begriffs und der Verbindung zu KI-Anwendungen haben Forschungsgruppenleiterin Theresa Züger und Hadi Asghari vom HIIG in diesem Artikel zusammengefasst. Eine Übersicht über die wichtigsten Prinzipien findet sich auch auf der Website der Forschungsgruppe.

Warum sind die von uns gesammelte Daten wichtig?

Der Einsatz von Künstlicher Intelligenz für gesellschaftliche Zwecke – oft unter Begriffen wie „AI for Good“, “AI for public interest” oder „AI for social good“ diskutiert – nimmt stetig zu und erfährt mehr und mehr Aufmerksamkeit im öffentlichen Diskurs. Große Akteure wie Google, Microsoft und staatliche Institutionen investieren zunehmend in KI für das Gemeinwohl: Google vergab 2021 die AI for Social Good Awards, das Bundesumweltministerium förderte mit dem Programm KI-Leuchttürme für Umwelt, Klima, Natur und Ressourcen gezielt nachhaltige KI-Projekte, und Microsoft betreibt ein eigenes AI for Good Lab.

Trotz dieser Initiativen fehlte bislang eine detaillierte und strukturierte Übersicht zu sogenannten Public Interest AI-Projekten. Diese ist dringend notwendig, um sich ein Bild der aktuellen Landschaft gemeinwohlorientierter KI-Anwendungen machen zu können und deren tatsächliche Wirkung, Potentiale und Chancen systematisch zu verstehen. Ohne eine strukturierte Erfassung bleibt unklar, welche gesellschaftlichen Herausforderungen bereits mit KI adressiert werden, welche Technologien dabei zum Einsatz kommen und wo noch Bedarfe bestehen. Wie also kann eine bessere Vernetzung von Akteur*innen und Sichtbarkeit dieser Projekte erreicht werden?

Lücken schließen

Um diese Lücken in der Praxis gemeinwohlorientierter KI-Projekte zu schließen, haben wir im Forschungsteam Public Interest AI zwischen 2022 und Ende 2024 einen umfassenden Datensatz entwickelt. Er stellt die von uns gesammelten detaillierten Informationen zu Projekten frei zur Verfügung. Mit ihm können Entwicklungen über Zeit verfolgt, Erfolgsfaktoren identifiziert und Akteur*innen untereinander vernetzt werden. Zudem hilft diese umfassende Datengrundlage, fundierte politische und wissenschaftliche Entscheidungen zu treffen, um gemeinwohlorientierte KI gezielt zu fördern und weiterzuentwickeln. 

Eine umfassende Datengrundlage über Projekte stellt die Voraussetzung dafür dar, sich über Entwicklungen, Herausforderungen und auch Potentiale des Einsatzes von KI für das Gemeinwohl auszutauschen. Durch dieses Hintergrundwissen kann eine nachhaltige Landschaft von gemeinwohlorientierten KI-Projekten besser verstanden und unterstützt werden. Der bereitgestellte Datensatz soll Forschende als auch Policy-Akteure in diesem Bereich eine bessere Übersicht und detaillierten Datenzugang ermöglichen. Zudem erhoffen wir uns, dass der Datensatz dazu beiträgt, weitere gemeinwohlorientierte KI-Projekte zu identifizieren und so das Feld der gemeinwohlorientierten besser zu verstehen und auch Austausch zwischen Projekten möglich zu machen.

Welche KI-Projekte werden erfasst – und warum?

Erfasst werden Anwendungen, die auf gesellschaftlichen Nutzen ausgerichtet sind und nicht primär privaten oder kommerziellen Interessen folgen. Jedes Projekt im Datensatz entwickelt gemeinwohlorientierte KI oder setzt KI für das Gemeinwohl ein. Wichtig ist hier zu beachten, dass der Datensatz keine repräsentative Stichprobe von gemeinwohlorientierten KI-Projekten ist. Es handelt sich jedoch um die größte uns bekannte Sammlung von KI-Projekten für das Gemeinwohl.

Um die Projekte systematisch zu erfassen, werden ihre Informationen in 14 verschiedene Merkmalen strukturiert. Einige dieser Merkmale sind kategorisiert, andere werden unkategorisiert erfasst. Kategorien sind beispielsweise der Projektstandort, die verwendete KI-Technologie, die Profit-Ausrichtung (for profit oder non-profit), die projektverantwortliche Institution und der Aktivitätsstatus des Projekts.

Ein zentraler Aspekt ist außerdem die Verknüpfung mit den Sustainable Development Goals (SDGs) der Vereinten Nationen: Jedes Projekt wird im Vier-Augen-Prinzip mindestens einem passenden SDG zugeordnet – und wenn es mehrere Ziele unterstützt, entsprechend mehrfach erfasst. Die Agenda 2030 mit ihren 17 Zielen für nachhaltige Entwicklung wurde festgelegt, mit dem Anspruch, weltweit Armut zu bekämpfen, den Planeten zu schützen und Wohlstand für alle zu fördern. Zu den konkreten Zielen zählen unter anderem die Förderung von Gesundheit und Wohlergehen, hochwertiger Bildung, Geschlechtergleichheit, Maßnahmen zum Klimaschutz und für Frieden, Gerechtigkeit und stärkere Institutionen.

Das bereits erwähnte Projekt SEACLEAR trägt zum 14. Nachhaltigkeitsziel der Vereinten Nationen „Leben unter Wasser“ bei und wurde deshalb entsprechend zugeordet. Es adressiert insbesondere das Teilziel 14.1, das die Reduzierung der Meeresverschmutzung zum Ziel hat. Auch das Projekt SIMBA lässt sich einem UN-Nachhaltigkeitsziel zuordnen: Nummer 10 ‘Weniger Ungleichheiten’. Denn komplizierte Sprache kann für viele Menschen eine unsichtbare Barriere darstellen. Indem Simba Texte in einfache Sprache überträgt, fördert es den gleichberechtigten Zugang zu Informationen. Damit leistet es einen wichtigen Beitrag zu Teilziel 10.3, das auf Chancengleichheit und den Abbau von Diskriminierung abzielt. 

Eine weitere Kategorie des Datensatzes gibt Aufschluss über die Art der eingesetzten KI-Technologie. Dabei kommen unter anderem Computer Vision, Machine Learning (ML) und Natural Language Processing (NLP) als Klassifizierungen zum Einsatz. So nutzt das Projekt SEACLEAR etwa Computer Vision, um Müll im Wasser zu lokalisieren – entsprechend wurde diese Technologie zugeordnet. In der Anwendung Simba wiederum wird NLP eingesetzt, um Texte automatisch zu vereinfachen.

Wenn Projekte eigene Angaben zur verwendeten Technologie gemacht haben, wurden diese übernommen. In den vielen Fällen, in denen solche Informationen fehlten, erfolgte die Zuordnung auf Grundlage der Projektbeschreibung – also anhand dessen, was die jeweilige Anwendung konkret leistet. Die technische Expertise von Hadi Asghari war hierfür sehr von Vorteil. Darüber hinaus erfasste Merkmale sind u.a. die Finanzierung, der Standort, die verantwortliche Institution, ein Link zur Website des Projektes, sowie eine kurze Projektbeschreibung. Eine detaillierte Beschreibung für jedes Merkmal findet sich im “ReadMe” des Datensatzes. Zum Teil ist der Datensatz noch lückenhaft, da nicht immer alle benötigten Informationen zu den Projekten verfügbar waren.

Wie wurden die Daten erfasst?

Die bisher aufgenommenen Projekte wurden mithilfe von zwei methodischen Ansätzen erfasst:

Netzwerkbasierte Methode

Der erste Ansatz zur Identifizierung passender Projekte basierte auf einer netzwerkgestützten Suchmethode (im Datensatz als „Netzwerksuche“ bezeichnet). Dabei wurden berufliche Netzwerke sowie gezielte Recherchen der Forschungsgruppe genutzt, um Hinweise auf relevante KI-Projekte zu sammeln. Jedes gefundene Projekt wurde anschließend mit der zuvor definierten Minimaldefinition von Public Interest AI abgeglichen und mit verschiedenen Merkmalen im Datensatz erfasst. Da es bislang keine umfassende Sammlung solcher Projekte gibt, erwies sich dieser Ansatz als die effektivste und verlässlichste Methode, um gemeinwohlorientierte KI-Anwendungen systematisch zu dokumentieren.

Strukturierte webbasierte Methode

Der zweite Zugang zu Projekten erfolgte über eine strukturierte webbasierte Suchmethode. Zunächst erfolgte eine Abfrage mit einem vordefinierten Satz von Suchbegriffen in einer Online-Suchmaschine. Die ersten 20 Suchergebnisse wurden systematisch überprüft. Anschließend wurden für jedes Ergebnis die Hyperlinks innerhalb der identifizierten Seiten bis zu einer Tiefe von zwei Ebenen verfolgt. Jede Seite in dieser Tiefe wurde nach relevanten Projekten durchsucht, die in diesem Datensatz dokumentiert sind. Eine Verzerrung der Suchergebnisse durch Personalisierung wurde bestmöglich versucht zu reduzieren. Dafür wurden die Suchanfragen in einem neuen Browserfenster im Inkognito-Modus ohne angemeldetes Profil und unter Ablehnung von Cookies durchgeführt. Wir sind uns bewusst, dass die Ergebnisse dennoch nicht replizierbar sind, da das Gerät, von dem man darauf zugreift, sowie der eigene Standort trotzdem  Einfluss auf die Suchergebnisse nehmen. Diese Bedingungen können nicht so kontrolliert werden, dass eine Replizierbarkeit sichergestellt ist.   

Wie geht es weiter?

Der Datensatz steht unter einer CC-BY-Lizenz auf Hugging Face zum Download bereit und wächst kontinuierlich weiter. Projekte, die KI für das Gemeinwohl entwickeln oder einsetzen, können durch externe Vorschläge oder durch direkte Einreichung relevanter Informationen durch die Projektteams selbstständig hinzugefügt werden.

Eine Aufnahme in den Datensatz bietet den Projekten mehrere Vorteile: Sichtbarkeit innerhalb eines globalen Netzwerks von Akteur*innen, die sich für gemeinwohlorientierte KI einsetzen, bessere Vernetzungsmöglichkeiten mit ähnlichen Initiativen sowie die Chance, dass Forschende, Förderinstitutionen oder politische Entscheidungsträger*innen auf das Projekt aufmerksam werden. Projekte, die den detaillierten Fragebogen ausfüllen, erscheinen auf der globalen Public Interest AI Map, die eine zentrale Übersicht über gemeinwohlorientierte KI-Projekte bietet.

Je vollständiger und vielfältiger die erfassten Projekte sind, desto besser lässt sich das Feld der gemeinwohlorientierten KI verstehen und desto gezielter können Potenziale gefördert und Herausforderungen adressiert werden. Der Datensatz ist ein erster Schritt, um die Landschaft dieser Technologien sichtbarer zu machen.

Referenzen

Bozeman, B. (2007). Public values and public interest counterbalancing economic individualism. Georgetown University Press.