Zum Inhalt springen
veronica-benavides-W6NGECt_yE4-unsplash

Public Interest AI

Die Nutzung von künstlicher Intelligenz für das Gemeinwohl wird sowohl in politischen KI-Strategien, Richtlinien und staatlichen Fördermaßnahmen als auch in Projekten von wirtschaftlichen Unternehmen immer wieder als zentrales Ziel formuliert. Doch ob und vor allem wie die Gemeinwohlorientierung von KI-Anwendungen realisiert und überprüft werden kann, ist bislang unklar. Die Forschungsgruppe „Public Interest AI“ entwickelt daher ein operationalisierbares Analyseverfahren, das es ermöglicht, Gemeinwohlorientierung zu definieren und auf drei Ebenen zu beurteilen: auf einer argumentativen Ebene, auf der Ebene der technischen Umsetzung der KI und auf der Ebene der Usability von KI im Anwendungskontext.

Um die praktische Umsetzbarkeit dieses Konzeptes zu veranschaulichen, werden wir zwei Prototypen einer Public Interest AI entwickeln. Ein erster Prototyp beschäftigt sich auf Basis von Computer-Vision mit der automatisierten Erkennung von Barrierefreiheit. Der zweite technische Prototyp beschäftigt sich auf Basis von Natural Language Processing mit der automatischen Vereinfachung von deutschen Texten, um den Exklusionsfaktor für geringer literarisierte Bürger*innen zu minimieren.

Ein drittes Forschungsprojekt beschäftigt sich mit der Entwicklung eines Design Frameworks zur Umsetzung von gemeinwohlorientierten KI-Anwendungen mit einem besonderem Fokus auf User*innen in ihrer Rolle als Bürger*innen. Über die Zusammenarbeit mit gemeinnützigen Projektpartnern werden Praxisfälle herangezogen, die der Forschungsgruppe zur Erprobung des Analyseverfahrens dienen. Mit diesem praxisnahen Forschungsansatz entwickelt das Forschungsteam einen beispielhaften und auf andere KI-Anwendungen übertragbaren Anforderungskatalog zur Beurteilung der Gemeinwohlorientierung. Dieser kann im Ergebnis sowohl als wichtiger Diskursbeitrag zur KI-Entwicklung in Europa fungieren sowie auch als praktische Umsetzungsleitlinie für KI-Entwickler*innen.

 

LaufzeitOktober 2020 – September 2024
FinanzierungBundesministerium für Bildung und Forschung  | FKZ 01IS20058

Kontakt

Theresa Züger, Dr.

Forschungsprojektleiterin Public Interest AI | Co-Projektleitung AI & Society Lab