Public Interest AI
Die Nutzung von künstlicher Intelligenz für das Gemeinwohl wird sowohl in politischen KI-Strategien, internationalen Richtlinien und staatlichen Fördermaßnahmen als auch in Projekten von wirtschaftlichen Unternehmen immer wieder als zentrales Ziel formuliert. Doch ob und vor allem wie die Gemeinwohlorientierung von KI-Anwendungen realisiert und überprüft werden kann, ist bislang unklar. Die Forschungsgruppe „Public Interest AI“ entwickelt ein operationalisierbares Verständnis von gemeinwohlorientierter KI, das es ermöglicht, Gemeinwohlorientierung KI-spezifisch zu definieren und in technischen Prototypen zu erproben. Mit diesem praxisnahen Forschungsansatz entwickelt das Forschungsteam ein beispielhaftes und auf andere KI-Anwendungen übertragbares Verständnis zur Beurteilung der Gemeinwohlorientierung. Dieses kann im Ergebnis sowohl als wichtiger Diskursbeitrag zur KI-Entwicklung in Europa fungieren sowie auch als praktische Umsetzungshilfe für KI-Entwickler*innen.
Promotionsprojekte
In drei Promotionsprojekten werden jeweils unterschiedliche Aspekte des Konzeptes von gemeinwohlorientierter KI erprobt.
In der ersten Doktorarbeit wird sich auf Prozesse für die Validierung gemeinwohlorientierter KI-Systeme durch öffentliche Akteur*innen und damit verbundener deliberativer Designprozesse konzentriert. Für das Projekt ist das Format der Design Patterns zentral, welches es ermöglicht, übertragbare Muster für gemeinwohlorientierte KI-Anwendungen zu erfassen und zur Verfügung zu stellen. Zur inhaltlichen Ausgestaltung der Design Patterns werden qualitative Fallstudien durchgeführt.
Das zweite Projekt untersucht die Rolle von Faktenchecks im öffentlichen Diskurs und, wie diese mit computergestützten Methoden unterstützt werden können. Dazu soll ein Theorierahmen über Behauptungen, die potentiell Desinformation enthalten, und ein Machine Learning Modell, das diese Art von Behauptungen automatisch klassifiziert, entwickelt werden. Zudem ist geplant, die Rezeption und Wirkung von Faktenchecks empirisch zu untersuchen.
Ein drittes PhD Projekt beschäftigt sich mit der automatisierten Vereinfachung von deutschsprachigen Texten. Ziel des Projektes ist neben dem rein wissenschaftlichen Impact, den Exklusionsfaktor für geringer literarisierte Bürger*innen zu minimieren. Der Fokus der technischen Arbeit liegt auf individuellen Teilkomponenten, die zu dem Ziel der Vollautomatisierung beitragen sollen. Die erste Teilkomponente im Projekt bezieht sich auf das Verhältnis zwischen Zusammenfassungen und Vereinfachungen.
| Laufzeit | Oktober 2020 – September 2024 |
| Finanzierung | Bundesministerium für Bildung und Forschung | FKZ 01IS20058 |
Theresa Züger, Dr.
Neues Open Talk Format
In unserer "Open Talk“ Reihe laden wir Expert*innen aus dem Bereich der gemeinwohlorientierten KI ein. Mit ihren unterschiedlichen Perspektiven aus Forschung und Praxis helfen sie uns, ganzheitliche Antworten auf den Einsatz von Künstlicher Intelligenz für das Gemeinwohl zu entwickeln.
Christopher RichterStudentischer Mitarbeiter: Public Interest AI
Daniel Cameron PothmannProjektmitarbeiter: Wissenstransfer | Public Interest AI
Ferdinand Bálint DorendorfStudentischer Mitarbeiter: AI & Society Lab
Freya HewettWissenschaftliche Mitarbeiterin: AI & Society Lab
Hadi Asghari, Dr.Wissenschaftlicher Mitarbeiter: AI & Society Lab
Irina KühnleinStudentische Mitarbeiterin: AI & Society Lab
Johanna Teresa WallenbornAssoziierte Forscherin: Wissen & Gesellschaft und SET
Judith FaßbenderWissenschaftliche Mitarbeiterin: AI & Society Lab
Sami NennoWissenschaftlicher Mitarbeiter: AI & Society Lab
Theresa Züger, Dr.Forschungsgruppenleiterin Public Interest AI | AI & Society Lab
-
Jakob Stolberg-LarsenEhem. Wissenschaftlicher Mitarbeiter: AI & Society Lab
Zeitschriftenartikel und Konferenzbeiträge
Asghari, H., Stolberg-Larsen, J., & Züger, T. (2022). Approximating Accessibility of Regions from Incomplete Volunteered Data. CHI EA '22: Extended Abstracts of the 2022 CHI Conference on Human Factors in Computing Systems, 1-6. DOI: 10.1145/3491101.3519706 Weitere Informationen
Züger, T., & Asghari, H. (2022). AI for the public. How public interest theory shifts the discourse on AI. AI & Society. DOI: 10.1007/s00146-022-01480-5 Weitere Informationen
Hewett, F. & Stede, M. (2022). Extractive Summarisation for German-language Data: A Text-level Approach with Discourse Features. Proceedings of the 29th International Conference on Computational Linguistics (COLING), 756-765. Weitere Informationen
Asghari, H. & Hewett, F. (2022). HIIG at GermEval 2022: Best of Both Worlds Ensemble for Automatic Text Complexity Assessment. Proceedings of the GermEval 2022 Workshop on Text Complexity Assessment of German Text, 15–20. Weitere Informationen
Asghari, H., van Biemen, Thomas, & Warnier, Martijn (2021). Amplifying Privacy: Scaling Up Transparency Research Through Delegated Access Requests. 5th Workshop on Technology and Consumer Protection (ConPro ’21). Weitere Informationen
Mahieu, R., Asghari, H., Parsons, C., van Hoboken, J., Crete-Nishihata, M., Hilts, A., & Anstis, S. (2021). Measuring the Brussels Effect through Access Requests: Has the European General Data Protection Regulation Influenced the Data Protection Rights of Canadian Citizens? Journal of Information Policy, 11, 301-349. DOI: 10.5325/jinfopoli.11.2021.0301 Weitere Informationen
Hewett, F., & Stede, M. (2021). Automatically evaluating the conceptual complexity of German texts. Proceedings of the 17th Conference on Natural Language Processing (KONVENS 2021), 228–234. Weitere Informationen
Buchbeiträge und Kapitel
Züger, T. (2021). The world we think is the world we get. In T. Bazzichelli, Whistleblowing for Change. Exposing Systems of Power & Injustice. Berlin, Germany: transcript. Weitere Informationen
Arbeitspapiere
Asghari, H., Birner, N., Burchardt, A., Dicks, D., Fassbender, J., Feldhus, N., Hewett, F., Hofmann, V., Kettemann, M. C., Schulz, W., Simon, J., Stolberg-Larsen, J., & Züger, T. (2022). What to explain when explaining is difficult. An interdisciplinary primer on XAI and meaningful information in automated decision-making. Humboldt Institute for Internet and Society. DOI: 10.5281/zenodo.6375784 Weitere Informationen
Züger, T., Faßbender, J., Kuper, F., Nenno, S., Katzy-Reinshagen, A., & Kühnlein, I. (2022). Civic Coding: Grundlagen und empirische Einblicke zur Unterstützung gemeinwohlorientierter KI. Civic Coding Initiative. Weitere Informationen
Andere Publikationen
Fassbender, J. (2022). Why explainable AI needs such a thing as Society. Digital society blog. Weitere Informationen
Nenno, S., & Richter, C. (2022). Sustainable AI – How environmentally friendly is AI really? Digital society blog. Weitere Informationen
Züger, T. (2022). A lion for sustainable AI: How to support a new standard for sustainability reporting? Digital society blog. Weitere Informationen
Nenno, S. (2021). Siri’s evil sister. When the Dutch public service steals your data. Digital society blog. Weitere Informationen
Hewett, F., & Stede, M. (2021). Lexica corpus, . Weitere Informationen
Hewett, F., & Nenno, S. (2021). How to identify bias in Natural Language Processing. Digital society blog. Weitere Informationen
Nenno, S. (2021). How to find the right survey tool:problems and proposals. Elephant in the Lab. Weitere Informationen
Vorträge
Seminar: Demystifying AI: Typologies to map AI-systems and datasets.. KISD - Köln International School of Design. KISD - Köln International School of Design, Cologne, Germany: 18.11.2022Judith Fassbender
Public Interest AIUNESCO Fachausschuss Kommunikation und Information. German Comission for UNESCO. UNESCO Fachausschuss Kommunikation und Information, Brussels, Belgium: 15.11.2022 Weitere Informationen
Theresa Züger
Was bedeutet Transparenz für KI-Systeme?ZVKI Fachforum. iRights.Lab. Online, Berlin, Germany: 10.11.2022 Weitere Informationen
Theresa Züger
Digital tools for text simplificationSeminar “Sprache als Schwelle zur Kunst? Kunstvermittlung und Konzepte einfacher und leichter Sprache”. Kunsthalle Osnabrück. Online, Osnabrück, Germany: 09.11.2022
Freya Hewett
Civic Coding – KI für das Gemeinwohl nutzenCivic Coding – KI für das Gemeinwohl nutzen. Bundesministerium für Arbeit und Soziales. Impact HUB Berlin, Berlin, Germany: 18.10.2022 Weitere Informationen
Theresa Züger, Judith Fassbender, Freia Kuper
Design Patterns – Prozessformate für eine verantwortungsvolle Umsetzung von KI-SystemenKI-Lab. The Policy Lab Digital, Work & Society of the Federal Ministry of Labour and Social Affairs. KI-Lab of the Policy Lab Digital, Work & Society of the Federal Ministry of Labour and Social Affairs, Berlin, Germany: 30.09.2022
Judith Fassbender
Poster Pitch: Are AI standardisation processes inclusive enough to deliver tech that works for everyone?European Think Tank Conference 2022. German Council on Foreign Relations (DGAP). European Think Tank Conference 2022, Berlin, Germany: 20.09.2022 Weitere Informationen
Hadi Asghari
Approximating Accessibility of Regions from Incomplete Volunteered DataCHI EA '22. Association of Computing Machinery. Online, New Orleans, USA: 03.05.2022 Weitere Informationen
Hadi Asghari
Seminar: Programmatische Autonomie: Künstliche Intelligenz und selbstfahrende Autos (Session: Lecture: Künstliche Intelligenz?). University of Potsdam: Prof. Dr. Jan Distelmeyer. Potsdam University, Potsdam, Germany: 03.05.2022Theresa Züger
PhD Workshop on Artificial Intelligence and Machine Learning research and DemocracyPhD Workshop on Artificial Intelligence and Machine Learning research and Democracy. University of Tübingen. University of Tübingen, Tübingen, Germany: 02.04.2022 Weitere Informationen
Judith Fassbender
Particles of a whole: design patterns for transparent and auditable AI-systemsUbiComp '21: The 2021 ACM International Joint Conference on Pervasive and Ubiquitous Computing (Session: Particles of a whole: design patterns for transparent and auditable AI-systems). UbiComp. Online, New York, USA: 25.09.2021 Weitere Informationen
Judith Faßbender
Automatically evaluating the conceptual complexity of German textsKONVENS 2021 (Session: Automatically evaluating the conceptual complexity of German texts). German Society for Computational Linguistics and Language Technology, the Special Interest Group on Computational Linguistics of the German Linguistic Society and the Austrian Society for Artificial Intelligence. Heinrich-Heine-Universität Düsseldorf, Düsseldorf, Germany: 09.09.2021 Weitere Informationen
Freya Hewett
AI with Volunteering CommunitiesThe 3rd Workshop on Artificial Intelligence for Social Good (Session: AI with Volunteering Communities). International Joint Conferences on Artificial Intelligence, Montreal, Canada: 21.08.2021 Weitere Informationen
Stolberg-Larsen, J.
Amplifying Privacy: Scaling Up Transparency Research Through Delegated Access Requests5th Workshop on Technology and Consumer Protection (ConPro ’21) (Session: Amplifying Privacy: Scaling Up Transparency Research Through Delegated Access Requests). ConPro ’21. Online, San Francisco, USA: 27.05.2021 Weitere Informationen
Hadi Asghari
AI in the public interest: What does this mean and how can be build it?Gesellschaft für Informatik: #KICamp21. Gesellschaft für Informatik e.V.. Online, Berlin, Germany: 24.02.2021 Weitere Informationen
Theresa Züger, Hadi Asghari, Freya Hewett, Judith Fassbender, Jakob Stolberg-Larsen
Panels
Künstliche Intelligenz + Gemeinwohl = ?Die dima und du! Dein Zukunftsassistent lädt ... ein!. Projektmitarbeiterin der Digitalen Manufaktur (dima) Stadt Aschaffenburg. JUKUZ - Jugendkulturzentrum Aschaffenburg, Aschaffenburg, Germany: 28.10.2022 Weitere Informationen
Theresa Züger
The Future of War: Drone Surveillance, Killer Robots & Lethal AI WeaponsDNL26: The Kill Cloud: Networked Warfare, Drone & AI. Disruption Network Lab. Kunstquartier Bethanien, Berlin, Germany: 25.03.2022 Weitere Informationen
Theresa Züger
Wie vermitteln wir Wissen über KI an die Bevölkerung?Auftaktveranstaltung: Zentrum für vertrauenswürdige Künstliche Intelligenz. iRights.Lab, Berlin, Germany: 07.12.2021 Weitere Informationen
Theresa Züger
Young activists & human rights in a digital ageFundamental Rights Forum. Online, Fundamental Rights Forum, Warsaw, Poland: 11.10.2021 Weitere Informationen
Theresa Züger
Gemeinwohlorientiert = Gemeinnützig? Unternehmen und gemeinwohlorientierte KIre:publica 21. Im Internet, Berlin, Germany: 21.05.2021 Weitere Informationen
Theresa Züger
Moderation von Workshops und Panels
Automatisation and autonomyInfrastructures of Autonomy. Humboldt Institute for Internet and Society, Brandenburg Center for Media Studies. Humboldt Institute for Internet and Society, Berlin, Germany: 24.11.2022 Weitere Informationen
Hadi Asghari
Organisation von Veranstaltungen
Sustainable AI IIwith attending Vip: Lynn Kaack. 14.06.2022. Humboldt Institute for Internet and Society, Berlin, Germany (National)
Sami Nenno, Theresa Züger
AI and the Public Interest13.06.2022. Humboldt Institute for Internet and Society, Berlin, Germany (International) Weitere Informationen
Hadi Asghari, Sami Nenno, Freya Hewett, Judith Faßbender, Theresa Züger
AI & Society Lab (AI & Society Lab)Study week of the ZHAW: "Der Mensch im digitalen Zeitalter". 05.05.2022. Humboldt Institute for Internet and Society, Berlin, Germany. Co-Organised by: ZHAW (International)
Sami Nenno, Judith Faßbender, Theresa Züger
Sustainable AIwith attending Vip: Friederike Rohde. 29.04.2022. Humboldt Institute for Internet and Society, Berlin, Germany (National)
Sami Nenno, Theresa Züger
Open Talk with Alex C. Engler: Algorithmic Services in the German GovernmentOpen Talk. with attending Vip: Alex C. Engler. 01.04.2022. online, Berlin, Germany (International) Weitere Informationen
Open Talk with Anna Mätzener: Automatic Decision Making Systems
Open Talk Series. with attending Vip: Anna Mätzener. 20.03.2022. online, Berlin, Germany (International) Weitere Informationen
Open Talk with Dr. Stephan Dreyer: Public Service media & Public Value
Open Talk Series. with attending Vip: Dr. Stephan Dreyer. 11.03.2022. online, Berlin, Germany (International) Weitere Informationen
Open Talk with Julia Gundlach: Algorithms for the common good
Open Talk Series. with attending Vip: Julia Gundlach. 10.02.2022. online, Berlin, Germany (International) Weitere Informationen
Research Clinic: Explainable AI
From 08.09.2021 to 12.09.2021. Humboldt Institute for Internet and Society, Berlin, Germany (National) Weitere Informationen
Digitaler Salon: KI – Die Letzte räumt das Internet auf
31.03.2021. Livestream, Berlin, Deutschland (National) Weitere Informationen
Natasha Vukajlovic, Philip Meier, Christian Grauvogel
Funktionen
Research Clinic Europe – Platform://Democracy.Theresa Züger
Think Tank School of the German Council on Foreign Relations.Hadi Asghari, Theresa Züger