Public Interest AI
Die Nutzung von künstlicher Intelligenz für das Gemeinwohl wird sowohl in politischen KI-Strategien, internationalen Richtlinien und staatlichen Fördermaßnahmen als auch in Projekten von wirtschaftlichen Unternehmen immer wieder als zentrales Ziel formuliert. Doch ob und vor allem wie die Gemeinwohlorientierung von KI-Anwendungen realisiert und überprüft werden kann, ist bislang unklar. Die Forschungsgruppe „Public Interest AI“ entwickelt ein operationalisierbares Verständnis von gemeinwohlorientierter KI, das es ermöglicht, Gemeinwohlorientierung KI-spezifisch zu definieren und in technischen Prototypen zu erproben. Mit diesem praxisnahen Forschungsansatz entwickelt das Forschungsteam ein beispielhaftes und auf andere KI-Anwendungen übertragbares Verständnis zur Beurteilung der Gemeinwohlorientierung. Dieses kann im Ergebnis sowohl als wichtiger Diskursbeitrag zur KI-Entwicklung in Europa fungieren sowie auch als praktische Umsetzungshilfe für KI-Entwickler*innen.
Promotionsprojekte
In drei Promotionsprojekten werden jeweils unterschiedliche Aspekte des Konzeptes von gemeinwohlorientierter KI erprobt.
In der ersten Doktorarbeit wird sich auf Prozesse für die Validierung gemeinwohlorientierter KI-Systeme durch öffentliche Akteur*innen und damit verbundener deliberativer Designprozesse konzentriert. Für das Projekt ist das Format der Design Patterns zentral, welches es ermöglicht, übertragbare Muster für gemeinwohlorientierte KI-Anwendungen zu erfassen und zur Verfügung zu stellen. Zur inhaltlichen Ausgestaltung der Design Patterns werden qualitative Fallstudien durchgeführt.
Das zweite Projekt untersucht die Rolle von Faktenchecks im öffentlichen Diskurs und, wie diese mit computergestützten Methoden unterstützt werden können. Dazu soll ein Theorierahmen über Behauptungen, die potentiell Desinformation enthalten, und ein Machine Learning Modell, das diese Art von Behauptungen automatisch klassifiziert, entwickelt werden. Zudem ist geplant, die Rezeption und Wirkung von Faktenchecks empirisch zu untersuchen.
Ein drittes PhD Projekt beschäftigt sich mit der automatisierten Vereinfachung von deutschsprachigen Texten. Ziel des Projektes ist neben dem rein wissenschaftlichen Impact, den Exklusionsfaktor für geringer literarisierte Bürger*innen zu minimieren. Der Fokus der technischen Arbeit liegt auf individuellen Teilkomponenten, die zu dem Ziel der Vollautomatisierung beitragen sollen. Die erste Teilkomponente im Projekt bezieht sich auf das Verhältnis zwischen Zusammenfassungen und Vereinfachungen.
| Laufzeit | Oktober 2020 – September 2024 |
| Finanzierung | Bundesministerium für Bildung und Forschung | FKZ 01IS20058 |
Theresa Züger, Dr.
Es mangelt an Informationen über KI-Projekte, die im Sinne des öffentlichen Interesse handeln. Unsere neue interaktive Weltkarte fördert die Erforschung solchen Initiativen, zeigt ihr Selbstverständnis auf und stellt ihre Daten öffentlich zur Verfügung.
Neues Open Talk Format
In unserer "Open Talk“ Reihe laden wir Expert*innen aus dem Bereich der gemeinwohlorientierten KI ein. Mit ihren unterschiedlichen Perspektiven aus Forschung und Praxis helfen sie uns, ganzheitliche Antworten auf den Einsatz von Künstlicher Intelligenz für das Gemeinwohl zu entwickeln.
Christopher RichterStudentischer Mitarbeiter: Public Interest AI
Daniel PothmannProjektmitarbeiter: Wissenstransfer | Public Interest AI
Freya HewettWissenschaftliche Mitarbeiterin: AI & Society Lab
Hadi Asghari, Dr.Wissenschaftlicher Mitarbeiter: AI & Society Lab
Irina KühnleinStudentische Mitarbeiterin: AI & Society Lab
Johanna Teresa WallenbornAssoziierte Forscherin: Wissen & Gesellschaft und SET
Judith FaßbenderWissenschaftliche Mitarbeiterin: AI & Society Lab
Sami NennoWissenschaftlicher Mitarbeiter: AI & Society Lab
Theresa Züger, Dr.Leiterin AI & Society Lab & Forschungsgruppe Public Interest AI
-
Ferdinand Bálint DorendorfEhem. Studentischer Mitarbeiter: AI & Society Lab -
Jakob Stolberg-LarsenEhem. Wissenschaftlicher Mitarbeiter: AI & Society Lab
Zeitschriftenartikel und Konferenzbeiträge
Asghari., H., Hewett, F., & Züger, T. (2023). On the Prevalence of Leichte Sprache on the German Web. ACM WebSci ’23 Conference Proceedings, 147-152. DOI: 10.1145/3578503.3583599 Weitere Informationen
Asghari, H., Stolberg-Larsen, J., & Züger, T. (2022). Approximating Accessibility of Regions from Incomplete Volunteered Data. CHI EA '22: Extended Abstracts of the 2022 CHI Conference on Human Factors in Computing Systems, 1-6. DOI: 10.1145/3491101.3519706 Weitere Informationen
Züger, T., & Asghari, H. (2022). AI for the public. How public interest theory shifts the discourse on AI. AI & Society. DOI: 10.1007/s00146-022-01480-5 Weitere Informationen
Hewett, F. & Stede, M. (2022). Extractive Summarisation for German-language Data: A Text-level Approach with Discourse Features. Proceedings of the 29th International Conference on Computational Linguistics (COLING), 756-765. Weitere Informationen
Asghari, H. & Hewett, F. (2022). HIIG at GermEval 2022: Best of Both Worlds Ensemble for Automatic Text Complexity Assessment. Proceedings of the GermEval 2022 Workshop on Text Complexity Assessment of German Text, 15–20. Weitere Informationen
Asghari, H., van Biemen, Thomas, & Warnier, Martijn (2021). Amplifying Privacy: Scaling Up Transparency Research Through Delegated Access Requests. 5th Workshop on Technology and Consumer Protection (ConPro ’21). Weitere Informationen
Mahieu, R., Asghari, H., Parsons, C., van Hoboken, J., Crete-Nishihata, M., Hilts, A., & Anstis, S. (2021). Measuring the Brussels Effect through Access Requests: Has the European General Data Protection Regulation Influenced the Data Protection Rights of Canadian Citizens? Journal of Information Policy, 11, 301-349. DOI: 10.5325/jinfopoli.11.2021.0301 Weitere Informationen
Hewett, F., & Stede, M. (2021). Automatically evaluating the conceptual complexity of German texts. Proceedings of the 17th Conference on Natural Language Processing (KONVENS 2021), 228–234. Weitere Informationen
Buchbeiträge und Kapitel
Züger, T. (2021). The world we think is the world we get. In T. Bazzichelli, Whistleblowing for Change. Exposing Systems of Power & Injustice. Berlin, Germany: transcript. Weitere Informationen
Arbeitspapiere
Züger, T., Faßbender, J., Kuper, F., Nenno, S., Katzy-Reinshagen, A., & Kühnlein, I. (2022). Civic Coding: Grundlagen und empirische Einblicke zur Unterstützung gemeinwohlorientierter KI. Civic Coding Initiative. Weitere Informationen
Andere Publikationen
Nenno, S. (2023). Propositional Claim Detection, (NLP Datensatz). Data File Version 1.0.0, https://doi.org/10.7802/2538. Weitere Informationen
Züger, T., & Pothmann, D. (2023). The AI Transparency Cycle. Digital society blog. Weitere Informationen
Hewett, F. & Asghari, H. (2023). Lowering the barriers: Accessible language and “Leichte Sprache” on the German Web. Digital society blog. Weitere Informationen
Kühnlein, I. (2023). Public Interest Tech: A take on the actors’ perspectives on ecological sustainability. Digital society blog. Weitere Informationen
Fassbender, J. (2022). Why explainable AI needs such a thing as Society. Digital society blog. Weitere Informationen
Asghari, H., Birner, N., Burchardt, A., Dicks, D., Fassbender, J., Feldhus, N., Hewett, F., Hofmann, V., Kettemann, M. C., Schulz, W., Simon, J., Stolberg-Larsen, J., & Züger, T. (2022). What to explain when explaining is difficult. An interdisciplinary primer on XAI and meaningful information in automated decision-making. HIIG Impact Publication Series. Weitere Informationen
Nenno, S., & Richter, C. (2022). Sustainable AI – How environmentally friendly is AI really? Digital society blog. Weitere Informationen
Züger, T. (2022). A lion for sustainable AI: How to support a new standard for sustainability reporting? Digital society blog. Weitere Informationen
Züger, T., Asghari, H., & Fassbender, J. (2022). Gekommen, um zu bleiben. Zur Frage, wie gemeinwohlorientierte KI wirtschaftlich tragfähig sein kann. Zivilgesellschaft 4.0. Künstliche Intelligenz sozial, nachhaltig und partizipativ gestalten, 38-40. Weitere Informationen
Züger, T., Katzy-Reinshagen, A., Fassbender, J., Kuper, F., & Kühnlein, I. (2022). Civic Coding. Empirische Erkenntnisse und Empfehlungen zur Unterstützung gemeinwohlorientierter KI. HIIG Impact Publication Series. Weitere Informationen
Nenno, S. (2021). Siri’s evil sister. When the Dutch public service steals your data. Digital society blog. Weitere Informationen
Hewett, F., & Stede, M. (2021). Lexica corpus, . Weitere Informationen
Hewett, F., & Nenno, S. (2021). How to identify bias in Natural Language Processing. Digital society blog. Weitere Informationen
Nenno, S. (2021). How to find the right survey tool:problems and proposals. Elephant in the Lab. Weitere Informationen
Vorträge
On the Prevalence of Leichte Sprache on the German Web15th ACM Web Science Conference 2023. Association of Computing Machinery. 15th ACM Web Science Conference 2023, Evanston, USA: 30.04.2023
Hadi Asghari
Eine Bestandsaufnahme des CO2-Fußabdrucks von AI: Was wissen wir und wie können wir ihn verringern?KI Camp 2023. Gesellschaft für Informatik. Factory Berlin Görlitzer Park, Berlin, Germany: 26.04.2023 Weitere Informationen
Sami Nenno, Hadi Asghari
AI for Sustainability & Sustainable AICIFE Master programmes in Global Economic Governance & Public Affairs (GEGPA) and EU Trade & Climate Diplomacy (EUDIPLO). Centre International de Formation Européenne (CIFE). Centre International de Formation Européenne (CIFE), Berlin, Germany: 17.03.2023
Asghari, H., Nenno, S.
Public Interest AIFeministische Digitalpolitik (Session: Public Interest AI). Superrr Lab. Superrr Lab, Berlin, Germany: 20.02.2023
Theresa Züger
Seminar: Demystifying AI: Typologies to map AI-systems and datasets.. KISD - Köln International School of Design. KISD - Köln International School of Design, Cologne, Germany: 18.11.2022Judith Fassbender
Public Interest AIUNESCO Fachausschuss Kommunikation und Information. German Comission for UNESCO. UNESCO Fachausschuss Kommunikation und Information, Brussels, Belgium: 15.11.2022 Weitere Informationen
Theresa Züger
Was bedeutet Transparenz für KI-Systeme?ZVKI Fachforum. iRights.Lab. Online, Berlin, Germany: 10.11.2022 Weitere Informationen
Theresa Züger
Digital tools for text simplificationSeminar “Sprache als Schwelle zur Kunst? Kunstvermittlung und Konzepte einfacher und leichter Sprache”. Kunsthalle Osnabrück. Online, Osnabrück, Germany: 09.11.2022
Freya Hewett
Civic Coding – KI für das Gemeinwohl nutzenCivic Coding – KI für das Gemeinwohl nutzen. Bundesministerium für Arbeit und Soziales. Impact HUB Berlin, Berlin, Germany: 18.10.2022 Weitere Informationen
Theresa Züger, Judith Fassbender, Freia Kuper
Design Patterns – Prozessformate für eine verantwortungsvolle Umsetzung von KI-SystemenKI-Lab. The Policy Lab Digital, Work & Society of the Federal Ministry of Labour and Social Affairs. KI-Lab of the Policy Lab Digital, Work & Society of the Federal Ministry of Labour and Social Affairs, Berlin, Germany: 30.09.2022
Judith Fassbender
Poster Pitch: Are AI standardisation processes inclusive enough to deliver tech that works for everyone?European Think Tank Conference 2022. German Council on Foreign Relations (DGAP). European Think Tank Conference 2022, Berlin, Germany: 20.09.2022 Weitere Informationen
Hadi Asghari
Approximating Accessibility of Regions from Incomplete Volunteered DataCHI EA '22. Association of Computing Machinery. Online, New Orleans, USA: 03.05.2022 Weitere Informationen
Hadi Asghari
Seminar: Programmatische Autonomie: Künstliche Intelligenz und selbstfahrende Autos (Session: Lecture: Künstliche Intelligenz?). University of Potsdam: Prof. Dr. Jan Distelmeyer. Potsdam University, Potsdam, Germany: 03.05.2022Theresa Züger
PhD Workshop on Artificial Intelligence and Machine Learning research and DemocracyPhD Workshop on Artificial Intelligence and Machine Learning research and Democracy. University of Tübingen. University of Tübingen, Tübingen, Germany: 02.04.2022 Weitere Informationen
Judith Fassbender
Particles of a whole: design patterns for transparent and auditable AI-systemsUbiComp '21: The 2021 ACM International Joint Conference on Pervasive and Ubiquitous Computing (Session: Particles of a whole: design patterns for transparent and auditable AI-systems). UbiComp. Online, New York, USA: 25.09.2021 Weitere Informationen
Judith Faßbender
Automatically evaluating the conceptual complexity of German textsKONVENS 2021 (Session: Automatically evaluating the conceptual complexity of German texts). German Society for Computational Linguistics and Language Technology, the Special Interest Group on Computational Linguistics of the German Linguistic Society and the Austrian Society for Artificial Intelligence. Heinrich-Heine-Universität Düsseldorf, Düsseldorf, Germany: 09.09.2021 Weitere Informationen
Freya Hewett
AI with Volunteering CommunitiesThe 3rd Workshop on Artificial Intelligence for Social Good (Session: AI with Volunteering Communities). International Joint Conferences on Artificial Intelligence, Montreal, Canada: 21.08.2021 Weitere Informationen
Stolberg-Larsen, J.
Amplifying Privacy: Scaling Up Transparency Research Through Delegated Access Requests5th Workshop on Technology and Consumer Protection (ConPro ’21) (Session: Amplifying Privacy: Scaling Up Transparency Research Through Delegated Access Requests). ConPro ’21. Online, San Francisco, USA: 27.05.2021 Weitere Informationen
Hadi Asghari
AI in the public interest: What does this mean and how can be build it?Gesellschaft für Informatik: #KICamp21. Gesellschaft für Informatik e.V.. Online, Berlin, Germany: 24.02.2021 Weitere Informationen
Theresa Züger, Hadi Asghari, Freya Hewett, Judith Fassbender, Jakob Stolberg-Larsen
Panels
Wie als Gesellschaft die Kontrolle über KI behalten? Ansätze aus der aktuellen ForschungKIDD @ work. KIDD - KI im Dienste der Diversität. Ludwig-Erhard-Haus, Berlin, Germany: 31.03.2023 Weitere Informationen
Theresa Züger
Künstliche Intelligenz + Gemeinwohl = ?Die dima und du! Dein Zukunftsassistent lädt ... ein!. Projektmitarbeiterin der Digitalen Manufaktur (dima) Stadt Aschaffenburg. JUKUZ - Jugendkulturzentrum Aschaffenburg, Aschaffenburg, Germany: 28.10.2022 Weitere Informationen
Theresa Züger
The Future of War: Drone Surveillance, Killer Robots & Lethal AI WeaponsDNL26: The Kill Cloud: Networked Warfare, Drone & AI. Disruption Network Lab. Kunstquartier Bethanien, Berlin, Germany: 25.03.2022 Weitere Informationen
Theresa Züger
Wie vermitteln wir Wissen über KI an die Bevölkerung?Auftaktveranstaltung: Zentrum für vertrauenswürdige Künstliche Intelligenz. iRights.Lab, Berlin, Germany: 07.12.2021 Weitere Informationen
Theresa Züger
Young activists & human rights in a digital ageFundamental Rights Forum. Online, Fundamental Rights Forum, Warsaw, Poland: 11.10.2021 Weitere Informationen
Theresa Züger
Gemeinwohlorientiert = Gemeinnützig? Unternehmen und gemeinwohlorientierte KIre:publica 21. Im Internet, Berlin, Germany: 21.05.2021 Weitere Informationen
Theresa Züger
Moderation von Workshops und Panels
Automatisation and autonomyInfrastructures of Autonomy. Humboldt Institute for Internet and Society, Brandenburg Center for Media Studies. Humboldt Institute for Internet and Society, Berlin, Germany: 24.11.2022 Weitere Informationen
Hadi Asghari
Organisation von Veranstaltungen
Sustainable AI IIwith attending Vip: Lynn Kaack. 14.06.2022. Humboldt Institute for Internet and Society, Berlin, Germany (National)
Sami Nenno, Theresa Züger
AI and the Public Interest13.06.2022. Humboldt Institute for Internet and Society, Berlin, Germany (International) Weitere Informationen
Hadi Asghari, Sami Nenno, Freya Hewett, Judith Faßbender, Theresa Züger
AI & Society Lab (AI & Society Lab)Study week of the ZHAW: "Der Mensch im digitalen Zeitalter". 05.05.2022. Humboldt Institute for Internet and Society, Berlin, Germany. Co-Organised by: ZHAW (International)
Sami Nenno, Judith Faßbender, Theresa Züger
Sustainable AIwith attending Vip: Friederike Rohde. 29.04.2022. Humboldt Institute for Internet and Society, Berlin, Germany (National)
Sami Nenno, Theresa Züger
Open Talk with Alex C. Engler: Algorithmic Services in the German GovernmentOpen Talk. with attending Vip: Alex C. Engler. 01.04.2022. online, Berlin, Germany (International) Weitere Informationen
Open Talk with Anna Mätzener: Automatic Decision Making Systems
Open Talk Series. with attending Vip: Anna Mätzener. 20.03.2022. online, Berlin, Germany (International) Weitere Informationen
Open Talk with Dr. Stephan Dreyer: Public Service media & Public Value
Open Talk Series. with attending Vip: Dr. Stephan Dreyer. 11.03.2022. online, Berlin, Germany (International) Weitere Informationen
Open Talk with Julia Gundlach: Algorithms for the common good
Open Talk Series. with attending Vip: Julia Gundlach. 10.02.2022. online, Berlin, Germany (International) Weitere Informationen
Research Clinic: Explainable AI
From 08.09.2021 to 12.09.2021. Humboldt Institute for Internet and Society, Berlin, Germany (National) Weitere Informationen
Digitaler Salon: KI – Die Letzte räumt das Internet auf
31.03.2021. Livestream, Berlin, Deutschland (National) Weitere Informationen
Natasha Vukajlovic, Philip Meier, Christian Grauvogel
Funktionen
Deep Tech Award.Theresa Züger
Research Clinic Europe – Platform://Democracy.Theresa Züger
Think Tank School of the German Council on Foreign Relations.Hadi Asghari, Theresa Züger