AI & Society Lab
Das AI & Society Lab ist die interdisziplinäre Schnittstelle und der Experimentierraum des Forschungsschwerpunkts Technologie, Macht und Werte. Es bündelt und übersetzt wissenschaftliche Erkenntnisse zu Künstlicher Intelligenz, erprobt sie praxisnah und entwickelt neue Formate, die gesellschaftliche, politische und kulturelle Fragen adressieren. Im Zentrum steht die Frage, wie KI-Systeme gestaltet, eingesetzt und reguliert werden können, damit sie gesellschaftlichen Werten, demokratischen Prinzipien und menschenrechtlichen Standards entsprechen. Dabei versteht das Lab KI nicht als rein technische Innovation, sondern als sozio-technisches Phänomen: Technologien sind in gesellschaftliche Kontexte eingebettet, werden von Menschen entwickelt und wirken im Zusammenspiel mit menschlichem Handeln. KI-Systeme entstehen somit nicht losgelöst von der Gesellschaft, sondern werden durch Werte, Normen und politische Rahmenbedingungen geprägt und spiegeln diese zugleich wider. Auf dieser Grundlage positioniert sich das AI & Society Lab als Impulsgeber für eine inklusive und nachhaltige KI-Entwicklung und fördert den Dialog zwischen Wissenschaft und Gesellschaft. In Workshops mit unterschiedlichen Interessengruppen, öffentlichen Veranstaltungen und Medienformaten werden wissenschaftliche Erkenntnisse gemeinsam diskutiert, erprobt und weitergedacht.
Theresa Züger, Dr.
Gesellschaftliche Werte, Macht und Künstliche Intelligenz
Unsere Forschung analysiert sozio-technische Transformationsprozesse kritisch. Im Mittelpunkt steht die Frage, wie digitale Technologien stärker an gesellschaftlichen Zielen ausgerichtet werden können – insbesondere im Hinblick auf Nachhaltigkeit, Gemeinwohl und demokratische Werte.
Erklärbarkeit von KI
Verstehen automatisierter Entscheidungen
KI-Systeme bleiben häufig intransparent. Unterschiedliche Erklärungsansätze machen sichtbar, wie solche Systeme funktionieren und welche Annahmen ihnen zugrunde liegen. So wird es möglich, KI kritisch zu hinterfragen und informierte Entscheidungen in Politik, Verwaltung und Gesellschaft zu treffen.
KI, Nachhaltigkeit und Gemeinwohl
Gesellschaftlicher Nutzen
Der Einsatz von Künstlicher Intelligenz wirft Fragen nach langfristigen sozialen, ökologischen und institutionellen Folgen auf. Gemeinwohlorientierte KI bedeutet, dass die Entwicklung und der Einsatz von KI-Systemen nicht primär auf Profitmaximierung oder private Interessen ausgerichtet sind, sondern auf den Nutzen für die gesamte Gesellschaft.
KI-Kompass
Dieses Kartenspiel vermittelt einen realistischen Einblick in den Einsatz aktiver KI-Systeme in unserer Gesellschaft. Es wurde in einem transdisziplinären Ansatz gemeinsam mit Bürger*innen und Expert*innen entwickelt, um einen verständlichen Zugang zum Thema Künstliche Intelligenz zu schaffen.
Der KI-Kompass ist ein Ergebnis des Projekts Künstliche Intelligenz, menschlich erklärt.
Experiment: Gesichtserkennung
Diese Open-Source-Anwendung vermittelt spielerisch, wie Gesichtserkennungssoftware funktioniert. Ziel ist es, grundlegendes Wissen über Künstliche Intelligenz verständlich und zugänglich zu machen. Dabei wird aufgezeigt, wie leistungsfähig solche Systeme sind und wo ihre Grenzen liegen.
Das Experiment enstand im Forschungsprojekt Künstliche Intelligenz, menschlich erklärt .
Workshop "Public Interest AI"
Roundtable "Human in the Loop: Kreditvergabe im Fokus"
Public Interest AI Interface und Netzwerk
Was unter gemeinwohlorientierter KI zu verstehen ist, ist ebenso komplex wie gesellschaftlich relevant. Wissenschaft und ein Netzwerk unterschiedlicher gesellschaftlicher Akteur*innen stehen hierzu in einem gemeinsamen Diskurs, um zentrale Begriffe und Abgrenzungen zu schärfen. Dieses Interface stellt die dabei entwickelten Prinzipien vor und lädt dazu ein, diese weiter zu diskutieren.
HINTERGRUND
Das Interface, die darunter dargestellte Projektkarte sowie die beiden KI-Prototypen sind zentrale Ergebnisse des Forschungsprojekts Public Interest AI.
Public Interest AI Projektkarte
Diese interaktive Karte bietet einen Überblick über gemeinwohlorientierte KI-Initiativen weltweit. Sie macht sichtbar, wie diese Projekte arbeiten und welches Selbstverständnis sie verfolgen. Zudem stellt sie der Öffentlichkeit frei zugängliche Informationen zur Verfügung.
Simba Text Assistant
Dieser KI-Prototyp umfasst zwei Anwendungen, der Menschen beim Verstehen deutschsprachige Online-Texte unterstützt. Eine Web-App vereinfacht gezielt eigene Texte. Ergänzend dazu fasst eine Browser-Erweiterung Texte auf Webseiten automatisch zusammen.
Claimspotting
Dieser KI-Prototyp ist eine Überwachungsanwendung, die Faktenchecker*innen bei der Überprüfung von Telegram-Inhalten unterstützt. “Claimspotting” beschreibt das gezielte Erkennen von Aussagen, die potenziell Fehlinformationen enthalten.
Feels Fair?
Diese Zines für Lehrkräfte, Studierende und Fachkräfte, die sich mit Künstlicher Intelligenz befassen, beleuchten Schritt für Schritt zentrale Aspekte rund um Fairness und KI. In vier Kapiteln begleiten wir Techie, eine*n Data Scientist*, auf deren Weg zu gerechteren Systemen. Die Zines erklären, wie KI-Modelle entwickelt und trainiert werden. Welche Verzerrungen, sogenannte Biases, können die Entscheidung von KI beeinflussen?
HINTERGRUND
Die Zines sind Ergebnisse aus dem Forschungsprojekt Public Interest AI.
Nachhaltige Förderung gemeinwohlorientierter KI
Wir haben 16 Empfehlungen entwickelt, die zur nachhaltigen Förderung gemeinwohlorientierter KI beitragen sollen. wurde vom Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) im Rahmen der Civic Coding Initiative mit dem Bundesministerium für Arbeit und Soziales (BMAS) und dem Bundesministerium für Familie, Senioren, Frauen und Jugend (BMFSFJ) beauftragt.
HINTERGRUND
Das Policy Paper basiert auf den empirischen Erkenntnissen der Studie „Civic Coding – Grundlagen und empirische Einblicke zur Unterstützung gemeinwohlorientierter KI”.
Zukunftsfaktor Diversität
Diese Positionspapier des Roundtables KI und Frauen* enthält Ideen und Forderungen für eine diversere KI und vor allem für eine höhere Beteiligung von Frauen* im Entwicklungsprozess. Es entstand aus den Mitschriften der Inputs und Diskussionen von 20 Vertreter*innen aus Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft.
HINTERGRUND
Der Roundtable wurde am 13. Oktober 2020 vom Alexander von Humboldt Institut für Internet und Gesellschaft gemeinsam mit der Vertretung der Europäischen Kommission in Deutschland veranstaltet.
