Impact-AI-Methode: FAQ

Mit der Impact-AI-Methode lässt sich die Wirkung von KI-Anwendungen ganzheitlich und zugleich praxisnah analysieren. Eine solche Wirkungsanalyse (englisch: Impact Assessment) ist für Anwendungen gedacht, die bereits im Einsatz sind, nicht für Forschungsprojekte oder reine Prototypen. Im Mittelpunkt steht ihr Beitrag zu einer nachhaltigen und gerechten Entwicklung. Die Methode soll erfassen, welche Auswirkungen eine bestimmte KI-Anwendung auf Menschen, Gesellschaft und den Planeten hat.

Die Methode ist breit angelegt und verbindet verschiedene normative Prinzipien, darunter Nachhaltigkeit in ihren drei Dimensionen, Gemeinwohl, Menschenrechte und demokratische Werte. Trotz dieser Bandbreite soll sie vor allem praktisch umsetzbar sein. Externe Dritte führen jede Wirkungsanalyse durch oder sind zumindest daran beteiligt. Die vollständige Impact-AI-Methode ist online frei verfügbar.

Zur Methodendokumentation

Der Einsatz von KI nimmt rasant zu, und mit ihm wächst die Zahl der Initiativen, die KI unter dem Schlagwort „AI for Good“ nutzen wollen. Dabei beobachten wir, dass solche Projekte selbst bei besten Absichten nicht immer prüfen, ob ihre eingesetzten KI-Systeme nachhaltig sind oder vollständig mit Gemeinwohl, Menschenrechten und demokratischen Werten im Einklang stehen. Zudem sind die tatsächlich relevanten Auswirkungen ihrer Arbeit nicht immer offensichtlich oder werden nicht angemessen und ganzheitlich erfasst.

Diese Lücke soll die Impact-AI-Methode schließen. Sie bewertet systematisch die tatsächlichen Auswirkungen dieser KI-Projekte, um sie transparent und messbar zu machen. So lassen sich Wirkung und Erfolge, aber auch mögliche negative Effekte einzelner KI-Anwendungen genauer verstehen. Zudem liefern die Wirkungsanalysen Belege und konkrete Ergebnisse für Akteure, die KI nachhaltig und gemeinwohlorientiert einsetzen möchten.

Ausgangspunkt waren bestehende Wirkungsanalysen. Wir haben sie kombiniert, erweitert und mit Ansätzen zur Dokumentation von KI-Systemen, ethischen Leitlinien, internationalen Standards sowie weiteren Prinzipien für ethische KI ergänzt. Dabei profitierten wir vom Praxiswissen unserer Partner Greenpeace Deutschland und ECOnGOOD. Begleitet hat den Entwicklungsprozess zudem unser Projektbeirat, der sich aus elf führenden Expert*innen aus verschiedenen Disziplinen und mit unterschiedlichen professionellen Hintergründen zusammensetzt. Unser Entwicklungsprozess ist iterativ angelegt. Das ermöglicht uns, die Methode fortlaufend zu verfeinern und zu verbessern, indem wir sie auf konkrete Fälle anwenden und kontinuierlich Feedback einholen.

Die Wirkungsanalyse umfasst sieben Schritte:

1. VorbereitungsphaseAm Anfang steht ein Vorgespräch mit dem jeweiligen KI-Projekt. Dies ermöglicht einen ersten Überblick darüber, wie die jeweiligen Projektteams arbeiten und das KI-System implementieren. Dadurch lässt sich beurteilen, ob der Anwendungsfall für die Wirkungsanalyse geeignet ist. Zu diesem Zweck haben wir einen „Vorab-Fragebogen“ mit den wichtigsten Fragen für diesen ersten Austausch entwickelt. Um den KI-Anwendungsfall besser zu kontextualisieren und die Interviewleitfäden darauf abstimmen zu können, werten wir außerdem Sekundärquellen aus, fordern weitere Dokumente beim Projekt an und führen zusätzliche Gespräche vorab mit Expert*innen aus dem jeweiligen Anwendungsbereich.

2. Technische UmfrageDie Organisation füllt einen Fragebogen zu den technischen Details ihrer KI-Anwendung aus, der auch das Modell und den Datensatz abdeckt. Er basiert auf der AIMS-Vorlage (AIMS steht übersetzt für „Künstliche Intelligenz aus der Perspektive multidimensionaler Nachhaltigkeit“; für weitere Informationen siehe State, Züger & Winter 2026).

3. Technisches Follow-up-InterviewIm Anschluss an den technischen Fragebogen führen wir ein Interview mit der technischen Leitung des KI-Projekts, um die Architektur des KI-Systems nachzuvollziehen und zu validieren.

4. Organisatorische InterviewsWir führen drei Leitfadeninterviews mit der organisatorischen Leitung des KI-Projekts. Themen sind die Auswirkungen des KI-Systems, seine Governance und Nachhaltigkeit sowie potenzielle negative Effekte und deren Minderung.

5. Externe InterviewsWenn möglich, führen wir zusätzliche Interviews mit Nutzer*innen oder anderen relevanten Beteiligten durch, um die Daten durch weitere Perspektiven zu ergänzen.

6. DatenanalyseWir analysieren die erhobenen Daten mithilfe einer qualitativen Inhaltsanalyse.

7. Normative BewertungAbschließend bewerten wir die Ergebnisse anhand von 25 Kriterien.

Interesse an den Details? Die vollständige Methode, einschließlich des technischen Fragebogens und aller Interviewleitfäden, ist online frei verfügbar.

Zur Materialsammlung

Der Bewertungskatalog umfasst 25 Kriterien, denen jeweils konkrete Bewertungsfragen zugeordnet sind. Viele davon decken sich mit den Grundsätzen der Vereinten Nationen zum ethischen Einsatz von KI innerhalb des UN-Systems. Der vollständige Katalog mit allen Kriterien und Fragen ist online verfügbar (auf Englisch).

Vollständigen Katalog anzeigen

Wir definieren ein Meta-Kriterium, das mehrere andere Kriterien zusammenfasst und letztendlich darauf abzielt, die folgenden Fragen zu beantworten:

Die übrigen 24 Kriterien sind fünf Bereichen zugeordnet:

Wir bewerten die analysierten Daten anhand von 25 Kriterien. Sie beziehen sich auf Aspekte der Wirkung (Impact) und Governance sowie auf soziale, ökologische und ökonomische Nachhaltigkeit. Jedem Kriterium ist eine Bewertungsfrage zugeordnet (siehe Übersicht in Frage 5). Für das Kriterium Risiko- und Schadensmanagement lautet die Frage etwa: „Gibt es angemessene Verfahren, um mögliche Schäden zu bewerten und zu überwachen?“

Auf der Grundlage der analysierten Daten beantworten wir jede einzelne Bewertungsfrage. Das Meta-Kriterium bewerten wir ausschließlich qualitativ. Die übrigen 24 Kriterien ordnen wir auf einer fünfstufigen Skala ein:

Zusammen mit einer qualitativen Bewertung ergibt diese Einordnung die abschließende Bewertung jedes Kriteriums. Der vollständige Katalog, einschließlich der Quellenangaben zu jedem Kriterium, ist online frei verfügbar.

Katalog herunterladen

Nachdem wir die Daten anhand der Bewertungskriterien gründlich analysiert und bewertet haben, dokumentieren wir unsere Ergebnisse in einem Bericht. Er schafft öffentliche Transparenz über die KI-Anwendung. Die teilnehmenden Projekte können zudem Feedback und Empfehlungen zur Verbesserung erhalten und so aus der Analyse lernen. Die Erkenntnisse aus einzelnen oder mehreren Anwendungen fließen zudem in die Forschung zur praktischen Anwendung von „AI for Good“ ein, sowohl in akademischen als auch in nicht-akademischen Veröffentlichungen.

Wir sind jedoch keine rechtliche Instanz. Wir können weder bestätigen, dass Projekte rechtskonform sind, noch vergeben wir auf Grundlage unserer Bewertung Zertifikate oder Auszeichnungen. Wir stehen in keiner Verbindung zu rechtlichen Behörden, und die Forschungskooperation ist rein freiwillig und nicht kommerziell.

Anders als bestehende Bewertungsansätze deckt die Impact-AI-Methode ein breites Spektrum relevanter Themen ab. Sie kombiniert verschiedene Prinzipien und Bewertungsdimensionen, wodurch sie eine ganzheitliche Perspektive auf KI-Systeme und deren Anwendung bietet. Dabei bezieht sie auch die vom jeweiligen KI-Projekt selbst definierten Ziele, deren Umsetzung sowie die entsprechenden Nachweise mit ein.
Mit diesem breit angelegten Ansatz umfasst die Methode auch Elemente einer Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment, kurz FRIA) und einer Datenschutz-Folgenabschätzung (Data Protection Impact Assessment, kurz DPIA). Sie berücksichtigt, inwieweit Werte wie Menschenrechte und demokratische Prozesse Teil der Implementierung der KI-Anwendung sind. Außerdem evaluiert die Methode, wie die KI-Projekte zu Nachhaltigkeit und Gemeinwohl beitragen. Dafür nimmt sie die Wirkung doppelt in den Blick. Sie erfasst alle Dimensionen der Nachhaltigkeit ebenso wie die gesellschaftlichen und gestalterischen Prozesse, die das Gemeinwohl beeinflussen. Mit dem Bewertungskatalog bietet die Methode zudem 25 Kriterien, an denen sich die Ergebnisse messen und beurteilen lassen. Diese fassen wir in einer leicht verständlichen Übersicht zusammen, damit auch ein breiteres Publikum sie nachvollziehen kann. Mit der Impact-AI-Methode wollen wir nicht nur bewerten, wie sich KI-Anwendungen auswirken. Wir wollen auch auf KI-Systeme und ihren Einsatz einwirken, in der Praxis ebenso wie in der öffentlichen Debatte.

Wir haben die Impact-AI-Methode mit Blick auf Projekte entwickelt, die mit KI gesellschaftlichen Nutzen im Sinne des „Guten“ oder der Nachhaltigkeit erzielen wollen und dieses Ziel aktiv öffentlich kommunizieren. Grundsätzlich interessieren wir uns für Projekte gemeinnütziger wie auch gewinnorientierter Organisationen. Derzeit bewerten wir nur KI-Anwendungen, die voll funktionsfähig im Einsatz sind und voraussichtlich noch mindestens ein weiteres Jahr eingesetzt werden. Die Methode lässt sich auf verschiedene KI-Modelle anwenden und ist nicht auf einen bestimmten Bereich beschränkt. Allerdings sind unsere Kapazitäten derzeit durch die Größe unseres Projekts und Teams begrenzt.

Wer mit einem KI-Projekt teilnimmt, sorgt für mehr Transparenz, unterstützt die Forschung zu den Auswirkungen von KI-Anwendungen auf Nachhaltigkeit und Gemeinwohl und bereichert so eine fundierte Debatte.

Auch die Projekte selbst profitieren in hohem Maße von der Wirkungsanalyse:

• Die Teilnahme regt zur Selbstreflexion über Aspekte an, die im Alltag manchmal zu kurz kommen. Sie kann zudem eine nachvollziehbare Grundlage bieten, um Veränderungen innerhalb der Organisation anzustoßen.
• Die Projekte erhalten den ausgefüllten technischen Fragebogen (als PDF und CSV). Sie können ihn als Dokumentation nutzen, um gegenüber Nutzer*innen und anderen Akteuren transparenter zu werden.
• Die teilnehmenden Projekte erhalten Feedback aus einer unabhängigen, nicht-kommerziellen Außenperspektive zu vielen Aspekten ihres KI-Projekts. Zudem zeigen wir Lern- und Verbesserungspotenziale bei ihren Auswirkungen auf Nachhaltigkeit und Gemeinwohl auf. Unsere Bewertung orientiert sich an den Grundsätzen der Vereinten Nationen für den ethischen Einsatz von KI. Das Feedback steht daher mit diesen international verankerten Leitlinien im Einklang.
• Darüber hinaus können die KI-Projekte aus den Rückmeldungen der Nutzer*innen ihres KI-Systems lernen, die wir, wenn möglich, in Interviews einholen. Dieses Feedback kann auch dazu beitragen, die Gestaltung des KI-Systems und das Projekt insgesamt zu verbessern.
• Öffentliche Aufmerksamkeit durch die Veröffentlichung der Wirkungsanalyse und weiterer wissenschaftlicher Publikationen.