Zum Inhalt springen
Is the new EU directive for sustainability in AI a toothless paper tiger or a sharp and hungry lion?

CSRD, ein Löwe oder Papiertiger? Über Nachhaltigkeitsstandards künstlicher Intelligenz

05 Juli 2022

Die Nachhaltigkeit von KI ist ein Thema von zunehmender Bedeutung für die Forschung und politische Akteur*innen. Dennoch fehlt nach wie vor ein realistisches Bild davon, we hoch der Energiekonsum und die CO2-Emissionen eines KI-Lebenszyklus sind. Es mangelt an angemessener Dokumentation und an Standards, die eine Vergleichsbasis und Möglichkeiten zur langfristigen Forschung sicherstellen. Die neue Richtlinie der EU, das CSRD („Corporate Sustainability Reporting Directive“, dt.: Nachhaltigkeitsberichterstattungs-Richtlinie), könnte jenes bisher fehlendes Werkzeug werden. Das CSRD fordert von großen, kapitalorientierten Unternehmen Berichte, die deren „Corporate Sustainability“ darlegen. Aber: Was für ein Reportraubtier wird das CSRD werden – ein sprichwörtlich zahnloser Papiertiger oder doch ein sich durchsetzender Löwe?

Ich möchte mit diesem Beitrag zeigen, warum die CSRD-Richtlinie relevant dafür sein könnte, wie der ökologische Fußabdruck der KI- und IT-Infrastruktur sich entwickeln wird. Zudem möchte ich Informationen bereitstellen, wie an dem Konsultationsprozess des CSRD teilgenommen werden kann. Dieser wird noch bis zum 8. August 2022 geführt.

Stellt KI wirklich ein Nachhaltigkeitsproblem dar?

Das Training großer Machine-Learning-Modelle ist signifikant energieintensiv – so viel wissen wir zu KI und Nachhaltigkeit (Vgl. Stubell et al. 2019). Auch die Inferenz, dies bezeichnet die tatsächliche Verwendung eines Modells, kann in einigen Fällen einen signifikanten und den Energieverbrauch des Trainings sogar übersteigenden Faktor darstellen (Leopold 2019). Beides kann durchaus Sorgen bereiten, da der Trend im Bereich KI erstens hin zu komplexeren Modellen und zweitens zu einer höheren Anzahl Gebrauchsmomenten geht (vgl. Open AI 2018). All dies deutet darauf hin, dass KI in Zukunft eine größere Bedeutung für den nachhaltigen Gebrauch von Ressourcen haben wird (vgl. Kaack et al. 2022; Rhode et al. 2022; Zielinski et al. 2022). Hinzu kommt, dass IT-Infrastruktur oftmals sehr ressourcenintensiv gebaut ist. Die Hardware für KI-Anwendungen führt zu einem komplexen neuen Set problematischer Praktiken, die beispielsweise den Ressourcenverbrauch oder die Arbeitsbedingungen, unter denen KI-Produkte und benötigte Hardware hergestellt werden, betrifft (vgl. Crawford 2021). Aufgrund der Arten, wie KI produziert und eingesetzt wird, stellt sich damit die Frage, wie nachhaltig KI unter diesen Bedingungen sein kann – und, welche langfristigen Effekte diese KI für unsere Umwelt und Gesellschaft haben kann.

Das aktuelle Problem ist aber, dass uns gute und präzise Daten fehlen, weshalb wir die tatsächlichen ökologischen Auswirkungen von KI nicht beziffern können. Aufgrund der mangelhaften Dokumentation des Energiekonsums und weiterer Ressourcen in der KI-Industrie muss die Forschung mit den wenigen verfügbaren, kaum repräsentativen Daten arbeiten. Dort wo sie fehlen, verlässt man sich auf vage Annahmen. Um einen ökologischen Wandel in diesem Feld voranzutreiben, brauchen wir aber genaue Daten und detaillierte, realistische Übersichten über die ökologischen Auswirkungen.

Wie garantieren wir eine bessere Dokumentation ökologischer Auswirkungen von KI-Anwendungen über ihre gesamte Lebensspanne?

Bisher ist die Dokumentation des Energieverbrauchs von KI Modellen freiwillig. Huggingface, eine Hosting Plattform für KI Modelle, zeigt dies sehr deutlich. Hier können BenutzerInnen ModelCards mit Informationen über den Energiekonsum des Trainings eines Models und Informationen zum Standort des Trainings ausfüllen. Leider sind diese Daten jedoch sehr unzuverlässig. Nur 400 von 55.000 Modellen verfügen überhaupt über eine Beschreibung des Energieverbrauchs. Noch weniger informieren über ihre geografische Lage, die jedoch in Bezug auf die CO2 Emissionen relevant ist, da diese nach Ort und Energiequelle variieren. Um den eigenen Verbrauch zu dokumentieren, gibt es einige Tools, die den Energieverbrauch schätzen, beispielsweise Cloud Carbon Footprint, Green Algorithms und Code Carbon. Aber wir benötigen eine verpflichtende Dokumentation des tatsächlichen Energieverbrauchs und der CO2 Emissionen für die benötigten Rohstoffe und deren Verarbeitung, den Datentransfer, das Training, und die Inferenz von Cloud Providern und gewerblichen KI-Produzierenden. Ohne eine verlässliche Dokumentation werden all diese Zahlen Schätzungen bleiben – und damit ohne Auswirkungen, da sie es verunmöglichen, die tatsächlichen problematischen Trends, Praktiken und Akteure zu identifizieren.

Warum ist das CSRD dabei so wichtig?

Die „Corporate Sustainability Reporting Directive“ der EU verpflichtet große und kapitalmarktorientierte Unternehmen, einen jährlichen Report zu veröffentlichen, (gut erklärt in diesem Video) beginnend in 2025 für den ersten Reporting Circle in 2024. Das CSRD wird auch große Technologieunternehmen betreffen. Damit wird Nachhaltigkeitsberichterstattung genauso wichtig wie Finanzdokumentation und soll genutzt werden, um die Auswirkungen von Unternehmen auf Nachhaltigkeit transparent darzulegen und vergleichbar zu machen. Der Standard dieser Dokumentation wird derzeit noch ausgearbeitet. Verantwortlich dafür ist efrag.org.

Obwohl mir dieser Prozess durchaus politisch relevant erscheint, ist diese Information nur schwer zu erhalten. Ich fand keinen Hinweis auf EFRAG auf der Website der EU, sondern musste in mehreren EU-Büros anrufen, um von der Existenz von EFRAG zu erfahren. Kürzlich veröffentlichte das EFRAG einen ersten Entwurf ihres Vorschlags – natürlich sehr textlastige PDFs. So, wie ich diese Skizze verstehe, schlägt sie vor, von jedem Unternehmen exakt dieselben Informationen zu veröffentlichen. Das könnte meiner Meinung nach problematisch sein, weil es nur zu einem vagen Abbild der Nachhaltigkeitseffekte führen wird und dabei die sektorspezifischen Details, beispielsweise der Tech und KI Industrie, unter den Tisch fallen werden. Damit könnte dieser Vorschlag eine verpasste Chance darstellen, um höhere und sektorspezifische Transparenzstandards in Bezug auf die Nachhaltigkeitsberichterstattung zu verankern.

Die Richtlinie ist jedoch jetzt noch nicht verabschiedet. EFRAG organisiert einen Prozess, der ausgesuchte Expert*innen in Arbeitsgruppen inkludiert, und diese können Input in Bezug auf die Vorschläge des EFRAG geben. Zudem organisiert EFRAG einen öffentlichen Konsultationsprozess sowie öffentliche Events.

Wie kann ich den Standard für das CSRD beeinflussen?

Einen Weg, den CSRD-Standard zu beeinflussen, ist eine Online-Umfrage, das Equivalent zum öffentlichen Konsultationsprozesses. Diejenigen, die sich damit aber nicht zufrieden geben wollen, oder die nicht über die Expertise verfügen, hier Feedback zu geben, können versuchen, die verantwortlichen Expert*innen zu kontaktieren. Dies sind beispielsweise Organisationen, die verschiedenen Nachhaltigkeitsaspekten verpflichtet sind, wie etwa germanwatch.org und das WWF (alle Mitglieder können in dieser Liste gefunden werden). Ich denke, dass es grundlegend wichtig ist, Aufmerksamkeit auf den Prozess der Ausarbeitung des CSRD-Standards zu lenken. Die Anwendung des CSRD-Standards wird Auswirkungen haben – auf die wichtigen Details, die wir über den tatsächlichen Ressourcen- und Energiekonsum durch KI- und andere Tech- Anwendungen lernen können. Und dies stellt nur einen Bereich der Nachhaltigkeit dar. Soziale ebenso wie ökonomische Nachhaltigkeit stellen uns vor weitere, nicht weniger wichtige Fragen, die sowohl den Tech-Sektor, als auch andere Wirtschaftssektoren betreffen (Rhode et a. 2021). 

Eine akkurate Dokumentation kann der erste Schritt sein, um Bewusstsein zu schaffen, einen öffentlichen Diskurs anzuregen und potentiell auch Druck auszuüben, um direkte Innovation für Nachhaltigkeit zu fordern. Zuletzt ist Dokumentation ein notwendiges Tool, um regulatorische Maßnahmen einzuleiten, wenn die Ergebnisse den Energieverbrauch, die Arbeitsbedingungen und die Ungerechtigkeit innerhalb der Gesellschaft nicht rechtfertigen.

Welche offenen Fragen bleiben?

Ich habe auf viele Fragen noch keine Antworten gefunden. Wenn Sie über hilfreiche Informationen verfügen oder aus anderen Gründen Kontakt mit mir aufnehmen wollen, tun Sie das gerne. Fühlen Sie sich gerne eingeladen, das Thema weiterzuverbreiten und eigene Texte mit weiteren Informationen zum Thema zu schreiben.

Folgende Fragen finde ich sehr wichtig:

  • Was wird in den Mitgliedsstaaten der EU passieren, sobald die Richtlinie von der EU verabschiedet wird? Werden die Mitgliedstaaten mehrere Jahre Zeit haben, um die Forderungen umzusetzen, bevor sie bei Nichtumsetzung Strafen zahlen müssen (wie in vielen anderen Fällen), oder wird es eine sofortige Aufforderung zum Handeln auf Staatsniveau geben?
  • Welche Institution wird die Dokumentation in Deutschland verantworten und dafür die Dokumentationen anfordern und sammeln? Wird es eine Verpflichtung geben, diese Dokumentationen öffentlich zugänglich zu machen?
  • Wer wird die Berichterstattung in Deutschland prüfen? Meines Wissens werden Überprüfungen gefordert. In Bezug auf Finanzreporte gibt es ein Ökosystem von Konsultationen und administrativen Institutionen, die verantwortlich sind. Da die Anzahl der Dokumentationen signifikant steigen wird, könnte es sein, dass ein neuer Überprüfungsprozess notwendig sein wird. Wie soll die Unabhängigkeit und benötigte Expertise sichergestellt werden, um ein sinnvolles, hilfreiches Ergebnis hervorzubringen?
  • Wird es unterschiedliche, sektorspezifische Anforderungen geben – oder einen Standard für alle Sektoren? Derzeit schlägt das EFRAG meines Wissens einen Standard für alle Sektoren vor. Meiner Ansicht nach könnte das den CSRD zum zahnlosen Papiertiger machen.

Ich denke, das CSRD stellt eine Möglichkeit für ein präzises und hilfreiches Dokumentationstool dar – einen Dokumentationslöwen. Man möchte hoffen, dass die Anstrengungen der Zivilgesellschaft und wertorientierte politische Akteur*innen verhindern können, dass daraus ein Papiertiger der Nachhaltigkeitsberichterstattung wird, der problematische Erkenntnisse verschwimmen lässt, indem Unternehmen die Metriken auswählen können, um damit besser auszusehen. Unterschiedliche Sektoren benötigen eventuell unterschiedliche Metriken, um durch präzise Datenpunkte ein vollständigeres Bild zu ermöglichen. Das wird einen expertengeführten Prozess erforderlich machen, der von unabhängigen, nicht unternehmensgebundenen Akteur*innen in jedem Feld gebildet wird und Kontrollen in einem transparenten Prozess, der Rechenschaftspflicht und Überprüfbarkeit garantiert. Ich bin mir nicht sicher, ob der aktuell verfolgte Prozess das leisten kann. Deshalb ist jede Anstrengung willkommen, um gemeinsam sicher zu stellen, dass die Nachhaltigkeitsberichterstattung des CSRD ein starkes, präzises Instrument wird, das das Wohlergehen unserer Gesellschaft in den nächsten Jahrhunderten zu schützen vermag.

Dieser Beitrag spiegelt die Meinung der Autorinnen und Autoren und weder notwendigerweise noch ausschließlich die Meinung des Institutes wider. Für mehr Informationen zu den Inhalten dieser Beiträge und den assoziierten Forschungsprojekten kontaktieren Sie bitte info@hiig.de

Theresa Züger, Dr.

Forschungsgruppenleiterin Public Interest AI | AI & Society Lab

HIIG Monthly Digest

Jetzt anmelden und  die neuesten Blogartikel gesammelt per Newsletter erhalten.

Man sieht in Leuchtschrift das Wort "Ethical"

Digitale Ethik

Ob Zivilgesellschaft, Politik oder Wissenschaft – alle scheinen sich einig, dass die Neuen Zwanziger im Zeichen der Digitalisierung stehen werden. Doch wo stehen wir aktuell beim Thema digitale Ethik? Wie schaffen wir eine digitale Transformation unter Einbindung der Gesamtgesellschaft, also auch der Menschen, die entweder nicht die finanziellen Mittel oder aber auch das nötige Know-How besitzen, um von der Digitalisierung zu profitieren?  Und was bedeuten diese umfassenden Änderungen unseres Agierens für die Demokratie? In diesem Dossier wollen wir diese Fragen behandeln und Denkanstöße bieten.

Discover all 12 articles

Weitere Artikel

Sustainable AI – Wie nachhaltig ist Künstliche Intelligenz wirklich?

In diesem Blogbeitrag beschäftigen wir uns damit, wie nachhaltig kleinere KI-Systeme wirklich sind und welche Handlungsempfehlungen sich aus den Forschungsergebnissen ableiten lassen.

Image shows a visualized human brain with blue light effects

KI als fliegendes blaues Gehirn? Wie Metaphern unsere Vorstellung von KI beeinflussen

Dieser Artikel zeigt, wie die irreführende Metapher von KI als menschliches blaues Gehirn sich bis heute durchsetzen konnte.

Titelbild Blogbeitrag Explainable AI

Explaining AI – Wie erklärt man das Unerklärliche?

Komplexe automatisierte Entscheidungsfindungssysteme sind in unserem Alltag allgegenwärtig geworden. Sollten wir uns überhaupt dafür interessieren, wie sie funktionieren?