DIGITAL SOCIETY BLOG

Making sense of our connected world

DIGITAL SOCIETY BLOG

Making sense of our connected world

christian-wagner-fX-D68esJz4-unsplash

Excellence and Trust – Webinar on the EU White Paper on AI

07 May 2020| doi: 10.5281/zenodo.3813277

In the context of a dialogue event organized jointly with the HIIG and the German AI Association, the European Commission presented its White Paper on Artificial Intelligence on May 4 and replied to questions and remarks of the guests from industry, academia and civil society.


Das ursprünglich für März geplante Event wurde in ein digitales Format umgewandelt, bei dem Irina Orssich vom Direktorat AI & Digital Industry der Europäischen Kommission mit den zwei  Ökosystemen Exzellenz und Vertrauen die zentralen Eckpfeiler des KI-Weißbuches präsentierte. Diese bauen auf dem 3-Säulen-Ansatz der Kommission auf: – 1. Wettbewerbsfähigkeit und Forschung; 2. gesellschaftliche sowie sozioökonomische Faktoren; 3. ethisch-rechtlicher Rahmen.

Das Ökosystem Vertrauen betreffend erläuterte Irina Orssich den im Strategiepapier vorgeschlagenen risikobasierten Ansatz und stellte mögliche Mittel für dessen Umsetzung (z.B. Konformitätskriterien, freiwilliges Gütesiegel) vor.

In seiner direkten Replik begrüßte Rasmus Rothe, Generalsekretär des Bundesverbands Künstliche Intelligenz e.V., die Initiative der EU Kommission. Bezug nehmend auf den risikobasierten Ansatz machte er aber deutlich, dass insbesondere jene KI-Anwendungen in den von der Kommission genannten Hochrisiko-Bereichen wie Gesundheit und autonomes Fahren potenziell den größten Nutzen bringen könnten. Daher drohe bei der ausschließlichen Betrachtung ihres Risikos, dass die weitreichendsten gesellschaftlichen Potenziale verspielt werden könnten. Insgesamt betonte er die Bedeutung eines klaren Rechtsrahmens. Unsicherheit führe dazu, dass Kunden und Investoren abgeschreckt würden und damit starke Wettbewerbsnachteile entstünden. 

Ein Vertreter der Zivilgesellschaft merkte in diesem Zusammenhang an, dass es durchaus auch riskante Anwendungen in Nicht-Risikobereichen gäbe und schlug statt einer binären Festlegung (Risiko vs. Nicht-Risiko) einen horizontalen, graduellen Ansatz in Anlehnung an die Empfehlungen der Datenethik-Kommission der deutschen Bundesregierung vor.

Balance der Ökosysteme

Sowohl Rasmus Rothe als auch Prof. Wolfgang Schulz, Forschungsdirektor am HIIG, betonten, wie wichtig die Balance und Interdependenz der Ökosysteme sei – einerseits um als EU im Bereich KI ‘mitspielen’ zu können, andererseits, um ihre Wechselseitigkeit hervorzuheben, anstatt sie zu separieren. Prof. Schulz brachte hier eine weitere Dimension ins Spiel, die sich mit der Frage beschäftigen müsse, welche Bedeutung eine KI in die Entscheidungsfindung einbringe und die dann ggf. Verantwortungskriterien für komplexe Fragen formulieren könnte. 

Damit diese Ökosysteme funktionieren könnten, komme insbesondere auch zivilgesellschaftlichen Akteuren eine große Bedeutung zu, die mit ihrer spezifischen Expertise bereits in viele gesellschaftsrelevante Prozesse eingebunden  seien und der EU damit einen klaren Standortvorteil bieten könnten, argumentierte Prof. Schulz. Allerdings, so der Hinweis einer Mitdiskutantin aus der Zivilgesellschaft, könne der aktuelle Weißbuch-Rahmen in diesem Zusammenhang noch ergänzt werden, indem neben der potenziellen Beschneidung individueller Persönlichkeitsrechte noch zu wenig auf die Folgen für gesamtgesellschaftliche Prozesse hingewiesen werde. Ein sowohl für die Politik als auch für die Wissenschaft weiterer zentraler Aspekt sei die explizite Frauenförderung bzw. Förderung von Diversität.

Vorschläge der Industrie

In seiner Funktion sowohl als Gründer eines KI-Start-Ups als auch als Vorstandsmitglied des KI-Bundesverbandes gab Rasmus Rothe konkrete Handlungsempfehlungen für die weitere KI-Strategie der EU Kommission. 

Zu kurz komme aus seiner Sicht beispielsweise die Förderung unternehmerischen Denkens, also gezielte Ausbildungsprogramme und Studiencurricula, die sich neben technischer KI-Forschung und -expertise auch der konkreten Anwendung widmen (z.B. Fragen rund um Datenschutz, Monetarisierung von Daten und regulatorischer Vorgaben). Hier seien die USA weiterhin besser aufgestellt. Mit Blick auf Fördermöglichkeiten für KI-Unternehmen machte er deutlich, dass es neben bereits existierenden öffentlichen Geldern insbesondere auch privates Wagniskapital brauche sowie bessere Matching-Mechanismen, um smarte Partnerschaften vor allem für Start-Ups zu sichern. Insbesondere in der Wachstumsphase seien europäische KI-Start-Ups bis heute von amerikanischen – zunehmend auch von asiatischen – Investoren abhängig. Das stelle einerseits ein Wachstumshemmnis dar, andererseits wandere mit der Finanzierung eben auch häufig der Besitz in außereuropäische Hände. Dabei sei es wichtig, Unternehmen vor Ort aufzubauen und zu unterstützen, die von Anfang an der europäischen Regulierung unterliegen – im Unterschied zu US-amerikanischen Produkten, die sich meist nicht so leicht regulieren lassen, in vielen Hinsichten bislang aber alternativlos seien (z.B. Cloud-Provider).

Für das AI & Society Lab ergeben sich aus dieser Diskussionsveranstaltung zahlreiche spannende Fragestellungen, die u.a. im Rahmen weiterer Multi-Stakeholder-Folgeveranstaltungen zusammen mit der Deutschen Vertretung der EU Kommission ab Herbst 2020 diskutiert werden sollen. 

Die Konsultationen für das KI-Weißbuch der EU Kommission laufen noch bis zum 14. Juni und sind über diesen Link zu erreichen.

This post represents the view of the author and does not necessarily represent the view of the institute itself. For more information about the topics of these articles and associated research projects, please contact info@hiig.de.

Daniela Dicks

Research Coordinator: AI & Society Lab

Sign up for HIIG's Monthly Digest

and receive our latest blog articles.

Our Journals

Future Events

Further articles

The Coronavirus warning app should and can explain its opportunities and risks better

The warning app for contact tracing of newly corona infected persons was downloaded a good 15 million times within the first three weeks after its launch. Most of these downloads…

Live, love, learn – in 2040

How will we live, love, learn and work in 20 years? Researchers* from ten countries took a look into the future as part of the “twentyforty” project. The results can…

The Great Update of Research

The COVID 19 pandemic challenges society and its institutions. Science is particularly affected by the crisis, as it is expected to contribute with expertise to the solution of the problem….

Leave a Comment