{"id":78785,"date":"2021-08-18T15:54:14","date_gmt":"2021-08-18T13:54:14","guid":{"rendered":"https:\/\/www.hiig.de\/?p=78785"},"modified":"2023-03-28T14:03:54","modified_gmt":"2023-03-28T12:03:54","slug":"with-open-mind-and-open-source-the-democratic-potential-of-public-good-oriented-ai","status":"publish","type":"post","link":"https:\/\/www.hiig.de\/en\/with-open-mind-and-open-source-the-democratic-potential-of-public-good-oriented-ai\/","title":{"rendered":"With Open Mind and Open Source – the democratic potential of public good-oriented AI"},"content":{"rendered":"\n

Dr. Theresa Z\u00fcger talks to Patricia Leu from Prototype Fund about the Public Interest AI project and the democratic potential of AI for the common good.<\/strong> This interview was published first on PrototypeFund<\/a>.<\/strong><\/p>\n\n\n\n

Theresa, du leitest die Forschungsgruppe \u201cPublic Interest AI\u201d am Humboldt Institut f\u00fcr Internet und Gesellschaft. Was genau ist euer Ziel?<\/em><\/h3>\n\n\n\n

Unser \u00fcbergeordnetes Ziel ist es, ein Verst\u00e4ndnis f\u00fcr das Konzept Gemeinwohl <\/em>zu erarbeiten und dieses dann in den Prozess der Entwicklung von K\u00fcnstlicher Intelligenz (KI) zu \u00fcbersetzen. Die Frage, die wir dabei uns stellen, ist: Wie kann dieses Verst\u00e4ndnis den Prozess und die technische Umsetzung von KI-Entwicklung \u00e4ndern?<\/p>\n\n\n\n

Wir legen den Fokus dabei auf Governanceprozesse, d. h. wir schauen, welche Menschen (nicht) eingebunden werden, wenn KI entwickelt wird, welche Prozesse und Safeguards es gibt. So versuchen wir, KI-Entwicklung an demokratische Prozesse r\u00fcckzukoppeln.<\/p>\n\n\n\n

Im Team arbeiten Doktorand*innen auch an verschiedenen Prototypen von gemeinwohlorientierter KI. Einmal soll mit Computervision Barrierefreiheit auf Bildern erkannt werden mit dem Ziel, die Wheelmap<\/a> noch auskunftsf\u00e4higer zu machen. Dann gibt es ein Projekt, in dem mithilfe von Natural Language Processing deutscher Text in Leichte Sprache \u00fcbersetzt werden soll. F\u00fcr viele Menschen ist das Lesen von deutschen Texten eine Herausforderung, durch die sie beispielsweise von Beteiligungsprozessen ausgeschlossen werden. In diesem Projekt liegt also gro\u00dfes demokratisches Potenzial. Eine dritte Doktorandin erarbeitet Design Patterns \u2013 wie beispielsweise partizipatives Design -, die als handhabbare Standards und generalisierbare Musterl\u00f6sungen in der KI-Entwicklung eingesetzt werden k\u00f6nnen. Somit bekommen KI-Entwickler*innen nicht nur allgemeine Guidelines sondern auch konkrete Werkzeuge an die Hand.<\/p>\n\n\n\n

Wie wollt ihr eine Definition von Gemeinwohlorientierung erreichen?<\/em><\/h3>\n\n\n\n

Zu Gemeinwohl gibt es eine reiche Tradition in der politischen Theorie \u2013 und das schon seit der Antike! Das Thema findet auch Eingang in den rechtsphilosophischen Diskurs und die Verfassungen einiger Staaten. Wir erforschen den Begriff unter anderem in der Rechtsphilosophie und schauen, wie Gemeinwohl dort verhandelt wird. Spannend sind in diesem Zusammenhang der Philosoph John Dewey und der Politikwissenschaftler Barry Bozeman. Dewey sieht Demokratie als einen transformativen Prozess an und betrachtet Gemeinwohl dementsprechend: Es kann seiner Ansicht nach nicht universell sein, sondern muss immer partizipativ und deliberativ in der und durch die Gesellschaft verhandelt werden. Die Idee des partizipativen Designs ist nach dieser Logik zentral. Diese Thesen wurden von Bozeman aufgegriffen und weiterentwickelt. Wir als Forschungsgruppe orientieren uns nun daran und leiten Faktoren aus dieser theoretischen Fundierung ab, um herauszufinden, wie KI im Sinne des Gemeinwohls entwickelt werden kann.<\/p>\n\n\n\n

Und was habt ihr dazu schon herausgefunden? <\/em><\/h3>\n\n\n\n

Wichtig ist mir noch einmal zu betonen, dass eine Gemeinwohlorientierung auch bei KI von Fall zu Fall unterschiedlich aussehen kann. In jedem Fall aber steht sie privaten Interessen gegen\u00fcber und zeigt eine Alternative zu profitorientierter KI-Entwicklung auf \u2013 wenngleich das nicht das haupts\u00e4chliche Ziel ist.<\/p>\n\n\n\n

Wir haben f\u00fcnf Faktoren identifiziert, die gemeinwohlorientierte KI kennzeichnen. Der erste hei\u00dft Rechtfertigung. Hier schauen wir, warum die KI entwickelt und eingesetzt wird, welche Ziele verfolgt werden und ob die Methode \u2013 also KI \u2013 in diesem Fall wirklich die beste ist. Der zweite Aspekt ist Gleichberechtigung: Die KI soll Gleichberechtigung (z.B. durch verbesserte Barrierefreiheit) im besten Fall st\u00e4rken, sie aber auf keinen Fall schw\u00e4chen. Der dritte Faktor ist Deliberation und partizipatives Design. Hier geht es darum, Menschen mit einzubeziehen und gemeinsam ein Verst\u00e4ndnis zu erarbeiten, wie KI gut funktionieren kann. Je nach Kontext ist das vielleicht nicht m\u00f6glich oder sinnvoll, aber es ist essenziell, Einbeziehung immer mitzudenken und transparent dar\u00fcber zu kommunizieren. Ein weiterer Punkt sind technische Sicherheitsma\u00dfnahmen, also ob die Software robust ist, rechtliche Standards einh\u00e4lt und akkurat ist. Der letzte Faktor ist \u201cOpenness for Validation\u201d: Von den Entscheidungen der KI Betroffene aber auch Dritte m\u00fcssen \u00fcberpr\u00fcfen k\u00f6nnen, dass das soziotechnische System um die KI herum funktioniert, d. h. dass die Menschen, die damit arbeiten, sie auch im Sinne des Gemeinwohls einsetzen.<\/p>\n\n\n\n

Kannst du Beispiele f\u00fcr gemeinwohlorientierte KI-Technologien nennen?<\/em><\/h3>\n\n\n\n

Das ist gar nicht so leicht zu beantworten, denn viele Projekte stellen sich gar nicht die Fragen, die wir uns als Forschungsgruppe stellen. Die Datenlage ist also etwas d\u00fcrftig. Wir k\u00f6nnen uns eigentlich in vielen Bereichen gemeinwohlorientierte KI vorstellen, z. B. im medizinischen Sektor oder in der Klimaforschung.<\/p>\n\n\n\n

Ein gutes Beispiel f\u00fcr gemeinwohlorientierte KI, das wir gefunden haben, ist Project Connect<\/a> von Unicef. Hier werden mithilfe von Satellitendaten Schulen anhand ihrer Geb\u00e4udeform identifiziert und dann geschaut, ob diese Internetzugang haben. Wenn dem nicht so ist, schaffen die Initiatoren des Projekts in Zusammenarbeit mit verschiedenen lokalen Stakeholdern einen. Alle Datens\u00e4tze, die entstehen werden ver\u00f6ffentlicht. Das Projekt ist ein tolles Beispiel daf\u00fcr, wie KI im Sinne einer Effizienzsteigerung genutzt werden kann: Es w\u00fcrde ungleich viel l\u00e4nger dauern, alle diese Orte real nach Schulgeb\u00e4uden abzusuchen \u2013 die KI schafft es in kurzer Zeit und mit wenigen Ressourcen.<\/p>\n\n\n\n

Was ist dein pers\u00f6nlicher Zugang zu und deine Erwartung an gemeinwohlorientierte Technologie und KI?<\/em><\/h3>\n\n\n\n

Mein akademischer Hintergrund liegt in der politischen Theorie sowie in der Medienwissenschaft. Es ist mein wissenschaftliches Interesse und auch meine Aufgabe als Wissenschaftlerin, im Dienst der Gesellschaft zu arbeiten. <\/p>\n\n\n\n

Das Thema \u201cAI for good\u201d ist aktuell in aller Munde, die theoretische Grundlage ist bei vielen Entwickler*innen aber sehr d\u00fcnn und die Technologie am Ende selten wirklich im Sinne der Allgemeinheit. Ich bin daran interessiert, diese Forderung nach ethischer und gemeinwohlorientierter KI mit einem fundierten Konzept anzuschauen und eine handhabbare Messlatte daf\u00fcr zu entwickeln.<\/p>\n\n\n\n

Ich bin der festen \u00dcberzeugung, dass gemeinwohlorientierte KI m\u00f6glich ist, aber es muss noch viel mehr Arbeit hineingesteckt werden. Technologie geh\u00f6rt mittlerweile zu unserem Leben, ist meiner Meinung nach auch f\u00fcr demokratische Prozesse unverzichtbar, deswegen ist es besonders wichtig, sie mit einem Blick auf das Gemeinwohl zu betrachten.<\/p>\n\n\n\n

Wie kann sichergestellt werden, dass Unternehmen, die Technologien entwickeln, das Gemeinwohl in den Fokus r\u00fccken und sich an ethischen Richtlinien orientieren?<\/em><\/h3>\n\n\n\n

Im Moment ist das aus unserer Sicht nicht m\u00f6glich, weil Gemeinwohlorientierung und private Interessen sich gegen\u00fcber stehen. Dies lie\u00dfe sich durch Regulierung \u00e4ndern, aber ich denke, es ist unrealistisch, dass Technologie nur noch gemeinwohlorientiert entwickelt wird.<\/p>\n\n\n\n

Viel wichtiger ist es, einen Raum zu schaffen f\u00fcr gemeinwohlorientierte KI, aber auch gemeinwohlorientierte Technologie im Allgemeinen. Es braucht ein \u00d6kosystem mit einer ausreichenden Finanzierung, damit Entwickler*innen es sich auch leisten k\u00f6nnen, in diesem Bereich zu arbeiten. <\/p>\n\n\n\n

Daf\u00fcr sollte meiner Ansicht nach ein initialer Anreiz vom Staat kommen, um es z. B. gemeinwohlorientierten Unternehmen grunds\u00e4tzlich leichter zu machen und auch Fundingangebote zu schaffen. Die Zivilgesellschaft muss sich aber auch fordernd einbringen, bereit sein in einen offenen Dialog zu treten und Bed\u00fcrfnisse auf Augenh\u00f6he auszuhandeln \u2013 da sind wir wieder bei John Dewey. Der dritte Sektor muss daf\u00fcr gemeinsame Interessen identifizieren und diese auch zusammen vertreten, indem \u00fcbergreifende Strukturen geschaffen werden, anstatt dass etliche Stiftungen und Organisationen ihr eigenes S\u00fcppchen kochen. Dazu k\u00f6nnen auch Wissenschaftler*innen gut beitragen. Und wirtschaftliche Unternehmen k\u00f6nnen sich genauso beteiligen, indem sie als F\u00f6rderer auftreten. Eine St\u00e4rkung von gemeinwohlorientierter KI ist also aus vielen verschiedenen Richtungen m\u00f6glich!<\/p>\n