{"id":32161,"date":"2017-03-08T09:27:45","date_gmt":"2017-03-08T08:27:45","guid":{"rendered":"https:\/\/www.hiig.de\/?p=32161\/"},"modified":"2023-03-28T15:36:49","modified_gmt":"2023-03-28T13:36:49","slug":"artificial-intelligence-human-powerlessness-rediscovering-human-intelligence-with-ai","status":"publish","type":"post","link":"https:\/\/www.hiig.de\/en\/artificial-intelligence-human-powerlessness-rediscovering-human-intelligence-with-ai\/","title":{"rendered":"Artificial intelligence, human powerlessness – rediscovering human intelligence with AI"},"content":{"rendered":"

How does the relation between humans and machines change in light of growing artificial intelligence and is human intelligence decreasing, because more and more humans are being programmed by their technological ecology? Innovation consultant Hans Rusinek reflects on that question in this two-part blogpost.<\/span><\/i><\/p>\n

Wenn es um die Zukunft der k\u00fcnstlichen Intelligenz (KI) geht, machen wir vor keinen Horrorszenarien halt. Die Szenarien folgen immer einem aus anderen Angstfantasien bekannten Muster: Erst lernen die Maschinen von uns, dann nehmen sie uns den Job weg und am Ende sogar die <\/span>Geliebte<\/span><\/a>. Uns alten Analogen ist in diesem Szenario lediglich eine Zuschauerrolle zugeschrieben. Wie sehr ist diese Angst gerechtfertigt und sind wir wirklich passive Beobachter dieser Entwicklungen?<\/span><\/p>\n

Zu einer der bekanntesten Anekdoten im Bereich der KI geh\u00f6rt die Geschichte von Robert Epstein und dem Chat-Bot Ivana. <\/span>Da chattete Professor Epstein, Psychologe, Computerwissenschaftler und einer der Vordenker im Bereich KI \u00fcber Monate mit einer gewissen Ivana, von der er glaubte, dass sie eine gutaussehende russische Dame sei, die ebenfalls auf der Suche nach einem Partner w\u00e4re. Doch dann kam es, wie es kommen musste: die osteurop\u00e4ische Dame war eine Software, und der Computerwissenschaftler d\u00fcpiert.<\/span><\/p>\n

Die Moral von der Geschichte gibt es in zwei Versionen. In Version Eins, der offensichtlichen, ist Ivanka ein verbl\u00fcffendes Beispiel daf\u00fcr, wie menschen\u00e4hnlich Chatbots bereits kommunizieren k\u00f6nnen. Die Maschine wird tats\u00e4chlich immer menschlicher. Ob dies wirklich schon ein Indiz daf\u00fcr ist, dass Maschinen \u201cuns mit ihrer Intelligenz” \u00fcberholen, wie <\/span>Christoph Kucklick<\/span><\/a> diese Anekdote liest, ist eine andere Frage.<\/span><\/p>\n

Interessant ist, dass diese Anekdote noch eine zweite Lehre liefert, eine, die wir in den Debatten zu Mensch-Maschine-Interaktion absolut \u00fcbersehen. Es ist nicht nur die Maschine in Form von Ivana, die erstaunlich menschlich war. Es ist auch der Mensch in Form von Robert, der durch wenig Input ein schnelles unkritisches Urteil f\u00e4llte, der also erstaunlich maschinell agierte. <\/span>Das ist nicht ein Algorithmus, der so clever ist wie Robert. Da ist auch ein Robert, der so reflexionsarm agiert wie ein Computerprogramm.<\/span><\/p>\n

Denn Robert Epstein w\u00e4hnte sich in menschlicher Gesellschaft, weil die Erwartungen an diese so gering waren. H\u00e4tte er die Dame auf Blin\u00fds eingeladen oder sie gar angerufen, w\u00e4re der Schein erloschen. Am anderen Ende der Leitung ist niemand. Mensch und Maschinen treffen sich also in der Mitte<\/span>. Was sind die Mechanismen dahinter?<\/span><\/p>\n

Die Menschine ist programmierbar<\/b><\/h3>\n

Der erste Mechanismus besteht darin, dass wir mehr und mehr programmierbar werden. Diese Programmierbarkeit zwingt uns immer mehr in ein maschinelles Menschenkorsett, ohne es wirklich zu merken. <\/span>Techno-social engineering<\/span><\/a> nennen das die Autoren Selinger und Frischmann, zwei f\u00fchrenden Experten im Bereich \u201cGesellschaftliche Auswirkungen der k\u00fcnstlichen Intelligenz”. Im techno-social Engineering werden technologische mit sozialen Werkzeuge kombiniert genutzt, um im Web unser menschliches Verhalten zu beeinflussen, an den richtigen Stellen zu nudgen oder sogar ganz neu zu konstruieren. Ivana ist daf\u00fcr nur ein sehr primitives Beispiel, auch wenn sie immerhin das sehr komplexe Gef\u00fchl eines erotischen Interesses ausgel\u00f6st hat. Ein ganz anderes Level aber wird erreicht, als Facebook 2014 in einem gigantischen sozialen Experiment die Gef\u00fchle von 700.000 Nutzern ver\u00e4ndert. In diesem <\/span>Mood Manipulation Experiment<\/span><\/i> sahen die ausgew\u00e4hlten Nutzer verzerrte Ergebnisse ihrer Freunde und reagierten entsprechend mit ebenfalls angepassten Emotionen. Dann im Dezember 2016 beschrieb ein Artikel im Schweizer Das Magazin<\/em>, erstens, wie wenige Likes gen\u00fcgen, um eine Einsch\u00e4tzung \u00fcber eine Person zu treffen (10, um besser als seine Arbeitskollegen zu sein) und zweitens, wie sich dadurch ein Mikrotargeting erm\u00f6glichen l\u00e4sst, welches die Wahl in den USA beeinflusst haben sollte.<\/span> In beiden Experimenten lie\u00df sich der User programmieren.<\/span><\/p>\n

Dabei ist techno-social Engineering per se nicht das Problem: Jede Kultur lebt davon bestimmte Normen zu formen oder bestimmtes Verhalten zu belohnen. Auf der Arbeit, in der Schule, selbst in der Familie findet auch eine Art Engineering statt. W\u00e4hrend wir uns aber von anderen Bereichen, wo Verhalten geformt wird, auch distanzieren k\u00f6nnen, weil sie eben nur ein Ort sind, ist beim digitalen techno-social engineering die Pr\u00e4senz totaler. Offline zu sein, wird immer mehr zu einer absurden, kaum durchsetzbaren Vorstellung. Die digitale Sph\u00e4re ist eben kein Ort, sondern vielmehr ein Filter der sich zwischen uns und die Umwelt legt und eine <\/span>digiloge<\/span><\/i> Welt konstruiert, wie der zweite Mechanismus zeigen wird.<\/span><\/p>\n

Die Menschine ist \u00fcber Schnittstellen an die Umwelt montiert<\/b><\/h3>\n

Der erste Mechanismus zeigt wie Programmierbarkeit m\u00f6glich gemacht wird, der zweite Mechanismus baut darauf auf und geht eine Stufe weiter. Nicht nur Verhalten wird geformt, wir verlagern auch unsere Erlebnis- und Erfahrungsr\u00e4ume in die digitale Sph\u00e4re.<\/span> Und erm\u00f6glichen damit, dass sich unsere Wahrnehmung filtern l\u00e4sst.<\/span><\/p>\n

Als um die Jahrtausendwende die ersten Kochshows im Fernsehen liefen, bestand der Clou in den Augen der Produzenten darin, dass man sich danach die Rezepte mailen lassen konnte. Doch daran hatte fast niemand Interesse. Denn: Es ging gar nicht um das Nachkochen, es ging nur darum, anderen beim Kochen zuzusehen. Heute ist uns das allen klar: Wir schauen uns in Realityshows an, wie andere leben, in Lets Play-Videos, wie andere gamen und in Unboxing-Videos, wie andere neue Produkte auspacken z.b. Sneaker oder <\/span>Platten<\/span><\/a>. <\/span>Und finden das zutiefst befriedigend.<\/span><\/p>\n

Der Philosoph Robert Pfaller gruppiert diese Ph\u00e4nomene unter dem Begriff Interpassivit\u00e4t. Interpassivit\u00e4t bedeutet, die<\/span> Handlungen, die uns Genuss versprechen, zu delegieren und auf Externes zu verschieben. Zum Beispiel auf die Kamera. Sie genie\u00dft an unserer Stelle den Blick auf den Strand, das Meer oder die Sehensw\u00fcrdigkeiten. <\/span>Dazu geh\u00f6rt auch der notorische Zwang beim Essen, erstmal ein Foto vom Essen schie\u00dfen zu m\u00fcssen. Wir m\u00fcssen zwar immer noch selber essen aber die Kamera isst zuerst<\/span>, wie es der Internetforscher Robert Simanowski so sch\u00f6n sagt. Unser wahrer Genu\u00df ist dann der Like-Button.<\/span><\/p>\n

F\u00fcr Pfaller ist der Grund dahinter der folgende: Das Individuum will nicht mit dem ultimativen Genuss konfrontiert werden, es sch\u00fctzt sich geradezu vor echter Anteilnahme. Irgendwo zu sein, live und direkt, wo man nicht jeden Tag ist, scheint im Sinne der Interpassivit\u00e4t manchmal schlicht und ergreifend zu viel, zu intensiv f\u00fcr uns zu sein und uns zu verletzbar zu machen.<\/span><\/p>\n

Diese Begr\u00fcndung kann man kaufen, muss man aber nicht. Wichtig ist: Wir schieben durch dieses Ph\u00e4nomen der Interpassivit\u00e4t Zwischenebenen in unsere Erlebniswelt. Wie die Kamera, das Chatprogramm, das Unboxing-Video. Der Genuss wird schon vorverdaut. Diese Zwischenebenen erm\u00f6glichen es dann durch techno-social engineering gestaltet zu werden und damit Output und Input zwischen Menschen und ihrer sozialen Umwelt zu steuern. Und genau dies erm\u00f6glichte auch dem Chatbot Ivana Schmetterlinge im Bauch des Computerwissenschaftlers auszul\u00f6sen. Die Unterhaltung, fand auf einem Chatkanal statt, der die Unterschiede zwischen Bot und Mensch erst verschwinden l\u00e4sst. Wie eine Maschine k\u00f6nnen wir uns programmieren lassen, weil wir \u00fcber weitere Maschinen durch Schnittstellen und Produktionsabl\u00e4ufe an unsere Umwelt montiert sind.<\/span><\/p>\n

Fortsetzung folgt…<\/p>\n

Hans Rusinek is a innovation consultant at Sturm und Drang and mainly works on the development of user-centered business models within digital transformation. Furthermore he is an editor at Transform Magazin and writes about questions of the good life in a changing society. He studied economics, philosophy and international politics in Bayreuth and London. <\/span><\/i><\/p>\n