taras-chernus-1149443-unsplash

Big Data and nudging: Marketing or manipulation?

22 November 2018

Think back to your last purchase at the supermarket. Were the branded products on the shelf placed at eye level? Did you have to bend down for the cheaper products? A classic case of nudging: customers should resort to the more expensive variant through subtle behavioural manipulation. Similar phenomena can also be found in the digital world. Researchers at HIIG have dealt with the so-called Big Data-supported behavioural manipulation. Nadine Lahn, former intern at HIIG, talked to Florian Irgmaier about the research project.

In knappen Worten, was ist Nudging?

Unter einem Nudge verstehen Richard H. Thaler und Cass R. Sunstein, die das Konzept mit ihrem gleichnamigen Buch popularisiert haben, jeden Aspekt einer Entscheidungssituation, der das Verhalten von Menschen auf vorhersehbare Weise beeinflusst, ohne dabei auf Verbote oder finanzielle Anreize zurückzugreifen.

Zur Illustration wird gerne das berühmte „Kantinenbeispiel“ angeführt: In experimentellen Studien konnte gezeigt werden, dass man in einer Kantine weder Süßigkeiten aus dem Sortiment nehmen noch verteuern muss, um stattdessen mehr Obst zu verkaufen – es reicht, das Obst gut sichtbar zu platzieren, weil Menschen, so die These, bei Entscheidungen meist den Weg des geringsten kognitiven Widerstands wählen. Im Wesentlichen geht es also darum, sich die fehleranfälligen, aber vorhersehbaren Mechanismen zunutze zu machen, die menschliches Denken prägen.

Weil der Begriff „Nudge“ aber oft Gegenstand politischer Kontroversen ist und uneinheitlich verwendet wird, haben wir uns im Forschungsprojekt für den Begriff der Verhaltensbeeinflussung entschieden. Von Big Data-gestützter Verhaltensbeeinflussung – darauf lag der Fokus unserer Arbeit – sprechen wir bei Instrumenten, die Verhalten beeinflussen sollen und dabei sowohl auf mehr oder weniger ausgearbeitete Theorien über menschliches Verhalten als auch auf die automatisierte Verarbeitung großer Datenmengen zurückgreifen.

In welchen Bereichen unseres alltäglichen Lebens werden wir beeinflusst?

Wahrscheinlich wurde heute schon zig Male versucht, Ihr und mein Verhalten zu beeinflussen. Supermärkte etwa werden schon seit Jahrzehnten auf der Grundlage psychologischer Erkenntnisse gestaltet – nicht umsonst sind die teureren Produkte, mit denen sich mehr verdienen lässt, gut sicht- und erreichbar platziert. Das heißt natürlich nicht, dass auch jede versuchte Verhaltensbeeinflussung erfolgreich ist.

Mit Blick auf Big Data-gestützte Verhaltensbeeinflussung konnten wir in unserer Studie drei zentrale Anwendungsbereiche identifizieren.

  1. E-Commerce: Den ersten Schwerpunkt bildet der elektronische Handel. Ein besonders häufiges Beispiel ist die Anpassung der Werbung an Produkte, die ich bereits gekauft oder nach denen ich im Internet gesucht habe. Raffiniertere Anwendungen beobachten sogar meine Mausbewegungen und versuchen daraus zu ermitteln, ob ich demnächst die Seite verlassen werde. Um das zu verhindern, wird kurz zuvor ein Pop-Up eingeblendet, das mich zum Bleiben und, noch besser, zum Bestellen anregen soll. Ein anderes Beispiel sind Anzeigen auf Reiseportalen wie „Beeilen Sie sich, fünf weitere Personen schauen sich dieses Angebot gerade an!“ oder „Nur noch 2 Plätze verfügbar!“. Dadurch soll Knappheit suggeriert und unsere Angst, etwas zu verpassen, ausgenutzt werden, damit wir möglichst schnell zuschlagen. Ob das jeweilige Produkt tatsächlich so knapp ist, wie wir glauben, steht auf einem anderen Blatt.
  2. Lenkung von Angestellten: Zweitens sind uns verschiedene Instrumente begegnet, die in Unternehmen zum Einsatz kommen und das Verhalten von Mitarbeiter*innen beeinflussen sollen. Ein interessantes Beispiel ist die Driver App des Fahrdienstunternehmens Uber, weil sie ganz verschiedene Facetten der Beeinflussung zeigt – von einfachen Informationen, welche Route ans Ziel führt, zur Drohung, beim Unterschreiten eines bestimmten Bewertungsdurchschnitts ausgeschlossen zu werden, über finanzielle Anreize für die Fahrt in Gebiete mit hohem Fahrgastaufkommen bis hin zu subtileren, verhaltenswissenschaftlich informierten Instrumenten. Zu letzteren zählen z.B. Gamification-Mechanismen, bei denen Fahrer*innen virtuelle Leistungsabzeichen erhalten, die sie zu weiterhin hoher Leistung motivieren sollen. Ebenso ist dokumentiert worden, dass die App Fahrer*innen, die Feierabend machen und sich aus der App ausloggen möchten, Nachrichten anzeigt wie „Sind Sie sicher, dass Sie jetzt offline gehen möchten? Die Nachfrage in Ihrer Nähe ist gerade sehr hoch. Verdienen Sie mehr Geld, hören Sie jetzt nicht auf!“.
  3. Selbstbeobachtung und Selbstoptimierung: Dieser dritten Gruppe ordnen wir alle Anwendungen zu, die Menschen dazu einsetzen, um auf ihr eigenes Verhalten einzuwirken, z.B. auf ihr Fitness-, Ernährungs- oder Einkaufsverhalten. Ein Beispiel ist die App FoodSwitch, die Menschen im Supermarkt dabei helfen soll, gesunde Lebensmittel auszuwählen. Dazu geben die Nutzer*innen zunächst an, in welcher Hinsicht das Essverhalten verbessert, ob beispielsweise weniger Fett oder Zucker konsumiert werden soll. Mit der Kamera des Smartphones können die Strichcodes der verschiedenen Produkte eingescannt werden. Kund*innen können sich dann die entsprechenden Nährwerte anzeigen lassen, die zusätzlich mit einer Art Ampelsystem codiert sind: grün für gesund, rot für ungesund. So reduziert die App für die Benutzer*innen die Komplexität von Nährwertinformationen und hilft ihnen, gemäß ihren eigenen Präferenzen Kaufentscheidungen zu treffen.

Welches Problem soll das Nudging lösen?

Nudging bzw. Verhaltensbeeinflussung soll für die, die es einsetzen, grundsätzlich das Problem lösen, dass Menschen sich oft anders verhalten, als bestimmte Akteure sich das wünschen. Der Staat möchte, dass die Steuern pünktlich gezahlt werden, ein Unternehmen möchte viele Produkte verkaufen und Umweltverbände möchten, dass Menschen ihren Müll trennen. Dies sind ganz unterschiedliche Ziele, aber sie haben alle die Gemeinsamkeit, dass Menschen zu bestimmten Verhaltensweisen angeregt werden sollen. Mithilfe von Nudges soll dies effektiver und kostengünstiger als durch monetäre Anreize oder Verbote geschehen – es ist also ein verhältnismäßig junges Instrument unter zahlreichen anderen, mit denen Verhalten in eine bestimmte Richtung gelenkt werden soll.

Inwiefern kann Nudging zu Diskriminierung führen?

Grundsätzlich kann Big Data-gestützte Verhaltensbeeinflussung bestehende Diskriminierungen vermindern oder ausgleichen, aber auch gezielt verstärken. Beides lässt sich bewerkstelligen, indem durch ausgefeilte Tracking- und Analysemethoden bestimmte Personengruppen definiert werden, um sie gezielt zu beeinflussen. Beispielsweise könnte Personen, die sich in einer emotionalen oder finanziellen Notlage zu befinden scheinen, personalisierte Werbung für überteuerte Kredite zugespielt werden, was bestehende Nachteile noch verstärken würde. Ebenso gut wäre es aber auch machbar, dieser Personengruppe Informationen über Beratungs- und Unterstützungsangebote zukommen zu lassen.

Ist es legitim, Menschen auf diese Art und Weise zu beeinflussen? Darf überhaupt über ihre Köpfe hinweg entschieden werden, was das Beste für sie ist?

Die Legitimität dieser Art von Verhaltensbeeinflussung ist hochumstritten und die Frage, ob das Handeln einzelner Personen, Gruppen oder Organisationen den eigenen normativen Maßstäben entspricht, muss jede Person selbst beantworten. Wissenschaft kann selbstverständlich nicht verbindlich definieren, was legitim ist und was nicht und welche Maßstäbe gelten sollten. Sie kann aber immerhin Vorschläge machen, welche Kriterien eine vernünftige Bewertung anleiten können. Wir haben uns am Wert der Selbstbestimmung orientiert, weil dieser tief in der politischen Tradition verwurzelt und gleichzeitig unabhängig davon ist, welche konkreten Zwecke selbstbestimmt verfolgt werden.

Bei der Beantwortung der Legitimitätsfrage macht es zunächst Sinn, zwischen den verschiedenen Akteuren zu unterscheiden, die Instrumente Big Data-gestützter Verhaltensbeeinflussung einsetzen. Je nachdem, ob wir es mit dem Staat oder einem Unternehmen zu tun haben, haben wir verschiedene Vorstellungen davon, was angemessen ist. Big Data-gestützte Verhaltensbeeinflussung durch den Staat lässt sich etwa rechtfertigen, wenn sie Dritte vor den negativen Konsequenzen meiner eigenen Entscheidungen schützt oder wenn sie durch demokratische Verfahren legitimiert worden ist. Bei der Verhaltensbeeinflussung durch Unternehmen, die den Großteil der von uns beschriebenen Fälle ausmacht, stellen sich andere Fragen. Hier spielt es eine Rolle, ob ein Instrument die Machtverhältnisse zwischen Unternehmen und Kund*innen bzw. zwischen Unternehmen und Angestellten zugunsten der Unternehmen verschiebt und, wenn ja, ob die Betroffenen dem zugestimmt haben.

Nudging: Regulierung durch Big Data und Verhaltenswissenschaften (Publikation)

Die Bewertung Big Data-gestützter Verhaltensbeeinflussung hängt auch davon ab, wie genau die einzelnen Instrumente funktionieren. Hier macht es Sinn, sich an der Unterscheidung zwischen sogenannten System-1-Nudges und System-2-Nudges zu orientieren. Erstere versuchen, Verhalten durch Ausnutzung unbewusster kognitiver Prozesse zu beeinflussen. System-2-Nudges dagegen unterstützen die bewusste Entscheidungsfindung, indem sie zusätzliche Informationen zur Verfügung stellen oder die Komplexität von Informationen reduzieren. Ein Beispiel ist die Preisangabe pro 100 Gramm, die den Preisvergleich bei Produkten in unterschiedlichen Packungsgrößen vereinfacht. Solche Instrumente scheinen mir nicht sonderlich problematisch zu sein, weil sie die Entscheidungshoheit von Menschen nicht untergraben. Auch Verbraucherschutzhinweise, die es schon lange gibt, fallen in diese Kategorie. Schwerer zu rechtfertigen sind dagegen Nudges des ersten Typs, da sie die bewussten Entscheidungskapazitäten von Personen umgehen und insofern die individuelle Selbstbestimmung gefährden können. Deswegen stellen sich an diese Instrumente höhere Anforderungen als bei System-2-Nudges – man könnte sagen, hier erhöht sich die Beweislast zu Ungunsten der Beeinflussung.

Wie sind Sie in Ihrer Studie vorgegangen?

Zunächst sind wir der Frage nachgegangen, wie das Phänomen Big Data-gestützte Verhaltensbeeinflussung theoretisch angemessen erfasst werden kann. Nachdem wir diese grundlegende Frage für uns beantwortet hatten, haben wir uns eine Reihe weiterer Fragen gestellt: Welche Varianten Big Data-gestützter Verhaltensbeeinflussung können beobachtet werden, wenn man einen Blick auf zeitgenössische Forschungsarbeiten wirft? Mit welchen Auswirkungen rechnet die Forschung aktuell? Unter welchen Bedingungen können solche Instrumente legitim und legal sein und unter welchen nicht? Welche Handlungsempfehlungen leiten sich daraus für Politik, Öffentlichkeit und Forschung ab? Die einzelnen Kapitel in unserem Gutachten sollen diese Fragen beantworten. Die Vielfalt der Fragestellungen hat sich dabei auch in unserem Team widergespiegelt: Zu viert vereinen Maximilian von Grafenstein, Julian Hölzel, Jörg Pohle und ich Perspektiven aus der Informatik, der Rechts- und der Politikwissenschaft sowie der Soziologie.

Welche Forderungen und Empfehlungen leiten Sie aus der Studie ab? Was soll sich dadurch ändern?

Aus den Antworten auf die eben genannten Fragen haben wir im Wesentlichen drei Gruppen von Empfehlungen abgeleitet, die zur Stärkung der individuellen und der kollektiven Selbstbestimmung im Umgang mit Big Data-gestützter Verhaltensbeeinflussung beitragen sollen:

  1. Die Erhöhung von Transparenz, Bildung und Öffentlichkeitsarbeit: Die erste Gruppe unserer Vorschläge zielt darauf ab, sowohl Einzelne als auch die Gesellschaft als Ganze in Stand zu versetzen, informierte Entscheidungen darüber zu treffen, welche Instrumente akzeptabel sind und welche nicht, welchen man sich aussetzen möchte und welchen nicht. Weil es zum Funktionsprinzip einiger Instrumente gehört, gerade nicht bemerkt zu werden, ist die Herstellung von Transparenz enorm wichtig. Dazu könnte ein öffentlich einsehbares Register beitragen, das einen Überblick über die verschiedenen eingesetzten Anwendungen Big Data-gestützter Verhaltensbeeinflussung verschafft. Ebenfalls zur Transparenz beitragen könnten standardisierte Hinweise auf die Arten von Verhaltensbeeinflussung, die von bestimmten Apps oder Websites eingesetzt werden. Ein weiterer wichtiger, aber keineswegs neuer oder Nudging-spezifischer Punkt ist die Medienbildung von Kindern und Jugendlichen, damit diese sich in digitalen Entscheidungsarchitekturen selbstbestimmt bewegen können.
  2. Rechtliche Empfehlungen: Die zweite Gruppe unserer Empfehlungen ist rechtlicher Art. Dazu zählt die Empfehlung, für besonders gefährdete oder schützenswerte Bereiche Verbote oder Erlaubnisvorbehalte zu schaffen, um etwa zu verhindern, dass Minderjährige und andere schutzbedürftige Personengruppen durch Big Data-gestützte Verhaltensbeeinflussung geschädigt werden. Auch sollten Verfahren etabliert werden, mit denen Diskriminierungen einzelner Gruppen aufgedeckt werden können – und zwar auch dann, wenn sie erst später auftreten. Ebenso halten wir es für sinnvoll, das juristische Verständnis dessen, was eine verbotene „aggressive geschäftliche Handlung“ darstellt, an den Stand der Debatte um Nudging anzupassen.
  3. Forschungsbedarf: Drittens schließlich haben wir bei der Beantwortung unserer Forschungsfragen bemerkt, wie viele weitere Fragen noch offen sind. Das Gutachten hat zwar einen groben Überblick über die Bandbreite der Instrumente Big Data-gestützter Verhaltensbeeinflussung verschaffen können. Damit wir aber ein einigermaßen vollständiges und aktuelles Bild davon bekommen, wie digitale Technologien zur Verhaltensbeeinflussung genutzt werden, bedarf es einer dauerhaften Forschung. Darüber hinaus haben wir bemerkt, dass die wissenschaftliche Diskussion um diese Instrumente aus ganz verschiedenen disziplinären Perspektiven und unter verschiedenen Begriffen geführt wird. Das ist an sich nicht schlimm, wird aber zu einem gesellschaftlichen Problem, wenn diese Perspektiven einander nicht mehr wahrnehmen. Damit alle relevanten Erkenntnisse in der öffentlichen Debatte berücksichtigt werden, schlagen wir vor, weiterhin auch solche Forschungsprojekte zu fördern, die die verschiedenen Debattenstränge unter einem einheitlichen Begriffsapparat zusammenführen.

Shoshana Zuboff zeichnet das Bild eines aufziehenden „Überwachungskapitalismus“. Sind die Befürchtungen begründet, dass Menschen bald kaum mehr eigenständig handeln und von Unternehmen in die Unmündigkeit getrieben werden? Wie schätzen Sie die zukünftige Entwicklung von Nudging im digitalen Zeitalter ein?

Für unbegründet halte ich diese Befürchtungen nicht: Bei unserer Studie sind uns gruselige Anwendungen begegnet, die mit Menschen auf bedenkliche Weise umgehen, aber von ihren Entwickler*innen als großartige Innovationen gepriesen werden. Psychologie, Verhaltens- und Neurowissenschaften produzieren immer ausgefeiltere Theorien über menschliches Verhalten. Informationstechnische Systeme beobachten uns in einer wachsenden Zahl von Lebensbereichen und verfeinern ihre Analyseraster zunehmend.

Andererseits dürfen wir angesichts solcher Szenarien nicht in lähmenden Fatalismus verfallen. Der Aufstieg datengestützter Verhaltensbeeinflussung ist weder eine Naturgewalt noch Schicksal. Schon jetzt ist vieles gesetzlich verboten oder reguliert, was technisch machbar ist. Genauso lässt sich Big Data-gestützte Verhaltensbeeinflussung politisch in den Griff bekommen, wenn genügend öffentlicher Druck aufgebaut wird. Wie die Zukunft digitaler Verhaltensbeeinflussung aussieht, liegt also in unserer Hand.

This post represents the view of the author and does not necessarily represent the view of the institute itself. For more information about the topics of these articles and associated research projects, please contact info@hiig.de.

Related articles

chuttersnap-339389-unsplash

Harnessing artificial intelligence the African way

While all eyes are on Western industrial nations, Nigerian human rights lawyer Olumide Babalola is concerned about AI regulation in Africa. He fears that some countries will adopt the repressive...
braden-collum-87875-unsplash

Global AI race: States aiming for the top

There hardly exists a buzzword today that fires everybody‘s imagination in the tech world like “artificial intelligence” (AI). But not only giants like Google, Facebook, Baidu or Alibaba are trying...
chris-moore-641258-unsplash

Energizing the energy future

What if the entire progress of society depends on the future energy system? At least that's how visionaries like Jeremy Rifkin argue. The list of challenges posed by the energy...