Human in the Loop?

„Wenn Automatisierung – beschleunigt, durch künstliche Intelligenz – Risiken hervorruft, wird häufig darauf verwiesen, dass letztlich ein Mensch einbezogen sein muss und die Letzt-Entscheidung trifft. Aber unter welchen Voraussetzungen macht dieser ‘Human in the Loop‘ wirklich einen Unterschied? Das hängt von vielen Bedingungen ab: seiner Qualifikation, den Möglichkeiten, die maschinellen Prozesse zu beeinflussen, Haftungsregungen und anderes mehr. In dem nun startenden Projekt  wollen wir diese Bedingungen in unterschiedlichen Gesellschaftsbereichen untersuchen. Die Ergebnisse sollen helfen, einen an Rechten und Werten orientierten Einsatz von KI zu ermöglichen.“

Wolfgang Schulz

„Wir sind fasziniert von der Frage, wie Menschen und KI-Systeme in Entscheidungsprozessen interagieren. Was dürfen Maschinen für uns steuern? Wann müssen Menschen entscheiden? Das sind Themen, die zunehmend Relevanz gewinnen und uns helfen, einen Beitrag dazu zu leisten, die Rolle der Menschen in digitalen Zeiten neu zu bestimmen. Der Mensch wird hier oft als Allheilmittel für die Probleme und Fehlerquellen automatisierter Entscheidungen verstanden. Wie genau eine solche Einbindung funktionieren soll, ist jedoch oft unklar. Mit unseren verschiedenen Fallstudien im Forschungsprojekt Human in the Loop? suchen wir Lösungen für dieses Problem, die auch in der Praxis Bestand haben. Sie sollen die Integration menschlicher Entscheidungen in KI-gestützte Prozesse auf eine ethisch verantwortungsvolle und praktisch umsetzbare Weise ermöglichen.“

Matthias C. Kettemann

„In vielen Bereichen sollen Aufsicht und Letztentscheidung im Zusammenspiel zwischen Menschen und KI-Systemen und Algorithmen beim Menschen bleiben. Wir fragen uns, wie dieses Zusammenspiel gestaltet werden muss, damit dies gelingt und wie überhaupt ‘gute’ Entscheidungssysteme aussehen. Denn in unserer Gesellschaft spielt das Zusammenspiel zwischen Mensch und Maschine für immer mehr Entscheidungen eine Rolle. Dies bringt positive Effekte mit sich, zum Beispiel kann es Effektivität steigern oder auch Entscheidungen unterstützen. Gleichzeitig birgt der Einsatz von KI-Systemen auch Risiken. Wir fragen uns im Forschungsprojekt Human in the Loop?, wie das Zusammenspiel zwischen Mensch und KI-Systemen gestaltet sein muss, damit sie auch in Zukunft demokratische Werte und bürgerliche Rechte sicherstellen.“

Theresa Züger

„Die Integration von KI in Entscheidungsprozesse wirft nicht nur organisatorische, technische und rechtliche, sondern auch gesellschaftliche Fragen auf: Was verstehen wir unter einer ‚guten Entscheidung' und wer definiert die Kriterien? Oft wird suggeriert, menschliches Eingreifen führe automatisch zu besseren Ergebnissen. Doch menschliche Entscheidungen sind nicht immer rational, sondern sozio-kulturell eingebettet und von Machtverhältnissen geprägt. Dies setzt sich auch in KI-Technologien fort. Wir müssen also die Entscheidungsprozesse selbst betrachten: Wie werden sie organisiert, kommuniziert und legitimiert? Erst wenn diese offen, nachvollziehbar und plural gestaltet sind, ist auch das Ergebnis demokratisch tragfähig – unabhängig davon, ob es von Mensch, Maschine oder beiden stammt.“

Maurice Stenzel