Der Human in the Loop bei der automatisierten Kreditvergabe – Menschliche Expertise für größere Fairness

Im digitalen Zeitalter sind automatisierte Prozesse, bei denen Entscheidungen teilweise oder ganz ohne menschliches Zutun fallen, immer mehr Usus. Sie basieren auf Algorithmen, Künstlicher Intelligenz (KI) oder regelbasierten Systemen und finden etwa im Gesundheitswesen oder in der Finanzwelt Anwendung – dort auch bei der Kreditvergabe. Die erste Fallstudie unseres Forschungsprojektes Human in the Loop? Autonomie und Automation in sozio-technischen Systemen untersucht genau diesen Bereich: Wie arbeiten bei der Kreditvergabe automatisierte Prozesse und menschliche Akteur:innen im Rahmen der Entscheidungsfindung zusammen? Wer hat die Aufsicht? Wer sichert die Qualität der Entscheidungen?