Human in the Loop im Gesundheitswesen. Übertragbare Erkenntnisse zur verantwortungsvollen Governance (teil-)automatisierter Entscheidungsprozesse

Der Beitrag behandelt den Human-in-the-Loop-Ansatz als Governance-Konzept für (teil-)automatisierte Entscheidungsprozesse mit Blick auf die Integration im Gesundheitswesen. Ausgangspunkt ist die Frage, wie die Integration des Menschen in sozio-technischen Entscheidungssystemen wirksam gestaltet werden kann. Anhand von Beispielen aus Medizin sowie weiteren Domänen werden Chancen und Risiken automatisierter Systeme diskutiert, insbesondere Effizienzgewinne, aber auch Probleme wie doppelte Unsicherheit für Fachkräfte, Automation Bias, Rubber-Stamping und Kompetenzverlust.