Wer monitort wen? Zwischen menschlicher Aufsicht und maschineller Überwachung

Wer monitort wen? Zwischen menschlicher Aufsicht und maschineller Überwachung
Automatisierung in der Polizeiarbeit verantwortungsvoll gestalten

Workshop
2. Dezember 2026 • Uhrzeit tbd.
Universität Mannheim

Eine Wand voller Monitore, ein blinkender Hinweis, eine Entscheidung, bei der es um Sekunden geht: in einem Pilotprojekt in Mannheim unterstützt eine Software Polizeibeamt*innen bei der Video-Überwachung ‘kriminalitätsbelasteter Orte’. Das KI-basierte System soll dabei unter anderem gewalttätiges Verhalten automatisch erkennen und davor warnen, damit Einsatzkräfte vor Ort eingreifen können. Die Maschine liefert aber nur eine Tendenz, der Mensch entscheidet am Ende, ob tatsächlich eingegriffen wird. Der ‘Mannheimer Fall’ ist dabei nur ein Beispiel für die zunehmende Automatisierung in der Polizeiarbeit, welche wir im Forschungsprojekt Human in the Loop? als eine von vier Fallstudien zur Rolle von Menschen in (teil-)automatisierten Entscheidungsprozessen untersuchen.

In diesem Workshop möchte das HIIG-Forschungsteam mit Vertreter*innen aus Polizei, Justiz, Forschung, Politik und Zivilgesellschaft über Erfahrungswerte mit und Prognosen für unterstützende Software in der Polizeiarbeit diskutieren. Das oben erwähnte Projekt Videoschutz Mannheim dient hierfür als hochaktueller, praxiserprobter Ausgangspunkt. Wir richten die Perspektive aber noch weiter in die Zukunft: von Gesichtserkennung über umfassende Datenanalysen bis zum sogenannten ‘Predictive Policing’ soll die Rolle des Menschen in zunehmend automatisierten, polizeilichen Entscheidungsprozessen reflektiert werden. 

Welche funktionalen und regionalen Erweiterungen derartiger Systeme sind absehbar, was ist technisch möglich, kriminologisch begründbar und rechtlich zulässig? Wie gut funktioniert die Umsetzung in der Praxis und welche Risiken gehen damit einher? Bin ich als Bürger*in in meinen Grundrechten gestärkt oder geschwächt, wenn mich eine Software, statt einem Menschen, analysiert? Und wie empfinden Polizeibeamt*innen ihre neue Rolle als Schnittstelle zwischen analoger Bewertung und digitaler Assistenz?

Zwischen politischem Handlungsdruck, technischer Machbarkeit und den tatsächlichen Bedürfnissen der polizeilichen Arbeit entstehen Spannungsfelder, die wir gemeinsam sichtbar machen und offen mit relevanten Expert*innen/Ihnen diskutieren möchten.

Eine detaillierte Agenda wird in Kürze auf dieser Seite veröffentlicht.

Zum Projekt

Das Projekt Human in the Loop? Autonomie und Automation in sozio-technischen Systemen zielt darauf ab, die Rollen von Menschen in zunehmend automatisierten Entscheidungsprozessen zu verstehen. Vor allem regulatorisch wird häufig die Einbindung von Menschen in diese Prozesse gefordert, um Systeme zu überwachen und zu verbessern. Doch damit ein Mensch diese Rolle erfüllen kann, müssen Faktoren berücksichtigt werden, die den Erfolg der Einbindung beeinflussen. Das Forschungsprojekt analysiert daher anhand von vier Fallstudien, wie menschliche Beteiligung besser in (teil-)automatisierte Entscheidungsprozesse integriert werden kann. Es untersucht Faktoren, die den Prozess der Entscheidungsfindung beeinflussen und identifiziert Probleme, die erst durch die Zusammenarbeit von Mensch und Maschine entstehen. Zentrale Fragen betreffen die Gestaltung dieser Zusammenarbeit, die Bedeutung des Menschen für die Qualitätssicherung in Entscheidungsprozessen sowie die Sicherstellung von Rechtssicherheit, Transparenz und Nachvollziehbarkeit in diesen.

Teilnahme

Die Teilnahme an diesem Workshop erfolgt ausschließlich auf persönliche Einladung. Sollten Sie Interesse an einer Teilnahme haben, wenden Sie sich bitte an Daniel Pothmann (daniel.pothmann@hiig.de). 

Partner

Das Projekt Human in the Loop? wird von der Stiftung Mercator gefördert.