{"id":61583,"date":"2019-08-07T10:55:04","date_gmt":"2019-08-07T08:55:04","guid":{"rendered":"https:\/\/www.hiig.de\/?p=61583"},"modified":"2023-03-28T17:10:07","modified_gmt":"2023-03-28T15:10:07","slug":"robot-judge-verdict-in-the-name-of-the-algorithm","status":"publish","type":"post","link":"https:\/\/www.hiig.de\/en\/robot-judge-verdict-in-the-name-of-the-algorithm\/","title":{"rendered":"Robot judge: Verdict in the name of the algorithm?"},"content":{"rendered":"\n

Smaller legal disputes in Estonia are to be decided by Artificial Intelligence. In the USA, algorithms are already making decisions about penalties and bail amounts. In Germany, too, there is debate as to whether “robots” will be able to pass sentences. Franziska Oehmer shows what opportunities and challenges are associated with this.\n<\/em><\/p>\n\n\n\n

Es gibt kaum einen Bereich, eine Branche oder Profession in der nicht \u00fcber M\u00f6glichkeiten, Chancen und Risiken des Einsatzes von K\u00fcnstlicher Intelligenz (KI oder engl. AI) diskutiert wird \u2013 sei es im Medizinbereich<\/strong> in der Diagnostik oder zum Monitoren<\/strong><\/a> <\/strong>von Gesundheitsdaten, in der <\/strong>Pflege<\/strong><\/a> oder bei der Bewerberauswahl<\/strong><\/a> in Personalabteilungen. Die Justiz galt lange Zeit als weitgehend zur\u00fcckhaltend gegen\u00fcber digitalen Entwicklungen. Doch sp\u00e4testens seit der Einf\u00fchrung von algorithmenbasierten, automatisierten Entscheidungssystemen, die in den USA \u00fcber das Strafma\u00df oder auch die Kaution mitbestimmen und j\u00fcngst auch in Estland bei Streitigkeiten mit Schadenssummen von bis zu 6.400 Euro zur Anwendung kommen (sollen), wird auch hierzulande in der \u00d6ffentlichkeit und Fachkreisen \u00fcber den Einsatz von \u201eRobotern als <\/strong>Richtern<\/strong><\/a>\u201c<\/strong> und den damit verbundenen Risiken und Chancen debattiert.<\/p>\n\n\n\n

Herausforderungen von algorithmenbasierten Urteilen<\/strong><\/h2>\n\n\n\n

Das Recht und die jeweilige Gesetzeslage sei, so der Tenor der Technikskeptiker [1], zu komplex, um in Algorithmen \u00fcbersetzt werden zu k\u00f6nnen. Zudem k\u00f6nne eine \u201eMaschine\u201c den Spezifika des zu beurteilenden juristischen Einzelfalls nicht gerecht werden: So m\u00fcsse ein Gericht s\u00e4mtliche Tatumst\u00e4nde und relevanten Merkmale eines (vermeintlichen) T\u00e4ters wie pers\u00f6nliche Eigenschaften, Lebensumst\u00e4nde und m\u00f6gliche Vorstrafen bei der Urteilsfindung ber\u00fccksichtigen. Dabei kann auch das Verhalten der Prozessbeteiligten vor Ort im Gerichtssaal eine Rolle spielen. Auch bereits eine durch starke mediale Berichterstattung w\u00e4hrend des Prozesses erlittene \u00f6ffentliche Anprangerung des Beschuldigten kann mildernd bei der Bemessung des Strafma\u00dfes ber\u00fccksichtigt werden. All diese Informationen in digitale Daten zu \u00fcbertragen und damit maschinellem Entscheiden zug\u00e4nglich zu machen, ist eine Herausforderung und wird Prognosen zufolge auch zuk\u00fcnftig nicht oder nur bedingt in vollem Umfang gelingen. Und selbst wenn dies der Fall sein sollte, so st\u00fcnde eine auf K\u00fcnstlicher Intelligenz basierte Justiz jedoch vor einem Legitimationsproblem: Wenn sie ein Urteil f\u00e4llt, so bleibt der dahinter liegende Mechanismus, der zum Entscheid gef\u00fchrt hat, als Black Box intransparent, damit nicht nachvollziehbar und kontrollierbar. Zudem w\u00fcrden Entscheide einer K\u00fcnstlichen Intelligenz neue gesellschaftliche und technologische Trends oder sich wandelnde Wertvorstellungen bspw. zur Stellung gleichgeschlechtlicher Partnerschaften oder zum Umwelt- und Klimaschutz nicht mitber\u00fccksichtigen oder gestalten k\u00f6nnen. Diese m\u00fcssten erst als Input in Form neuer Daten oder Programmierbefehle hinzugegeben werden. Sie w\u00fcrde jedoch nicht von einem Robot Judge<\/em> selbst entwickelt werden k\u00f6nnen. Das Recht w\u00fcrde dann nicht mehr gesellschaftliche Verh\u00e4ltnisse widerspiegeln. Eine wichtige Grundlage f\u00fcr die Anerkennung der Justiz durch die Bev\u00f6lkerung w\u00e4re damit nicht mehr gegeben. <\/p>\n\n\n\n

Chancen von algorithmenbasierten Urteilen<\/strong><\/h2>\n\n\n\n

Andererseits, so die mit K\u00fcnstlicher Intelligenz verbundene Hoffnung [2], sind algorithmenbasierte Entscheide gerechter, da hier keine pers\u00f6nlichen Pr\u00e4ferenzen, Einstellungen oder Vorurteile des Gerichts zum Tragen kommen k\u00f6nnen. So w\u00fcrden diskriminierende Entscheide, wie sie US-Gerichten h\u00e4ufig bei der Verurteilung von Beschuldigen mit Migrationshintergrund unterstellt werden, unm\u00f6glich gemacht. Voraussetzung hierf\u00fcr w\u00e4re allerdings, dass die Daten mit denen Algorithmen trainiert werden, auch neutral sind. Das sind sie aber meist nicht. Denn die Daten stammen von vergangenen menschlichen und damit m\u00f6glicherweise verzerrten Urteilen. So verst\u00e4rkt die vermeintlich objektive Technik aufgrund der ihr zu Grunde liegenden Datenbasis meist noch bestehende vorurteilsbehaftete Verzerrungen bei der Urteilsfindung<\/strong>, statt sie zu verobjektivieren [3]: Einem schwarzen Beschuldigten aus armen Verh\u00e4ltnissen, der in einem bestimmten Ortsteil wohnt, wird von einer algorithmenbasierten Software eine h\u00f6here R\u00fcckfallwahrscheinlichkeit<\/strong><\/a> zugesprochen als einem wei\u00dfen Beschuldigten der Mittelschicht aus einem anderen Wohnort \u2013 beim selben Vergehen. <\/p>\n\n\n\n

In diesen F\u00e4llen werden die mit der K\u00fcnstlichen Intelligenz verbundenen Hoffnungen nicht eingel\u00f6st. In weniger komplexen F\u00e4llen, jedoch, bei denen nicht \u00fcber Haftstrafen, sondern \u00fcber einen geringen Streitwert wie bspw. beim Falschparken verhandelt wird, wie es in Estland vorgesehen ist, kann mit K\u00fcnstlicher Intelligenz die Arbeit der Justiz erheblich entlastet werden: Hier entscheiden \u201eRobot Judges\u201c schnell und effizient \u00fcber vergleichsweise einfache und eindeutige F\u00e4lle auf der Basis einer mehrheitlich einheitlichen pr\u00e4judiziellen Rechtsprechung. Zudem kann mithilfe K\u00fcnstlicher Intelligenz die Recherche nach Mustern in der vergangenen Rechtsprechung oder der juristischen Lehrmeinung, aus denen wiederum Entscheidempfehlungen abgeleitet werden k\u00f6nnen, erheblich vereinfacht werden. Dem Gericht bliebe somit deutlich mehr Zeit, um sich komplexeren Gerichtsf\u00e4llen zu widmen und hier ein begr\u00fcndetes und transparentes Urteil zu f\u00e4llen. <\/p>\n\n\n\n

\n\n\n\n

Sources<\/strong><\/p>\n\n\n\n

[1] Albrecht v. Graevenitz. Zwei mal Zwei ist Gr\u00fcn\u201c \u2013 Mensch und KI im Vergleich. Zeitschrift f\u00fcr Rechtspolitik, 2018, S. 238-241.<\/em><\/p>\n\n\n\n

[2] Ebenda.<\/em><\/p>\n\n\n\n

[3] Dressel Julia; Hany Farid, 2018. <\/em>The accuracy, fairness, and limits of predicting recidivism<\/em><\/a>. Science Advances 4(1), S.1-5. <\/em>
<\/p>\n\n\n\n

\n\n\n\n

Dr. Franziska Oehmer is a senior research assistant and lecturer at the Department of Communication Science and Media Research DCM at the University of Fribourg (CH) and former Fellow at the Humboldt Institute for Internet and Society. Her research interests include mediatization (of law), political communication and digital media governance.\n<\/p>\n\n\n\n


<\/em><\/p>\n