ETH Zürich: Einsatz der künstlichen Intelligenz in der Justiz

Künstliche Intelligenz verspricht, Richter in ihren Entscheidungen zu unterstützen.

Tatsächlich macht sie deren Entscheidungen und Aufgaben aber komplexer, schreibt Ayisha Piotti, Direktorin für AI Policy am Zentrum für Recht und Wirtschaft der ETH Zürich.

Die künstliche Intelligenz (KI) transformiert derzeit die Gesellschaft.

Jenseits von den vieldiskutierten Systemen wie Chat GPT oder Dall-E, das Bilder generieren kann, hat die Technologie auch Einzug gehalten in die tägliche Arbeit von Anwälten und teilweise sogar von Richtern.

Derzeit befinden sich solche Anwendungen zwar noch in der Anfangsphase, doch die KI hat das Potenzial, unser Justizsystem zu verändern.

Sie verspricht nicht nur wesentliche Vorteile, sondern wirft auch neue ethische und rechtliche Fragen auf.

Und auch die Rollen und Kompetenzanforderungen von Anwälten und der Richter werden sich ändern.

Anwaltskanzleien und Gerichte werden in Zukunft effizienter arbeiten und repetitive Aufgaben automatisieren können.

Der heute notorische Rückstau an Fällen bei Gerichten wird dadurch hoffentlich verringert.

Schon heute werden KI-gestützte Systeme von Juristen eingesetzt, beispielsweise um grosse Datenmengen zu analysieren und Verträge zu prüfen.

Und einige Gerichte in den USA setzen KI-Systeme ein, um sie bei Entscheidungen der Strafzumessung zu unterstützen oder die Rückfallgefahr von Straffälligen vorauszusagen.

Allerdings gibt es Fallstricke: Heutige Algorithmen der KI sind häufig nicht transparent genug, um die hohen Anforderungen der Rechenschaftspflicht in der Justiz zu erfüllen.

Kritiker befürchten ausserdem, dass KI-Systeme Voreingenommenheit und Diskriminierung in der Rechtsprechung verstärken könnten.

Denn die Zuverlässigkeit von KI-Systemen hängt von der Qualität der eingegebenen Daten ab.

Wenn KI-Unterstützungssysteme auf der Grundlage von voreingenommenen Daten trainiert werden, kann dies zu ungerechten Gerichtsurteilen führen.

Um solche unbeabsichtigten Folgen zu minimieren, muss man KI-Systeme zwingend rigoros testen, bevor man sie einsetzt. Ausserdem braucht es neue regulatorische Leitlinien.

Die EU stuft den Einsatz von KI in der Justiz zurecht als Hochrisikoanwendung ein und wird sie im derzeit diskutierten KI-Gesetz in Bezug auf unter anderem Transparenz, Aufsicht und Cybersicherheit streng zu regulieren.

Für Ayisha Piotti gehört die Rechtsprechung zu den sensiblen und kritischen Bereichen des Lebens, in dem KI-Systeme den Menschen nicht ganz ersetzen dürfen.

Um die Rechenschaft zu garantieren, muss man Menschen im System einbinden. Sie ist überzeugt, dass es den Menschen als Wächter der KI braucht.

Richter werden in Zukunft nicht nur Urteile fällen, sondern auch darüber entscheiden müssen, wie KI bei der Urteilsfindung zum Einsatz kommt.

Man muss die Vor- und Nachteile der KI kennen und die damit verbundenen Spannungsfelder im Auge behalten und diese in bewussten Entscheidungen austarieren.

Ein solches Spannungsfeld ist beispielsweise jenes zwischen Schnelligkeit und Gründlichkeit.

Die KI ist zweifellos schnell und mache Juristen argumentieren, dass aufgeschobene Gerechtigkeit verweigerte Gerechtigkeit ist.

Eine unvollkommene Entscheidung, die heute gefällt wird, kann daher besser sein als eine perfekte Entscheidung, die gar nicht gefällt wird.

Ein weiteres Spannungsfeld ist jenes zwischen Zweckmässigkeit und Sicherheit.

Heute gibt es noch keine Standards, welche den Einsatz von KI in der Justiz sowie deren Gültigkeit und Zuverlässigkeit regeln.

Richter müssen ihr Urteilsvermögen einsetzen, wenn sie sich in ihrer Arbeit von der KI unterstützen lassen.

Weitere Details können auf der Webseite der Gemeinde eingesehen werden.