Künstliche Intelligenz bringt Menschen in den Knast
In den USA berechnet vor der Urteilsprechung teilweise eine KI die Rückfallwahrscheinlichkeit eines Angeklagten. Faktoren wie die Lohnklasse spielen eine Rolle.
Das Wichtigste in Kürze
- Die Wichtigkeit von KI in der Exekutive und Judikative der USA nimmt stetig zu.
- Das kann ungewollte Folgen haben.
- Menschen aus armen Verhältnissen kommen eher ins Gefängnis.
Rund 2,2 Millionen Menschen befinden sich in der USA in Haft. 4,5 Millionen weitere müssen des Gesetzes wegen an einem Verhaltenskorrektur-Programm teilnehmen. Das passt vielen Politikern nicht.
Gesichtserkennung wirft Schwarze in einen Topf
Die US-Regierung möchte der hohen Anzahl Gefängnis-Insassen und Massnahmen darum entgegenwirken und greift auf teils umstrittene Mittel zurück: Immer mehr kommen automatisierte Prozesse zum Zug, wie aus einem Bericht von «Technology Review» hervorgeht.
Algorithmen determinieren dann beispielsweise, in welchen Zonen ein Polizeieinsatz am wahrscheinlichsten zu Verhaftungen führt. Entsprechend werden Einsatzkräfte dorthin geschickt. Die Gesichtserkennung kommt bei der Fahndung nach Verdächtigen zum Zug.
Wie sich in Vergangenheit jedoch oftmals hinausstellte, funktioniert diese bei dunkelhäutigen Menschen weniger gut als bei hellhäutigen Menschen. Das liegt insbesondere daran, dass wo weniger Licht reflektiert wird, Kontraste weniger gut zu erkennen sind. Letztere sind nötig um Eigenheiten eines Gesichtes zu erkennen.
Kommen Tieflöhner wegen künstlicher Intelligenz eher ins Gefängnis?
Doch die Logik eines Computerprogramms kann auch nach der Verhaftung eine Rolle spielen. Mit Risiko-Evaluierungs-Tools kommen in den USA teilweise kontroverse Anwendungen zum Einsatz, die Einfluss auf die Art der Urteilssprechung ausüben. Sie sollen die kriminelle Energie einer Person und somit deren Rückfallwahrscheinlichkeit ermessen.
Theoretisch können dabei sogar Faktoren wie die Einkommensklasse einer Person zu einem höheren Kriminalitäts-Ranking führen. Denn: Statistisch gesehen begehen Menschen niederer Einkommensklassen häufiger Verbrechen, (die aufgedeckt werden) als finanziell gut situierte Menschen. Die KI muss sich bei der Berechnung des Risikos auf statistische Korrelationen stützen.
Je höher die Punktzahl, umso mehr zieht der Richter also harte Massnahmen wie das Gefängnis in Betracht. Mehr als hundert Organisationen haben bereits eine Petition unterschrieben, welche die Abschaffung dieser Risikobewertungs-Tools fordert.
