Der Compas-Algorithmus, der seit 1998 für die amerikanische Polizei arbeitet, analysierte die Daten der Angeklagten und half dann auf der Grundlage der erhaltenen Informationen zu entscheiden, ob der Verbrecher gegen Kaution freigelassen oder in Gewahrsam gehalten werden sollte. Bei der Auswahl eines Maßes an Zurückhaltung berücksichtigte das System Alter, Geschlecht und Erfolgsbilanz in der Kriminalität. Für 20 Jahre "Dienst" wurde der Algorithmus von mehr als einer Million Menschen evaluiert, aber kürzlich wurde er für inkompetent erklärt, woraufhin er sofort zurückgerufen wurde.
Wissenschaftler vom Dartmouth College haben getestet, wie genau das System ist und ob es vertrauenswürdig ist. Zu diesem Zweck rekrutierten sie Freiberufler, normale Menschen ohne juristische Ausbildung, um ihre eigenen Entscheidungen auf der Grundlage kurzer Informationen über Personen zu treffen und den Probanden Informationen über Geschlecht, Alter, Kriminalgeschichte und verschiedene andere Parameter zu geben.
Die Genauigkeit der Prognose der Freiberufler, die ein kleines Dossier hatten, betrug fast 70 Prozent, während das Programm um fünf Prozent hinter den Menschen zurückblieb und sich auf 137 Biografiepunkte stützte. Die Analyse der Urteile des Algorithmus ergab, dass schwarze Gefangene eher vom Programm verdächtigt werden.
"Fehler in solchen Fällen können sehr teuer sein. Es lohnt sich daher zu überlegen, ob dieser Algorithmus überhaupt verwendet werden sollte, um Gerichtsurteile zu fällen", sagt einer der Autoren der Studie.
Nachdem die Forscher das Prinzip des Algorithmus untersucht hatten, kamen sie zu dem Schluss, dass die Wahrscheinlichkeit eines Rückfalls umso höher ist, je jünger der Angeklagte ist und je mehr Festnahmen er hinter sich hat. Daher erkannten KI-Spezialisten die Technologie als unzuverlässig an.
Viacheslav Larionov
