Der Oberste Gerichtshof will die geheimen KI-Algorithmen des Softwareprogramms, die den Menschen ins Gefängnis brachten, abwägen

Youtube
Bitte teilen Sie diese Geschichte!

Als Oberster Richter John G. Roberts Jr. letzten Monat das Rensselaer Polytechnic Institute besuchte, Ihm wurde eine überraschende Frage gestellt, einer mit Anklängen an Science Fiction.

"Können Sie einen Tag voraussehen", fragte Shirley Ann Jackson, Präsident des Colleges im US-Bundesstaat New York, "wann helfen intelligente Maschinen, die mit künstlicher Intelligenz betrieben werden, bei der Ermittlung von Fakten im Gerichtssaal oder, noch kontroverser, bei der gerichtlichen Entscheidungsfindung?"

Die Antwort des Obersten Richters war überraschender als die Frage. "Es ist ein Tag, der hier ist", sagte er, "und es ist eine erhebliche Belastung für die Justiz, Dinge zu tun."

Vielleicht hat er über den Fall eines Wisconsin-Mannes nachgedacht, Eric L. Loomis, der zu sechs Jahren Gefängnis verurteilt wurde Teilweise basierend auf firmeneigener Software. Herr Loomis sagt, sein Recht auf ein ordnungsgemäßes Verfahren sei verletzt worden, weil ein Richter einen Bericht geprüft habe, der mit dem geheimen Algorithmus der Software erstellt worden sei. Ein Bericht, den Herr Loomis nicht einsehen oder anfechten konnte.

Im März fragten sie die Bundesregierung, um zu signalisieren, dass die Richter von Herrn Loomis 'Fall fasziniert waren einen Schriftsatz eines Gerichtsfreundes einzureichen Sie äußert sich dazu, ob das Gericht seine Berufung anhören soll.

Der Bericht in Mr. Loomis 'Fall wurde von einem Produkt namens Compas erstellt, das von Northpointe Inc. vertrieben wird. Er enthielt eine Reihe von Balkendiagrammen, in denen das Risiko bewertet wurde, dass Mr. Loomis mehr Verbrechen begehen würde.

Der Compas-Bericht, so teilte ein Staatsanwalt dem Richter mit, weise "ein hohes Risiko für Gewalt, ein hohes Risiko für Rückfälle und ein hohes Risiko vor Gericht" auf eine Person, die ein hohes Risiko für die Gemeinschaft darstellt. “

Der Oberste Gerichtshof von Wisconsin entschieden gegen Herrn Loomis. Der Bericht fügte wertvolle Informationen hinzu, und Herr Loomis hätte die gleiche Strafe erhalten, die ausschließlich auf den üblichen Faktoren beruhte, einschließlich seines Verbrechens - der Flucht vor der Polizei in einem Auto - und seiner Kriminalgeschichte.

Gleichzeitig schien es dem Gericht unangenehm, einen Mann mit einem geheimen Algorithmus ins Gefängnis zu schicken. Gerechtigkeit Ann Walsh Bradleyschriftlich für das Gericht, besprochen, zum Beispiel, ein Bericht von ProPublica über Compas das geschlossen diese schwarzen Angeklagten in Broward County, Florida, "waren weitaus wahrscheinlicher als weiße Angeklagte, fälschlicherweise mit einer höheren Rezidivrate beurteilt zu werden."

Richter Bradley stellte fest, dass Northpointe hatte bestritt die Analyse. Dennoch schrieb sie: "Diese und andere Studien werfen Bedenken hinsichtlich der Korrelation der Risikofaktoren einer Compas-Bewertung mit der Rasse auf."

Am Ende erlaubte Justice Bradley jedoch den Richtern, Compas zu benutzen. Sie müssen die Einschränkungen des Algorithmus und die damit verbundene Geheimhaltung berücksichtigen, meinte jedoch, die Software könne hilfreich sein, "um dem Strafgericht so viele Informationen wie möglich zur Verfügung zu stellen, um zu einem individualisierten Urteil zu gelangen".

Justice Bradley machte die Rolle von Compas bei der Verurteilung zu einer klingenden Überlegung der Rasse im ganzheitlichen Zulassungsprogramm einer ausgewählten Universität. Es könnte ein Faktor unter vielen sein, schrieb sie, aber nicht der bestimmende.

Lesen Sie die ganze Geschichte hier…

Abonnieren
Benachrichtigung von
Gast

1 Kommentar
Älteste
Neueste Am meisten gewählt
Inline-Feedbacks
Alle Kommentare anzeigen
Paul Godden

Die 1980er TV-Serie von Blake aus den 7er Jahren hatte eine kleine Schachtel, in der Blake und seine Freunde beurteilt und in die Strafkolonie auf Jupiter geschickt wurden. Ich denke, es ist in der ersten Folge von Blakes 7, in der sie vor Gericht stehen.