Weil der Mensch unvollkommen ist, ist folglich auch alles, was er erschafft, unvollkommen, einschließlich der Computerprogramme, die alles in unserem Leben ausführen sollen. Darüber hinaus legt das Entropiegesetz nahe, dass alles, was der Mensch erschafft, unvollkommener sein wird als der Schöpfer. Es ist töricht und gefährlich, geheimen Algorithmen unser Leben und Vermögen anzuvertrauen. ⁃ TN Editor
In 1603, Englische Beamte nahmen Sir Walter Raleigh fest. Sie beschuldigten ihn des Verrats. Er war angeblich in eine Verschwörung verwickelt, um den neuen König James I zu stürzen und zu töten.
Bei seinem Prozess haben die Staatsanwälte nur ein Beweisstück eingereicht. Es war ein Geständnisbrief des Mannes, der angeblich die Verschwörung geplant hatteHerr Cobham. Der Brief mit dem Namen Raleigh a Mitverschwörer.
Sir Walter Raleigh sagte, das Geständnis allein sei nicht zuverlässig. Wenn er bringen könnte Cobham vor Gericht auszusagen, hätte er zumindest eine Chance dazu verhören Sie den einzigen Zeugen gegen ihn.
Aber die englischen Gerichte an der Zeit waren nicht besonders an einem ordnungsgemäßen Verfahren interessiert. Sie haben Raleighs Witz verurteiltIch erlaube ihm, den Zeugen zu konfrontieren oder zu untersuchen.
Er wurde eingesperrt und schließlich hingerichtet.
Schnellvorlauf zu USA, 2017. Ein Mann wird wegen Mordes angeklagt. Und der Hauptzeuge gegen ihn ist ein Computeralgorithmus.
Der Algorithmus Analysen komplexe DNA-Proben. Es entscheidetif die DNA des Angeklagten ist vorhanden in einer Probe.
Natürlich der Verteidiger will wissen wie genau der Algorithmus funktioniert.
Und er hat guter Grund sich zu wundern. Sein frühere Verurteilung wegen desselben Mordes beruhte auf a verschiedene DNA-Testmaschine.
Aber sWissenschaftler später entschied den Algorithmus war nicht ganz richtig. TDie Beweise, die ihn verurteilten, wurden von positiv zu nicht schlüssig geändert.
Er hatte im Gefängnis gesessen, wegen Mordes verurteilt, basierend auf einem fehlerhaften Algorithmus!
Also bei dem neuen Versuch, fragt die Verteidigung zu untersuche tDer Algorithmus der neuen Maschine.Jedoch müssen auch die Firma, die gestaltete dieAlgorithmus mag diese Idee nicht.
Dieses aAlgorithmus ist ein Geschäftsgeheimnis. Es war teuer zu entwickeln, aUnd sie wollen nicht, dass dieses Geheimnis herauskommt.
Wurden Lebenin das Zeitalter der Algorithmen.
Ein Algorithmus wählt aus, welche Musik Sie hören. Und Spotify macht einen ziemlich guten Job ... A Ein fehlerhafter Algorithmus könnte Sie dazu zwingen, ein Gospel-Lied anstelle von Gangster-Rap anzuhören. Nicht das größte Geschäft ...
Aber was passiert, wenn ein Algorithmus für ein selbstfahrendes Auto entscheiden muss, ob es eine Gruppe trifft oder nicht? Fußgänger oder stürzt sich - und - Von einer Klippe?
Der Algorithmus wird zu einer Frage von Leben und Tod.
Bevor Sie in ein selbstfahrendes Auto steigen, müssen Siewerde Ich möchte etwas über den Algorithmus erfahren.
Welche Art von sekundenschnellen Entscheidungen wurde programmiert?
Welche Dateneingaben werden berücksichtigt?
Und who genau schrieb den Algorithmus? Denken Sie daran, Algorithmen Nocheine menschliche Komponente habent. Und die Menschen sind von Natur aus voreingenommen. Ihre subjektiven Meinungen werden es unweigerlich in den Algorithmus schaffen.
Wenn ein Algorithmus den Angeklagten in einem Mordprozess verurteilt ... das ist auch Leben oder Tod.
Einige Kinderschutzdienste nutzen ein Algorithmus, um zu entscheiden, welche Kinder nehmen. Der Algorithmus weist a Risiko-Scorebasierend auf eingaben wie wie viele anrufe die abteilung erhalten hat und ob die eltern gegenüber arbeitern feindlich eingestellt sind.
Andere Gerichte verwenden bereits einen Algorithmus, um die Rückfälle herauszufindenm Risiko - wenn ein Verbrecher wahrscheinlich erneut beleidigt wird. Je höher das Risiko, desto länger die Strafe.
Wenn ich einen Joint geraucht habe oder in der High School in einen Streit geraten bin, bin ich 40% wahrscheinlicher verpflichtena Verbrechen?
WiIch werde aufgrund von für schuldig befunden Wahrscheinlichkeit allein? Wie kann ich sicher sein, dass der Algorithmus nicht voreingenommen ist?
Wann ProPublica analysierte die Rückfälligkeit Algorithmus fanden sie, dass es wurde rassistisch voreingenommen.
O'Neil Risk Consulting & Algorithmic Auditing ist eine andere Organisation, die untersucht, wie fair die vom Justizsystem verwendeten Algorithmen sind. Aber sie geben zu, dass auch die Audits zu einem gewissen Grad subjektiv sind.
Es ist ziemlich beängstigend, wenn Algorithmen die Strafjustiz kontrollieren. Zwei Prozess könnte durch Computerprozessoren ersetzt werden.
Aber Algorithmen sind nicht unbedingt eine schlechte Sache. Sie können umfangreiche und komplexe Datensätze analysieren. Es erfordert viel Arbeit, um einen guten Algorithmus zu erstellen. Sie kann verstehen, warum ein Unternehmen wollens beschützen seine Geheimnisse.
wpDiscuz