Die örtliche Polizei von Amazon für Gesichtserkennungstechnologie "Supercharges"

Bitte teilen Sie diese Geschichte!
image_pdfimage_print
Laut Amazon ist das Erkennungs-KI-System „nicht von Magie zu unterscheiden“, es wird jedoch jetzt für Strafverfolgungsbehörden aller Ebenen, von der örtlichen Stadtpolizei und den Sheriff-Büros bis zum FBI, gegen eine Schutzgebühr angeboten. Derzeit gibt es keine nationalen Gesetze, die die Verwendung der Gesichtserkennung regeln. ⁃ TN Editor

Als die Mitarbeiter einer Ace Hardware hier berichteten, dass eine Frau mit einem 11.99-Tank mit Schweißgas, den sie nicht in ihrer Einkaufstasche bezahlt hatte, den Laden verlassen hatte, kam eine aufwändige High-Tech-Operation zur Verbrechensbekämpfung zum Einsatz.

Der Detektiv eines Sheriffs aus Washington County, der mit der Special Investigations Unit der Agentur zusammenarbeitete, führte die Überwachungsaufnahmen des Geschäfts durch ein von Amazon erstelltes internes Gesichtserkennungsprogramm und deckte eine mögliche Übereinstimmung auf.

Das Nummernschild dieser Frau wurde markiert, und drei Monate später sah es ein Betäubungsmitteloffizier in einem nicht gekennzeichneten Geländewagen und strahlte andere Abgeordnete der Patrouille an, um sie zu stoppen. Eine Abgeordnete legte ihr ein Paar Handschellen um die Handgelenke und berichtete von Festnahmen. Sie sagte, sie brauche das Benzin, um ihr Auto zu reparieren.

Die Abgeordneten in dieser Ecke West-Oregons vor dem ultraliberalen Portland haben Kriminelle auf altmodische Weise aufgespürt und Bilder von Verdächtigen im Büro gefaxt, in der Hoffnung, dass jemand das Gesicht erkennen könnte.

Ende 2017 verwandelte das Sheriff's Office in Washington County als erste Strafverfolgungsbehörde des Landes das künstliche Intelligenz-Tool Rekognition von Amazon in ein öffentliches Testgelände für eine neue Welle experimenteller Polizeiaufsicht Techniken.

Fast über Nacht sahen die Abgeordneten, wie ihre Ermittlungsbefugnisse aufgeladen waren, sodass sie über mehr als 300,000-Fahndungsfotos, die seit 2001 im Bezirksgefängnis aufgenommen wurden, nach Übereinstimmungen mit dem Gesicht eines Verdächtigen suchen konnten. Ein körniges Bild des Gesichts einer Person, das mit einer Überwachungskamera, einem Social-Media-Konto oder dem Smartphone eines Vertreters aufgenommen wurde, kann schnell zu einer Verknüpfung ihrer Identität werden, einschließlich ihres Namens, ihrer Familie und ihrer Adresse. Im vergangenen Jahr wurden mehr als 1,000-Gesichtserkennungssuchen protokolliert, sagten Abgeordnete, die die Ergebnisse manchmal verwendeten, um die Facebook-Seite eines Verdächtigen zu finden oder dessen Zuhause zu besuchen.

Aber Washington County wurde auch zum Ground Zero für einen Kampf um das unregulierte Anwachsen der Polizei durch Algorithmen. Verteidiger, Forscher für künstliche Intelligenz und Bürgerrechtsexperten argumentieren, dass die Technologie zu einer unrechtmäßigen Verhaftung unschuldiger Personen führen könnte, die nur Ähnlichkeit mit einem Videobild haben. Die Genauigkeit von Rekognition ist ebenfalls umstritten, und einige Experten befürchten, dass ein Fall von falscher Identität durch bewaffnete Abgeordnete gefährliche Folgen haben und die Privatsphäre und das Leben der Menschen gefährden könnte.

Einige Polizeibehörden haben in den letzten Jahren Gesichtserkennungsrecherchen für staatliche oder FBI-Datenbanken durchgeführt, wobei Systeme von Auftragnehmern wie Cognitec, IDEMIA und NEC verwendet wurden. Aber der Rollout von Amazon war vielleicht der größte Schritt, um die umstrittene Face-Scanning-Technologie zum Mainstream zu machen. Die Erkennung ist einfach zu aktivieren, erfordert keine große technische Infrastruktur und wird praktisch jedem zu Schnäppchenpreisen angeboten. Washington County gab ungefähr 700 Dollar aus, um seine ersten großen Fotos hochzuladen, und jetzt zahlt es für all seine Suchen ungefähr 7 Dollar im Monat.

Es ist jedoch unmöglich zu sagen, wie genau oder effektiv die Technologie in den ersten 18-Monaten realer Tests war. Die Deputierten müssen nicht in Haftberichten vermerken, wenn eine Gesichtserkennungsrecherche durchgeführt wurde, und die genaue Häufigkeit, mit der eine Festnahme stattgefunden hat, ist unklar. Die Beamten des Sheriffs sagten, die Software habe zu Dutzenden von Verhaftungen wegen Diebstahls, Gewalt oder anderer Verbrechen geführt, aber eine öffentliche Anfrage ergab neun Fallberichte, in denen die Gesichtserkennung erwähnt wurde.

"Wie bei allen unseren Ermittlungstechniken verraten wir den Leuten nicht, wie wir sie fangen", sagte Robert Rookhuyzen, ein Detektiv des Teams für Hauptverbrechen der Agentur, der sagte, er habe "mehrere Dutzend" Durchsuchungen durchgeführt und fand es hilfreich in Bezug auf 75%. der ganzen Zeit. "Wir wollen, dass sie weiter raten."

Laut Beamten des Sheriffs bedeuten Gesichtsuntersuchungen nicht immer das Ende der Ermittlungen: Die Abgeordneten müssen immer noch einen wahrscheinlichen Grund ermitteln oder Beweise finden, bevor sie einen Verdächtigen wegen eines Verbrechens beschuldigen. Das Sheriff's Office legt jedoch eigene Regeln für die Gesichtserkennung fest und ermöglicht es den Abgeordneten, mit dem Tool Leichen, bewusstlose Verdächtige und Personen zu identifizieren, die sich weigern, ihren Namen zu nennen.

Die unvollständigen Ergebnisse des Suchwerkzeugs erhöhen das Risiko, dass eine unschuldige Person markiert und festgenommen wird, insbesondere wenn die gescannten Bilder unscharf, von geringer Qualität oder teilweise verborgen sind. Den Abgeordneten ist es auch gestattet, Künstlerskizzen durch die Suche zu ziehen, eine ungewöhnliche Verwendung, die nach Ansicht von KI-Experten häufiger zu einer falschen Übereinstimmung führen könnte.

Die Richtlinien von Amazon für die Strafverfolgung besagen, dass Beamte die Ergebnisse von Rekognition nur verwenden sollten, wenn das System 99 zu 100% zuversichtlich ist. Aber den Abgeordneten wird hier nicht angezeigt, dass sie das Suchvertrauensmaß verwenden, wenn sie das Tool verwenden. Stattdessen erhalten sie für jede Suche fünf mögliche Übereinstimmungen, auch wenn die Sicherheit des Systems in einer Übereinstimmung weitaus geringer ist.

Nach der Beantwortung von Fragen der Washington Post fügte Amazon diesen Richtlinien eine Sprache hinzu und erklärte, dass die Verantwortlichen alle Übereinstimmungen manuell überprüfen sollten, bevor sie einen Verdächtigen festnahmen, und dass die Suche „nicht als einzige Determinante für das Ergreifen von Maßnahmen verwendet werden sollte“.

Die Beziehung zwischen Amazon und Oregons drittgrößter Strafverfolgungsbehörde ist für beide Seiten von Vorteil: Das Sheriff's Office hilft bei der Verfeinerung des Systems, das Amazon im ganzen Land verkaufen möchte. Aber Amazons Vorstoß in den Verkauf von Strafverfolgungsbehörden hat einige Anwälte alarmiert, die sagen, dass das System zu viele Risiken für die bürgerlichen Freiheiten birgt. (Amazon-Gründer und CEO Jeff Bezos besitzt The Post.)

"Die Regierung ist unglaublich mächtig, und sie bringt in einem Fall viel gegen einen einzelnen Bürger vor", sagte Mary Bruington, die Direktorin des Washington County Public Defender's Office, das Angeklagte vertritt, die sich keinen Anwalt leisten können. „Koppelst du das mit Amazon? Das ist eine starke Partnerschaft. “

Matt Wood, General Manager für künstliche Intelligenz in der Cloud-Computing-Abteilung des Unternehmens, Amazon Web Services, sagte in einer Erklärung, dass Rekognition nur "eine weitere Eingabe unter vielen anderen Anhaltspunkten für eine 100-prozentuale, von Menschen betriebene Untersuchung" ist.

Dennoch wird das Unternehmen in vielerlei Hinsicht kritisiert: Top-KI-Forscher, Mitglieder von Kongress- und Bürgerrechtsgruppen sowie einige von Amazons eigenen Investoren und Mitarbeitern haben das Unternehmen aufgefordert, die Technologie nicht mehr für die Strafverfolgung bereitzustellen, und auf Studien hingewiesen, die dies belegen habe festgestellt, dass das system bei dunkelhäutigen gesichtern ungenauer ist. Amazon hat diese Forschung bestritten.

Einige der Amazon-Konkurrenten haben ähnliche Verträge abgelehnt. Microsoft-Präsident Brad Smith sagte im April, das Unternehmen habe kürzlich abgelehnt, seine Gesichtserkennungssoftware einer kalifornischen Strafverfolgungsbehörde zur Verfügung zu stellen, die jederzeit einen Gesichts-Scan durchführen wollte, wenn ihre Beamten jemanden überfahren hatten, aber ein Abkommen zur Einführung der Technologie genehmigt hatte in einem US-Gefängnis. Microsoft lehnte es ab, Details bereitzustellen.

Amazon-Investoren werden im Mai über einen Vorschlag abstimmen, der von einer Gruppe aktiver Aktionäre unterstützt wird und verhindern soll, dass das Unternehmen die Anerkennung an Regierungsbehörden verkauft, sofern der Vorstand des Unternehmens nicht feststellt, dass dies kein Risiko für die Menschenrechte darstellt.

Das Sheriff's Office ermöglichte es Postjournalisten, im März zwei Tage in ihren Streifenwagen, Detektivbüros und im Bezirksgefängnis zu verbringen und zu beobachten, wie die Abgeordneten die Technologie in ihre tägliche Falllast zusammengelegt haben. Die meisten der Befragten gaben an, dass die Software ihnen Zeit gespart, ihre Verhaftungszahlen erhöht und ihnen geholfen habe, die wachsende Menge visueller Beweise zu verarbeiten. Bis heute wurde keine rechtliche Anfechtung der Verhaftung vorgenommen, da das Fotomatch falsch war. Dies gaben sowohl Abgeordnete als auch Verteidiger an.

Die Anwälte in Oregon sagten jedoch, die Technologie dürfe nicht, wie viele meinen, ein unmittelbar bevorstehender Fortschritt für die Zukunft der Polizei sein, und sie rahmen das System nicht als technischen, sondern als moralischen Meilenstein ein: Ist es in Ordnung, mehr böse Jungs zu schnappen, wenn könnten auch mehr gute Leute verhaftet werden?

"Die Leute lieben es, immer zu sagen:" Hey, wenn es darum geht, schlechte Leute zu erwischen, großartig, wen interessiert das? ", Sagte Joshua Crowther, ein stellvertretender Hauptverteidiger in Oregon," bis sie am anderen Ende sind. "

"Von Magie nicht zu unterscheiden"

Als Amazon Rekognition in 2016 vorstellte, nannte das Unternehmen es einen Durchbruch für einen leistungsstarken Stil der tief lernenden künstlichen Intelligenz, der Ergebnisse zeigte, die von Magie nicht zu unterscheiden sind Ideen, wie Benutzer damit beginnen könnten, z. B. für Sicherheitskontrollen oder Werbetafeln, die verdrahtet sind, um Daten aus dem Gesicht eines Betrachters zu erfassen.

Die Enthüllung fiel Chris Adzima auf, einem ehemaligen eBay-Programmierer, der im Büro des Sheriffs von Washington County angestellt worden war, um an einer iPhone-App zu arbeiten, mit der die Abgeordneten das Verhalten der Insassen verfolgen. Seine Agentur hatte bereits Hunderttausende von Gesichtsfotos online und keine echte Möglichkeit, sie zu analysieren. Mit der KI von Amazon konnte er ein System in weniger als drei Wochen in Betrieb nehmen.

"Sie hatten keine genaue Vorstellung von Anwendungsfällen in der realen Welt, aber sie wussten, dass sie ein leistungsstarkes Tool hatten", sagte Adzima, ein erfahrener Analyst für Informationssysteme, der in einer kleinen Kabine bei arbeitet das Hauptquartier des Sheriffs. "Also, weißt du, ich habe gerade damit angefangen."

Abgeordnete fingen sofort an, die Gesichtssuche in ihre tägliche Beat-Überwachung einzubeziehen, und Adzima baute eine interne Website auf, auf der sie von ihren Streifenwagen aus suchen konnten. Er ließ die Prozentsätze für das Suchvertrauen fallen und entwarf das System so, dass jedes Mal fünf Ergebnisse zurückgegeben wurden: Als das System null Ergebnisse zurückgab, fragten sich die Abgeordneten, ob sie etwas durcheinander gebracht hatten. Zum Aufpeppen fügte er außerdem eine unnötige lila "Scan" -Animation hinzu, wenn ein Stellvertreter ein Foto hochlud - ein Hauch, der seiner Meinung nach von Polizisten-Shows wie "CSI" inspiriert war.

Lesen Sie die ganze Geschichte hier…

Treten Sie unserer Mailingliste bei!


Abonnieren
Benachrichtigung von
Gast
0 Kommentare
Inline-Feedbacks
Alle Kommentare anzeigen