Die örtliche Polizei von Amazon für Gesichtserkennungstechnologie "Supercharges"

Bitte teilen Sie diese Geschichte!
image_pdfimage_print
Amazon sagt, sein Rekognition AI-System sei „nicht von Magie zu unterscheiden“, aber es bietet es jetzt Strafverfolgungsbehörden auf allen Ebenen, von der örtlichen Stadtpolizei über Sheriff-Büros bis zum FBI, gegen eine geringe Gebühr an. Derzeit gibt es keine nationalen Gesetze, die die Verwendung der Gesichtserkennung regeln. ⁃ TN Editor

Als Mitarbeiter einer Ace Hardware hier berichteten, dass eine Frau mit einem 11.99-Dollar-Tank mit Schweißgas, den sie nicht in ihrer Einkaufstasche bezahlt hatte, aus dem Laden gegangen war, wurde eine aufwändige High-Tech-Operation zur Verbrechensbekämpfung eingeleitet.

Der Detektiv eines Sheriffs aus Washington County, der mit der Special Investigations Unit der Agentur zusammenarbeitete, führte das Überwachungsmaterial des Geschäfts durch ein von Amazon erstelltes internes Gesichtserkennungsprogramm und enthüllte eine mögliche Übereinstimmung.

Das Nummernschild dieser Frau wurde markiert, und drei Monate später sah es ein Betäubungsmitteloffizier in einem nicht gekennzeichneten SUV und funkete andere Streifenpolizisten an, um sie aufzuhalten. Eine Abgeordnete klatschte ein Paar Handschellen um ihre Handgelenke. Sie sagte, sie hätte das Benzin gebraucht, um ihr Auto zu reparieren.

Die Abgeordneten in dieser Ecke West-Oregons vor dem ultraliberalen Portland haben Kriminelle auf altmodische Weise aufgespürt und Bilder von Verdächtigen im Büro gefaxt, in der Hoffnung, dass jemand das Gesicht erkennen könnte.

Ende 2017 war das Washington County Sheriff's Office die erste Strafverfolgungsbehörde des Landes, die bekanntermaßen das Tool Rekognition für künstliche Intelligenz von Amazon einsetzte, und verwandelte dieses Dickicht aus Wäldern und Vororten in ein öffentliches Testgelände für eine neue Welle experimenteller polizeilicher Überwachung Techniken.

Fast über Nacht sahen die Abgeordneten, dass ihre Ermittlungsbefugnisse aufgeladen waren, sodass sie über mehr als 300,000 Fahndungsfotos, die seit 2001 im Bezirksgefängnis aufgenommen wurden, nach Übereinstimmungen im Gesicht eines Verdächtigen suchen konnten. Ein körniges Bild von jemandes Gesicht - aufgenommen von einer Überwachungskamera, einem Social Media Konto oder das Smartphone eines Stellvertreters - kann schnell zu einem Link zu seiner Identität werden, einschließlich Name, Familie und Adresse. Im vergangenen Jahr wurden mehr als 1,000 Gesichtserkennungssuchen protokolliert, sagten Abgeordnete, die die Ergebnisse manchmal dazu verwendeten, die Facebook-Seite eines Verdächtigen zu finden oder ihre Wohnung zu besuchen.

Aber Washington County wurde auch zum Ground Zero für einen Kampf um das unregulierte Wachstum der Polizeiarbeit durch Algorithmen. Verteidiger, Forscher für künstliche Intelligenz und Bürgerrechtsexperten argumentieren, dass die Technologie zur unrechtmäßigen Verhaftung unschuldiger Menschen führen könnte, die nur Ähnlichkeit mit einem Videobild haben. Die Genauigkeit von Rekognition ist ebenfalls umstritten, und einige Experten befürchten, dass ein Fall von falscher Identität durch bewaffnete Abgeordnete gefährliche Auswirkungen haben und die Privatsphäre und das Leben der Menschen gefährden könnte.

Einige Polizeibehörden haben in den letzten Jahren Gesichtserkennungsrecherchen für staatliche oder FBI-Datenbanken durchgeführt, wobei Systeme von Auftragnehmern wie Cognitec, IDEMIA und NEC verwendet wurden. Aber der Rollout von Amazon war vielleicht der größte Schritt, um die umstrittene Face-Scanning-Technologie zum Mainstream zu machen. Die Erkennung ist einfach zu aktivieren, erfordert keine große technische Infrastruktur und wird praktisch jedem zu Schnäppchenpreisen angeboten. Washington County gab ungefähr 700 Dollar aus, um seine ersten großen Fotos hochzuladen, und jetzt zahlt es für all seine Suchen ungefähr 7 Dollar im Monat.

Es ist jedoch unmöglich zu sagen, wie genau oder effektiv die Technologie in den ersten 18 Monaten realer Tests war. Die Abgeordneten müssen in Festnahmeberichten nicht vermerken, wann eine Gesichtserkennungssuche durchgeführt wurde, und die genaue Häufigkeit, mit der eine Festnahme durchgeführt wurde, ist unklar. Die Beamten des Sheriffs sagten, die Software habe zu Dutzenden von Verhaftungen wegen Diebstahls, Gewalt oder anderer Verbrechen geführt, aber eine Anfrage nach öffentlichen Aufzeichnungen ergab neun Fallberichte, in denen die Gesichtserkennung erwähnt wurde.

"Wie bei jeder unserer Ermittlungstechniken sagen wir den Leuten nicht, wie wir sie fangen", sagte Robert Rookhuyzen, ein Detektiv im Team der Agentur für schwere Verbrechen, der sagte, er habe "mehrere Dutzend" Durchsuchungen durchgeführt und fand sie zu 75% hilfreich der ganzen Zeit. "Wir wollen, dass sie weiter raten."

Die Beamten des Sheriffs sagen, dass Gesichtsuntersuchungen nicht immer das Ende der Untersuchung markieren: Die Abgeordneten müssen immer noch einen wahrscheinlichen Grund ermitteln oder Beweise finden, bevor sie einen Verdächtigen eines Verbrechens beschuldigen. Das Sheriff's Office legt jedoch seine eigenen Regeln für die Gesichtserkennung fest und ermöglicht es den Abgeordneten, mit dem Tool Leichen, bewusstlose Verdächtige und Personen zu identifizieren, die sich geweigert haben, ihren Namen zu nennen.

Die unvollständigen Ergebnisse des Suchwerkzeugs erhöhen das Risiko, dass eine unschuldige Person markiert und festgenommen wird, insbesondere wenn die gescannten Bilder unscharf, von geringer Qualität oder teilweise verborgen sind. Die Abgeordneten dürfen auch Künstlerskizzen durch die Suche führen, eine ungewöhnliche Verwendung, die laut KI-Experten häufiger zu einer falschen Übereinstimmung führen könnte.

Laut den Richtlinien von Amazon für die Strafverfolgung sollten Beamte die Ergebnisse von Rekognition nur verwenden, wenn das System zu 99% von einem Spiel überzeugt ist. Aber den Abgeordneten wird hier nicht gezeigt, dass das Suchvertrauen gemessen wird, wenn sie das Tool verwenden. Stattdessen erhalten sie für jede Suche fünf mögliche Übereinstimmungen, selbst wenn die Sicherheit des Systems in einer Übereinstimmung weitaus geringer ist.

Nachdem Amazon Fragen der Washington Post beantwortet hatte, fügte Amazon diesen Richtlinien eine Sprache hinzu und erklärte, dass die Beamten alle Übereinstimmungen manuell überprüfen sollten, bevor ein Verdächtiger festgenommen wird, und dass die Suche „nicht als alleinige Determinante für Maßnahmen verwendet werden sollte“.

Die Beziehung zwischen Amazon und Oregons drittgrößter Strafverfolgungsbehörde ist für beide Seiten von Vorteil: Das Sheriff's Office hilft bei der Verfeinerung des Systems, das Amazon im ganzen Land verkaufen möchte. Aber der Vorstoß von Amazon in den Verkauf von Strafverfolgungsbehörden hat einige Anwälte alarmiert, die sagen, dass das System zu viele Risiken für die bürgerlichen Freiheiten birgt. (Jeff Bezos, Gründer und CEO von Amazon, besitzt The Post.)

"Die Regierung ist unglaublich mächtig und bringt in einem Fall viel gegen einen einzelnen Bürger auf sich", sagte Mary Bruington, die Direktorin des Washington County Public Defender's Office, das Angeklagte vertritt, die sich keinen Anwalt leisten können. „Du koppelst das mit Amazon? Das ist eine starke Partnerschaft. “

Matt Wood, General Manager für künstliche Intelligenz in der Cloud-Computing-Abteilung des Unternehmens, Amazon Web Services, sagte in einer Erklärung, dass Rekognition nur "ein weiterer Input unter vielen anderen Anhaltspunkten für eine 100-prozentige Untersuchung durch Menschen ist".

Dennoch wird das Unternehmen an vielen Fronten kritisiert: Top-KI-Forscher, Mitglieder von Kongress- und Bürgerrechtsgruppen sowie einige von Amazon-eigenen Investoren und Mitarbeitern haben das Unternehmen aufgefordert, die Bereitstellung der Technologie für Strafverfolgungsbehörden einzustellen, und auf Studien hingewiesen, die dies belegen haben festgestellt, dass das System bei dunkelhäutigen Gesichtern weniger genau ist. Amazon hat diese Forschung bestritten.

Einige Rivalen von Amazon haben ähnliche Verträge abgelehnt. Microsoft-Präsident Brad Smith sagte im April, dass das Unternehmen kürzlich abgelehnt habe, seine Gesichtserkennungssoftware einer kalifornischen Strafverfolgungsbehörde zur Verfügung zu stellen, die einen Gesichts-Scan durchführen wollte, wenn ihre Beamten jemanden herüberzogen, aber einen Deal zur Einführung der Technologie genehmigt habe in einem US-Gefängnis. Microsoft lehnte es ab, Details anzugeben.

Amazon-Investoren werden im Mai über einen Vorschlag abstimmen, der von einer Gruppe aktivistischer Aktionäre unterstützt wird und das Unternehmen daran hindern soll, Rekognition an Regierungsbehörden zu verkaufen, es sei denn, der Vorstand des Unternehmens stellt fest, dass dies kein Risiko für die Menschenrechte darstellt.

Das Sheriff's Office erlaubte Post-Journalisten, im März zwei Tage in seinen Streifenwagen, Detektivbüros und im Bezirksgefängnis zu verbringen und zu beobachten, wie die Abgeordneten die Technologie in ihre tägliche Fallzahl integriert haben. Die meisten Befragten gaben an, die Software habe ihnen Zeit gespart, ihre Verhaftungszahlen erhöht und ihnen geholfen, die wachsende Flut visueller Beweise zu verarbeiten. Bis heute wurde keine rechtliche Anfechtung einer Verhaftung mit der Begründung vorgenommen, dass das Fotomatch falsch war, sagten sowohl Abgeordnete als auch Verteidiger.

Die Anwälte in Oregon sagten jedoch, die Technologie dürfe nicht, wie viele meinen, ein unmittelbar bevorstehender Fortschritt für die Zukunft der Polizei sein, und sie rahmen das System nicht als technischen, sondern als moralischen Meilenstein ein: Ist es in Ordnung, mehr böse Jungs zu schnappen, wenn könnten auch mehr gute Leute verhaftet werden?

"Die Leute lieben es immer zu sagen:" Hey, wenn es schlechte Leute fängt, großartig, wen interessiert das ", sagte Joshua Crowther, ein stellvertretender Hauptverteidiger in Oregon," bis sie am anderen Ende sind. "

"Nicht von Magie zu unterscheiden"

Als Amazon 2016 Rekognition enthüllte, nannte das Unternehmen es einen Durchbruch für einen wirksamen Stil tief lernender künstlicher Intelligenz, der Ergebnisse zeigte, die „nicht von Magie zu unterscheiden“ sind. In einem Blog-Beitrag, der mit einem Foto des Hundes einer Führungskraft illustriert ist, bot das Unternehmen einige allgemeine Ideen an, wie Menschen damit beginnen könnten, einschließlich Sicherheitskontrollen oder Werbetafeln, die verdrahtet sind, um Daten aus dem Gesicht eines Betrachters zu sammeln.

Die Enthüllung fiel Chris Adzima auf, einem ehemaligen eBay-Programmierer, der im Büro des Sheriffs des Washington County eingestellt worden war, um an einer iPhone-App zu arbeiten, mit der die Abgeordneten das Verhalten der Insassen verfolgen. Seine Agentur hatte bereits Hunderttausende von Gesichtsfotos online und keine wirkliche Möglichkeit, sie zu analysieren. Mit der KI von Amazon konnte er in weniger als drei Wochen ein System in Betrieb nehmen.

"Sie hatten keine genaue Vorstellung von Anwendungsfällen in der realen Welt, aber sie wussten, dass sie ein leistungsstarkes Tool hatten, das sie erstellt hatten", sagte Adzima, ein leitender Analyst für Informationssysteme, der in einer kleinen Kabine bei arbeitet das Hauptquartier des Sheriffs. "Also, weißt du, ich habe gerade angefangen, es zu benutzen."

Die Abgeordneten begannen sofort, Gesichtsuntersuchungen in ihre tägliche Beat-Überwachung einzubeziehen, und Adzima baute eine interne Website auf, auf der sie von ihren Streifenwagen aus suchen konnten. Er ließ die Prozentsätze für das Suchvertrauen fallen und entwarf das System so, dass jedes Mal fünf Ergebnisse zurückgegeben wurden: Als das System keine Ergebnisse zurückgab, fragten sich die Abgeordneten, ob sie etwas durcheinander gebracht hätten. Um es aufzupeppen, fügte er außerdem eine unnötige lila "Scan" -Animation hinzu, wenn ein Stellvertreter ein Foto hochlud - eine Berührung, die er sagte, wurde von Cop-Shows wie "CSI" inspiriert.

Lesen Sie die ganze Geschichte hier…

Abonnieren
Benachrichtigung von
Gast
0 Kommentare
Inline-Feedbacks
Alle Kommentare anzeigen