Biometrische Smackdown: Gegenreaktion wächst gegen Gesichtserkennung

Youtube
Bitte teilen Sie diese Geschichte!
image_pdfimage_print
Geschichten über den Widerstand gegen biometrische Systeme werden in etablierten Medien selten gesehen, weil die Anwälte von Big Tech solche Geschichten abwenden, indem sie die Verkaufsstellen mit rechtlichen Drohungen belästigen. Monsanto und Big Pharma haben daraus eine Kunstform gemacht. ⁃ TN Editor

Ein Teenager verklagt Apple wegen 1-Milliarden-Dollar. Das Klage, eingereicht am Montag, hängt von der angeblichen Verwendung einer immer beliebter werdenden und umstrittenen Technologie ab: der Gesichtserkennung. Der Techniker kann eine Person identifizieren, indem er ihre Gesichtszüge in Bildern, Videos oder in Echtzeit analysiert.

Der Kläger, 18-jähriger Student Ousmane Bah, behauptet, das Unternehmen Das Gesichtserkennungs-Tool führte dazu, dass er wegen Apple Store-Diebstahls verhaftet wurde Er hat nicht begangen, indem er seinen Namen fälschlicherweise mit dem Gesicht des wahren Diebes verknüpft hat. NYPD-Beamte kamen letzten Herbst zu Bahs Haus, um ihn am Morgen bei 4 zu verhaften, nur um festzustellen, dass sie anscheinend den falschen Mann hatten. Bah sagt, die ganze Tortur habe ihm ernsthafte emotionale Sorgen bereitet. In der Zwischenzeit besteht Apple darauf, dass seine Geschäfte keine Gesichtserkennungstechnologie verwenden.

Was auch immer die Wahrheit in diesem Fall sein mag, Bahs Klage ist das jüngste Anzeichen einer eskalierenden Gegenreaktion gegen die Gesichtserkennung. Da die Technologie in immer mehr Bereichen implementiert wird, hat sie zunehmend Kontroversen ausgelöst. Nehmen Sie zum Beispiel die schwarzen Mieter in Brooklyn, die vor kurzem protestierte gegen den Plan ihres Vermieters, die Technik in ihrem mietstabilisierten Gebäude zu installieren. Oder der Reisende, der sich über Twitter darüber beschwert hat JetBlue hatte sie mit Gesichtserkennung in ihren Flug eingecheckt ohne ihre Zustimmung. (Die Fluggesellschaft erklärte, dass sie hierfür Daten des US-Heimatschutzministeriums verwendet hatte, und entschuldigte sich.)

Das ist zusätzlich zu der Forscher, Befürworter, und Tausende von Mitgliedern der Öffentlichkeitdie Bedenken hinsichtlich der Gefahr der Gesichtserkennung geäußert haben, die zu unrechtmäßigen Verhaftungen führt. Sie befürchten, dass bestimmte Gruppen unverhältnismäßig betroffen sind. Die Gesichtserkennungstechnologie ist sehr gut darin, weiße männliche Gesichter zu identifizieren, da dies die Art von Gesichtern sind, auf die sie trainiert wurde. Aber zu oft schon identifiziert Menschen mit Hautfarbe und Frauen falsch. Diese Voreingenommenheit könnte dazu führen, dass sie unverhältnismäßig häufig befragt werden, da immer mehr Strafverfolgungsbehörden die Technologie einsetzen.

Jetzt erreichen wir einen Wendepunkt, an dem große Unternehmen - nicht nur Apple, sondern auch Amazon und Microsoft - gezwungen sind, solche Beschwerden ernst zu nehmen. Und obwohl sie endlich versuchen, zu telegraphieren, dass sie für die Bedenken sensibel sind, könnte es zu spät sein, Vertrauen zurückzugewinnen. Die Unzufriedenheit in der Öffentlichkeit hat ein derart hohes Fieber erreicht, dass einige, einschließlich die Stadt von San Francisco, erwägen nun umfassende Verbote der Gesichtserkennungstechnologie.

Eine Abstimmung, um Amazon den Verkauf von Rekognition zu verbieten

Amazon ist nicht gerade dafür bekannt, gut zu spielen. Es hat einen Ruf für Kampf gegen vorgeschlagene Gesetze, die es nicht mag und für aggressive Verteidigung seiner Arbeit mit der Polizei und der Regierung. Jahrelang konnte es sich leisten, sich so zu verhalten. Der Aufruhr über die Gesichtserkennung macht es jedoch schwieriger, diese Haltung aufrechtzuerhalten.

Das Gesichtserkennungs-Tool von Amazon, Rekognition, wurde bereits an die Strafverfolgungsbehörden verkauft Einwanderungs- und Zollbehörden. Aber führende KI-Forscher haben kürzlich argumentiert ein offener Brief dass die Technologie tief fehlerhaft ist. (Beispiel: In einem Test im letzten Jahr, Die Bekanntgabe stimmte mit den 28-Mitgliedern des Kongresses mit kriminellen Fahndungsfotos überein.) Und die Amazon-Aktionäre haben nach einer Abstimmung gefragt, ob das Unternehmen den Verkauf des Tools an Regierungsbehörden einstellen soll, bis es eine unabhängige Prüfung seiner Auswirkungen auf die Bürgerrechte bestanden hat.

Amazon hat hart dafür gekämpft, dass die Abstimmung nicht zustande kommt, aber die Securities and Exchange Commission ausgeschlossen In diesem Monat muss das Unternehmen loslassen. Es wird am Mai 22 stattfinden. Obwohl das Ergebnis größtenteils symbolisch sein wird - Beschlüsse der Aktionäre sind nicht bindend -, wird die Abstimmung Amazon negative Aufmerksamkeit schenken.

In der Zwischenzeit war das Unternehmen versuchen, sein Bild zu mildern indem sie zum Beispiel einige ihrer aggressiven Werbetaktiken zurückwählten. Kartik Hosanagar, Professor an der Wharton School of Business, sagte Amazon ergreift "vorbeugende Maßnahmen", um nett zu machen, "bevor einer der [Präsidentschafts-] Kandidaten Amazon zum Aushängeschild dessen macht, was sie als Probleme mit Big Tech bezeichnen."

Microsofts gemischte Botschaften zum ethischen Umgang mit Gesichtserkennung

Während Amazon noch ein junges Unternehmen ist, das in 1994 gegründet wurde, hat Microsoft das Erwachsenenalter erreicht - es gibt es schon seit 1975. Diese längere Lebensdauer bedeutet, dass es mehr Zeit hat, Fehler zu machen, aber auch mehr Zeit, daraus zu lernen. Kim Hart von Axios argumentiert deshalb Microsoft hat es größtenteils geschafft, die Gegenreaktion gegen Big Tech zu vermeiden. "Microsoft, das durch seinen eigenen Kartellkampf mit dem Justizministerium in die 90 geraten ist, hat die Fehler seiner jüngeren, brasilianischen Big Tech-Brüder umgangen", schreibt sie.

Microsoft ist jedoch keineswegs völlig immun gegen das Spiel. Nachdem in diesem Monat berichtet wurde, dass Microsoft-Forscher an einer vom Militär geführten Universität in China drei Artikel über KI und Gesichtserkennung verfasst hatten, beschuldigten einige US-Politiker das Unternehmen, einem Regime zu helfen, das inhaftiert ist eine Million uigurische Muslime in Internierungslagern und zum Millionen mehr zu überwachen. Senator Marco Rubio nannte es "Zutiefst beunruhigend ... eine Tat, die sie mitschuldig macht, den totalitären Zensurapparat der kommunistischen chinesischen Regierung zu unterstützen."

Die Presse wies auch darauf hin, dass das Unternehmen seine Gesichtserkennungssoftware an verkauft hat ein US-Gefängnis, und dass Microsoft-Präsident Brad Smith es angekündigt hat "grausam" aufhören, die Software an Regierungsbehörden zu verkaufen.

Tage später bemühte sich das Unternehmen zu zeigen, dass es sich um den ethischen Umgang mit KI kümmert. Smith gab bekannt, dass es sich geweigert hatte, seine Gesichtserkennungssoftware an eine kalifornische Strafverfolgungsbehörde zu verkaufen, die sie in Polizeiautos und Body Cams einbauen wollte. Er sagte, Microsoft habe sich aus Menschenrechtsgründen geweigert, da die Verwendung der Software dazu führen würde, dass farbige und weibliche Personen unverhältnismäßig häufig zur Befragung gehalten würden.

Der Vorstoß, Gesichtserkennungstechnologie komplett zu verbieten

Dieser Monat hat deutlich gemacht, dass der öffentliche Druck in Bezug auf die Gesichtserkennung anhält. Behemoth-Unternehmen wissen, dass sie die Kritik nicht länger ignorieren können - oder, wie sie es kürzlich getan haben, einfach sagen, dass sie die Regulierung dieser Technologie begrüßen würden. Kritiker machen deutlich, dass das nicht gut genug ist - sie wollen, dass solche Unternehmen „ganz aus dem Überwachungsgeschäft herauskommen“. wie die American Civil Liberties Union gegenüber Vox sagte.

Lesen Sie die ganze Geschichte hier…

Treten Sie unserer Mailingliste bei!


Abonnieren
Benachrichtigung von
Gast
0 Kommentare
Inline-Feedbacks
Alle Kommentare anzeigen