Behauptung: Gesichtserkennungs-KI kann Ihre politische Partei enthüllen

Bitte teilen Sie diese Geschichte!

Die Frage ist nicht, dass dies tatsächlich funktioniert, sondern dass sie glauben, dass es funktioniert. Glaube und Realität sind zwei verschiedene Dinge, und die Gesellschaft ist voller Täuschung über das, was wirklich und sachlich ist. Sie sollten testen, ob die KI bei Vollmond besser funktioniert. ⁃ TN Editor

Forscher haben ein maschinelles Lernsystem geschaffen, von dem sie behaupten, dass es die politische Partei einer Person mit angemessener Genauigkeit nur anhand ihres Gesichts bestimmen kann. Die Studie einer Gruppe, die auch gezeigt hat, dass sexuelle Präferenzen scheinbar auf diese Weise abgeleitet werden können, geht offen auf die Fallstricke der „modernen Phrenologie“ ein und vermeidet sie sorgfältig, was zu der unangenehmen Schlussfolgerung führt, dass unser Erscheinungsbild möglicherweise mehr persönliche Informationen ausdrückt, als wir denken.

Die Studie, die diese Woche erschien in der Naturzeitschrift Scientific Reportswurde von Michal Kosinski von der Stanford University geleitet. Kosinski machte 2017 Schlagzeilen mit dieser Arbeit fanden heraus, dass die sexuelle Präferenz einer Person anhand von Gesichtsdaten vorhergesagt werden konnte.

Die Studie wurde nicht so sehr wegen ihrer Methoden kritisiert, sondern wegen der Idee, dass etwas, das fiktiv nicht physisch ist, auf diese Weise erkannt werden könnte. Aber Kosinskis Arbeit, wie er damals und später erklärte, wurde speziell durchgeführt, um diese Annahmen in Frage zu stellen, und war für ihn ebenso überraschend und verstörend wie für andere. Die Idee war nicht, eine Art KI-Gaydar zu bauen - im Gegenteil. Wie das Team damals schrieb, war es notwendig zu veröffentlichen, um andere zu warnen, dass so etwas von Menschen gebaut werden kann, deren Interessen über das Akademische hinausgingen:

Wir waren wirklich beunruhigt über diese Ergebnisse und haben viel Zeit damit verbracht, darüber nachzudenken, ob sie überhaupt veröffentlicht werden sollten. Wir wollten nicht genau die Risiken aktivieren, vor denen wir warnen. Die Fähigkeit zu kontrollieren, wann und wem die sexuelle Orientierung offenbart werden soll, ist nicht nur für das Wohlbefinden, sondern auch für die Sicherheit von entscheidender Bedeutung.

Wir waren der Ansicht, dass es dringend erforderlich ist, politische Entscheidungsträger und LGBTQ-Gemeinschaften auf die Risiken aufmerksam zu machen, denen sie ausgesetzt sind. Wir haben kein Tool zum Eindringen in die Privatsphäre erstellt, sondern gezeigt, dass grundlegende und weit verbreitete Methoden ernsthafte Bedrohungen für die Privatsphäre darstellen.

Ähnliche Warnungen können hier ausgesprochen werden, während dies bei einer politischen Zugehörigkeit zumindest in den USA (und zumindest derzeit) nicht der Fall ist as sensibel oder persönlich ein Element als sexuelle Präferenz, es ist immer noch sensibel und persönlich. Eine Woche vergeht kaum, ohne zu lesen, dass ein politischer oder religiöser „Dissident“ oder ein anderer verhaftet oder getötet wurde. Wenn Unterdrückungsregime das erreichen könnten, was als wahrscheinliche Ursache gilt, indem sie sagen: "Der Algorithmus hat Sie als möglichen Extremisten gekennzeichnet", anstatt beispielsweise Nachrichten abzufangen, macht dies diese Art von Übung viel einfacher und skalierbarer.

Der Algorithmus selbst ist keine hochentwickelte Technologie. Kosinskis Artikel beschreibt einen ziemlich gewöhnlichen Prozess, bei dem einem maschinellen Lernsystem Bilder von mehr als einer Million Gesichtern zugeführt werden, die von Dating-Sites in den USA, Kanada und Großbritannien sowie von amerikanischen Facebook-Nutzern gesammelt wurden. Die Personen, deren Gesichter verwendet wurden, wurden im Fragebogen der Website als politisch konservativ oder liberal identifiziert.

Der Algorithmus basierte auf einer Open-Source-Gesichtserkennungssoftware. Nach der grundlegenden Verarbeitung, um nur das Gesicht zuzuschneiden (auf diese Weise schleichen sich keine Hintergrundelemente als Faktoren ein), werden die Gesichter auf 2,048 Punkte reduziert, die verschiedene Merkmale darstellen - wie bei anderen Gesichtserkennungen Algorithmen, dies sind keine intuitiven Dinge wie "Augenbrauenfarbe" und "Nasentyp", sondern eher computergestützte Konzepte.

Das System erhielt Daten zur politischen Zugehörigkeit, die von den Menschen selbst bezogen wurden, und begann damit fleißig, die Unterschiede zwischen den Gesichtsstatistiken von Menschen, die sich als Konservative identifizierten, und denen, die sich als Liberale identifizierten, zu untersuchen. Weil es sich herausstellt, gibt es Unterschiede.

Natürlich ist es nicht so einfach wie "Konservative haben buschigere Augenbrauen" oder "Liberale runzeln mehr die Stirn". Es kommt auch nicht auf die Demografie an, die die Dinge zu einfach und unkompliziert machen würde. Wenn die Identifizierung einer politischen Partei sowohl mit dem Alter als auch mit der Hautfarbe korreliert, ist dies genau dort ein einfacher Vorhersagealgorithmus. Obwohl die von Kosinski verwendeten Softwaremechanismen durchaus Standard sind, hat er sorgfältig darauf geachtet, seine Grundlagen abzudecken, damit diese Studie wie die letzte nicht als Pseudowissenschaft abgetan werden kann.

Der naheliegendste Weg, dies anzugehen, besteht darin, dass das System die politische Partei von Menschen gleichen Alters, Geschlechts und ethnischer Zugehörigkeit errät. Der Test bestand darin, zwei Gesichter zu präsentieren, eines von jeder Partei, und zu erraten, welches welches war. Offensichtlich beträgt die Zufallsgenauigkeit 50%. Menschen sind bei dieser Aufgabe nicht sehr gut und arbeiten nur geringfügig über dem Zufall, mit einer Genauigkeit von etwa 55%.

Der Algorithmus erreichte eine Genauigkeit von bis zu 71%, wenn eine politische Partei zwischen zwei gleichartigen Personen vorhergesagt wurde, und 73% zeigten zwei Personen jeden Alters, jeder ethnischen Zugehörigkeit oder jedes Geschlechts (aber garantiert eine konservative, eine liberale).

Lesen Sie die ganze Geschichte hier…