iBorderCtrl Fail: Die EU-Grenzkontroll-Lügendetektor-KI ist Hogwash

Bildnachweis: Nicole Gray
Bitte teilen Sie diese Geschichte!
image_pdfimage_print
Übereifrige Technokraten haben iBorderCrtl übertrieben, um Kunden und die Öffentlichkeit zu beeindrucken. Es ist jedoch in der Lage, riesige Datenmengen über Sie zu sammeln und Ihrer permanenten Datei hinzuzufügen. Es ist keine Lügendetektormaschine. ⁃ TN Editor

Die neue Grenzkontroll-KI der EU als „Lügendetektor“ zu bezeichnen, ist, als würde man den Brexit als geringfügige Meinungsverschiedenheit unter Freunden bezeichnen.

Das Wichtigste ist, dass die EU ein Pilotprogramm für internationale Flughäfen testet, das einen auf maschinellem Lernen basierenden „Lügendetektor“ enthält. CNN hat letzte Woche die Geschichte bekannt gegeben sein Artikel „Fluggäste müssen sich auf EU-Flughäfen Lügendetektortests gegen AI stellen.“

Laut dem Bericht (und dem Projekt) Webseite prüfen) Die EU testet ein Pilotprogramm mit KI, bei dem ein Avatar verwendet wird, um Fragen zu stellen. Angeblich weiß dieses KI-gesteuerte Konstrukt, ob eine Person bei der Beantwortung ehrlich ist, und es kennzeichnet diejenigen, die es bestimmt nicht sind. Sobald jemand als Lügner eingestuft wird, werden menschliche Agenten aufgefordert, die Angelegenheit weiter zu untersuchen.

Abhängig von Ihren Ansichten zu Privatsphäre und Einwanderung ist dies entweder Musik für Ihre Ohren oder der Beginn einer dystopischen Zukunft direkt aus einem Orwellschen Albtraum. Du liegst so oder so falsch.

Wenn Sie beispielsweise denken, wir könnten alle fragen, ob Sie ein Terrorist sind, und die EU für alle sicherer machen, dann gehen Sie wahrscheinlich davon aus, dass es so etwas wie einen KI-Lügendetektor gibt. Gibt es nicht Keine Sorge, das ist ein häufiger Fehler.

Wie alle Lügendetektoren stützen sich AI-basierte Lösungen auf Treffer- oder Fehlschätzungen, unabhängig davon, was die Regierung für einen tolerierbaren Pegelfehler hält. Ein Polygraph ist zum Beispiel angeblich zwischen einer 75- und einer 90-prozentualen Genauigkeitsbewertung zu haben. Es erkennt keine Lügen, es erkennt die subtilen Hinweise, die mit Lügen verbunden sind. Auf diese Weise erkennt die KI auch keine Lügen. Es erkennt biometrische Indikatoren im Zusammenhang mit Lügen - bei einem prozentualen Erfolg von rund 76, angeblich.

Wenn Sie jedoch glauben, dass dies die schlimmste Verletzung der Menschenrechte auf einem Flughafen seit den Tagen ist, als TSA-Agenten in den USA angewiesen wurden, Muslime zu profilieren, liegen Sie ebenfalls falsch. Meistens jedenfalls: Es geht weit über die Belästigung von Ausländern auf Flughäfen hinaus.

Der "Lügendetektor" ist nur die Spitze des Eisbergs. Was Sie wissen müssen, ist, dass in diesem Fall "Lügenerkennung" die Abkürzung für "Datenerfassung" ist.

Das neue Flughafenprojekt der EU heißt nicht „Operation Lügendetektor“. Es heißt „iBorderCtrl“. Und „Lügendetektion“ ist nur ein Teil dessen, was es tut. Hier ist ein Bild von der Website des Projekts:

Bildnachweis: iBorderCtrl

Beginnen wir zunächst mit dem Lügenerkennungsmodul: Automatic Deception Detection System (ADDS) *. Das Sternchen ist von der iBorderCtrl-Website, TNW hat das nicht hinzugefügt. Bevor Sie lesen, was ADDS macht, müssen die Mitarbeiter, die es erstellen, Folgendes beachten:

*ADDS basiert auf früheren Entwicklungen, dem sogenannten Silent Talker [1] [2]. Das Projekt hat diese Technologie übernommen und ist sich der damit verbundenen Kontroversen bewusst. Dieses Tool hat die folgenden Schritte durchlaufen: Eine wissenschaftliche Grundlage wird erreicht, wenn eine Forschung von einer Position der Unwissenheit ausgeht und der wissenschaftlichen Methode folgt, um diese Unwissenheit zu zerstreuen. Als Wissenschaftler der KI lautet eine spezielle Forschungsfrage: „Gibt es nonverbale Verhaltensindikatoren für Täuschung?“ Die durchgeführten Experimente sammeln Daten, um die relevanten Hypothesen zu stützen oder zu widerlegen.

Grundsätzlich erkennt das Projekt Kontroversen über die Verwendung von KI zur „Lügenerkennung“ an, kümmert sich aber nicht darum.

Der Rest der Erklärung für ADDS ist voll von dem alten Argument „nonverbale Hinweise“. Es ist akademisch interessant, aber sicher nicht der verrückte Durchbruch, den wir brauchen würden, damit AI ein guter Lügendetektor wird. Insofern ist es eine Schande für jede Regierung, an diesem Punkt darüber nachzudenken.

Aber ADDS ist der dumme, unwichtige Teil von iBorderCTRL. Es ist das falsche Monster, das dich von der kalten, kalkulierten Datenerfassung ablenkt, die wirklich stattfindet. Grundsätzlich ist ADDS eine niedrig hängende Frucht, auf die Experten hinweisen und Gespräche darüber anregen können, über welche Fähigkeiten KI tatsächlich verfügt. In der Zwischenzeit, wenn ich The Ragin 'Cajun umformulieren kann: "Es sind die Daten, dumm."

In Wirklichkeit ist der Rest der iBorderCtrl-Suite beängstigend. ADDS ähnelt in etwa dem „Persönlichkeitsprofil“, mit dem Cambridge Analytica Menschen dazu verleitet hat, ihre Daten preiszugeben. Warum würden Sie sich nicht bereit erklären, einen Lügendetektor zu nehmen, wenn Sie nichts zu verbergen haben?

Die Antwort ist, dass Sie viel zu verbergen haben, ob Sie lügen oder nicht.

Hier ist noch was iBorderCtrl benötigen:

  • Erstellt ein vollständiges Gesichtsprofil mit Videos und Fotos
  • Kratzt und durchsucht alle Ihre Social-Media-Konten
  • Dokumenten- und Signaturanalyse
  • Erstellt und speichert Ihren digitalen Sprachdruck
  • Risikobewertung basierend auf aggregierten Daten
  • Sucht nach versteckten Menschen

Lassen Sie uns ganz schnell den letzten zur Untersuchung nehmen. Sucht nach versteckten Menschen? An einem Flughafen? Unwahrscheinlich. Laut der Projektliteratur sucht dies nach Menschen, die sich verstecken. Aber es ist schmerzlich offensichtlich, dass dies für Grenzüberschreitungen gedacht ist, bei denen mobile Agenten Personen außerhalb der Umgebung und nicht Flughäfen aufspüren oder suchen. Trotzdem ist es ein Teil des Flughafen-Lügendetektors, von dem Sie so viel hören.

Lesen Sie die ganze Geschichte hier…

Treten Sie unserer Mailingliste bei!


Abonnieren
Benachrichtigung von
Gast
1 Wie
Älteste
Neueste Am meisten gewählt
Inline-Feedbacks
Alle Kommentare anzeigen