Bedrohungsanalysen und -entscheidungen werden autonom getroffen, wobei Grenzschutzbeamte benachrichtigt werden. Dies ist jedoch ein rutschiger Hang, der allzu leicht in umfassende Strafverfolgungspraktiken eingeführt werden könnte. ⁃ TN Editor
Stellen Sie sich vor, Sie wandern durch den Wald in der Nähe einer Grenze. Plötzlich hört man ein mechanisches Summen wie eine gigantische Biene. Zwei Quadcopter haben Sie entdeckt und kommen herein, um einen genaueren Blick darauf zu werfen. Antennen auf beiden Drohnen und auf einem nahe gelegenen autonomen Bodenfahrzeug empfangen die Funkfrequenzen, die vom Mobiltelefon in Ihrer Tasche kommen. Sie senden die Signale an einen zentralen Server, der Ihren genauen Standort trianguliert und an die Drohnen zurückgibt. Die Roboter kommen näher.
Kameras und andere Sensoren an den Maschinen erkennen Sie als Menschen und versuchen, Ihre Absichten festzustellen. Bist du eine Bedrohung? Überqueren Sie illegal eine Grenze? Hast du eine Waffe? Verüben Sie terroristische oder organisierte Handlungen? Die Maschinen senden Video-Feeds an ihren menschlichen Bediener, einen meilenweit entfernten Grenzschutzbeamten, der die Videos überprüft und feststellt, dass Sie kein Risiko darstellen. Der Grenzbeamte drückt einen Knopf und die Roboter lösen sich und setzen ihre Patrouille fort.
Dies ist keine Science-Fiction. Die Europäische Union finanziert ein Projekt zur Entwicklung von Drohnen, die unter Einsatz künstlicher Intelligenz autonom die Grenzen Europas überwachen sollen. Die Drohnen werden in Schwärmen operieren und Informationen zwischen Flotten von Quadcoptern, kleinen Starrflüglern, Landfahrzeugen, U-Booten und Booten koordinieren und bestätigen. Die Entwickler des Projekts, Roborder genannt, sagen, dass die Roboter in der Lage sein werden, Menschen zu identifizieren und selbstständig zu entscheiden, ob sie eine Bedrohung darstellen. Wenn sie feststellen, dass Sie möglicherweise eine Straftat begangen haben, benachrichtigen sie die Grenzpolizei.
Präsident Donald Trump hat das Gespenst der Verbrecher, die die südliche Grenze überqueren, genutzt, um nationalistische politische Gefühle zu erregen und seine Basis zu stärken. In Europa bleibt die Einwanderung auch zwei Jahre nach dem Höhepunkt der Migrationskrise, die mehr als eine Million Menschen auf den Kontinent gebracht hat, vor allem aus dem Nahen Osten und Afrika, ein zentrales Thema, auch wenn die Zahl der Neuankömmlinge gesunken ist. Politische Parteien in der gesamten Europäischen Union gewinnen Wahlen am Plattformen gegen Einwanderer und immer restriktiver erlassen Grenzpolitik. Tech-Ethiker und Befürworter der Privatsphäre befürchten, dass Roborder und Projekte wie sie zu viel Strafverfolgungsarbeit an nichtmenschliche Akteure auslagern und leicht gegen Menschen in Grenzgebieten gewehrt werden könnten.
"Die Entwicklung dieser Systeme ist ein dunkler Schritt in ein moralisch gefährliches Gebiet", sagte Noel Sharkey, emeritierter Professor für Robotik und künstliche Intelligenz an der Sheffield University in Großbritannien und einer der Gründer des Internationalen Komitees für die Rüstungskontrolle von Robotern, einer gemeinnützigen Organisation Befürworter des militärischen Einsatzes der Robotik. Sharkey listet Beispiele für derzeit auf dem Markt befindliche Drohnen mit Waffen auf: Flugroboter mit Taser, Pfefferspray, Gummigeschossen und andere Waffen. Er warnt vor den Konsequenzen der Kombination dieser Technologie mit einer auf KI basierenden Entscheidungsfindung und ihrer Verwendung in politisch belasteten Grenzgebieten. "Es ist nur eine Frage der Zeit, bis eine Drohne Maßnahmen ergreifen kann, um Menschen zu stoppen", sagte Sharkey zu The Intercept.
Die Entwickler von Roborder verletzen möglicherweise auch die Bedingungen ihrer Finanzierung. Dies geht aus Dokumenten über das Projekt hervor, die gemäß den Transparenzbestimmungen der Europäischen Union erstellt wurden. Die Initiative wird größtenteils aus einem EU-Forschungs- und Innovationsstipendium in Höhe von 8 Mio. € finanziert, das ausschließlich für nichtmilitärische Projekte bestimmt ist. Die Entwickler von Roborder erkennen jedoch an, dass Teile ihres vorgeschlagenen Systems militärische Technologie beinhalten oder leicht für militärische Zwecke umgewandelt werden könnten.
Ein Großteil der Entwicklung von Roborder ist klassifiziert, aber The Intercept erhielt interne Berichte zu ethischen Überlegungen und Bedenken bezüglich des Programms. Diese Dokumentation wurde unkorrekt redigiert und versehentlich vollständig freigegeben.
In einem der Berichte wollten Roborders Entwickler ethische Kriterien ansprechen, die an ihre EU-Finanzierung gebunden sind. Entwickler überlegten, ob ihre Arbeit modifiziert oder verbessert werden könnte, um Menschen zu schaden, und was passieren könnte, wenn die im Projekt entwickelte Technologie oder das im Projekt entwickelte Wissen in die falschen Hände geraten von Verschlusssachen, Materialien oder Techniken; gefährliche oder eingeschränkte Materialien [;] und ob bestimmte Forschungsergebnisse eine Gefahr für die Teilnehmer oder die Gesellschaft insgesamt darstellen könnten. “
Roborders Entwickler argumentierten, dass diese ethischen Bedenken nicht auf ihre Arbeit zutrafen, und erklärten, dass ihr einziges Ziel die Entwicklung und Erprobung der neuen Technologie sei und dass sie während der Laufzeit des Projekts nicht außerhalb der Europäischen Union verkauft oder übertragen würde. In Interviews mit The Intercept erkannten die Projektentwickler jedoch an, dass ihre Technologie nach Ablauf des europäischen Projektzyklus, der voraussichtlich im nächsten Jahr stattfinden wird, auch außerhalb Europas wieder verwendet und verkauft werden kann.
Über das Roborder-Projekt hinaus deuten die bei der Europäischen Kommission eingereichten Ethikberichte auf eine umfassendere Frage hin: Wenn es um neue Technologien geht, die potenziell gegen schutzbedürftige Menschen an Orten mit geringem Menschenrechtsschutz eingesetzt werden können, entscheidet wer, was wir entwickeln sollen und was nicht ?
Roborder hat gewonnen Förderung in 2017 und hat sich vorgenommen, bis Mitte 2020 einen marktfähigen Prototyp zu entwickeln - „einen Schwarm Robotik zur Unterstützung der Grenzüberwachung“. Die Entwickler hoffen, eine Sammlung von Luft-, See- und Landdrohnen bauen und ausrüsten zu können, die im Rahmen von Grenzkontrollmissionen kombiniert und ausgesandt werden können. Dabei werden sie autonom nach „Bedrohungen“ durchsucht, basierend auf Informationen, die von menschlichen Betreibern bereitgestellt werden, sagte Stefanos Vrochidis, Roborders Projektmanager .
Die Drohnen werden optische, Infrarot- und Wärmekameras einsetzen. Radar; und Funkfrequenzsensoren zur Ermittlung von Bedrohungen entlang der Grenze. Die Frequenzen von Mobiltelefonen werden verwendet, um den Ort von Personen zu triangulieren, die der kriminellen Aktivität verdächtigt werden, und Kameras identifizieren Menschen, Waffen, Fahrzeuge und andere Objekte. "Das Hauptziel ist es, so viele Sensoren wie möglich im Feld zu haben, um das Streifenpersonal zu unterstützen", sagte Kostas Ioannidis, technischer Leiter von Roborder.
