Militär, das KI-Waffensysteme schafft, um "lose zum Schlachten gebracht" zu werden

Das Video ist stark. Zwei bedrohliche Männer stehen neben einem weißen Van auf einem Feld und halten Fernbedienungen. Sie öffnen die Hintertüren des Vans und das Jammern der Quadcopter-Drohnen-Crescendos. Sie betätigen einen Schalter und die Drohnen schwärmen wie Fledermäuse aus einer Höhle. In wenigen Sekunden gingen wir zu einem College-Klassenzimmer. Die Killerroboter strömen durch Fenster und Lüftungsschlitze. Die Schüler schreien vor Angst, gefangen im Inneren, als die Drohnen mit tödlicher Gewalt angreifen. Die Lektion, die der Film, Schlachtbots, Der Versuch zu vermitteln ist klar: Winzige Killerroboter sind entweder hier oder ein kleiner technologischer Fortschritt entfernt. Terroristen könnten sie leicht einsetzen. Und bestehende Abwehrkräfte sind schwach oder nicht vorhanden.

Einige Militärexperten argumentierten, dass Slaughterbots - das vom Future of Life Institute, einer forschenden Organisation, hergestellt wurde existenzielle Bedrohungen für die Menschheit - sensationell ein ernstes Problem, das Angst schürte, wo ruhiges Nachdenken erforderlich war. Aber wenn es um die Zukunft des Krieges geht, ist die Grenze zwischen Science-Fiction und industriellen Fakten oft verschwommen. Die US-Luftwaffe hat eine Zukunft vorausgesagt, in der "Swat-Teams mechanische Insekten mit Videokameras schicken werden, um sich während einer Geiselnahme in ein Gebäude zu schleichen". Eine „Mikrosystem-Kooperation“ hat bereits Octoroach veröffentlicht, einen „extrem kleinen Roboter mit einer Kamera und einem Funksender, der bis zu 100 Meter am Boden zurücklegen kann“. Es ist nur eines von vielen “biomimetische”Oder naturnachahmende Waffen, die sich am Horizont befinden.

Wer weiß, wie viele andere schädliche Kreaturen heute Vorbilder für avantgardistische Militärtheoretiker sind. Ein kürzlich veröffentlichter Roman von PW Singer und August Cole, der in naher Zukunft spielt und in dem die USA gegen China und Russland Krieg führen, präsentierte eine kaleidoskopische Vision von autonomen Drohnen, Lasern und entführten Satelliten. Das Buch kann nicht als techno-militärische Fantasie abgeschrieben werden: Es enthält Hunderte von Fußnoten, die die Entwicklung jeder Hardware und Software dokumentieren, die es beschreibt.

Fortschritte bei der Modellierung von Roboter-Tötungsmaschinen sind nicht weniger störend. Eine russische Science-Fiction-Geschichte aus den 60er Jahren, Crabs on the Island, beschrieb eine Art Hunger Games for AIs, bei dem Roboter gegeneinander um Ressourcen kämpfen würden. Verlierer würden verschrottet und Gewinner würden erscheinen, bis sich einige zu den besten Tötungsmaschinen entwickelten. Wenn ein führender Informatiker erwähnte ein ähnliches Szenario wie die US-amerikanische Agentur für fortgeschrittene Verteidigungsforschungsprojekte (Darpa) und nannte es einen „Roboter-Jurassic-Park“, den ein Führer dort als „machbar“ bezeichnete. Es braucht nicht viel Nachdenken, um zu erkennen, dass ein solches Experiment das Potenzial hat, außer Kontrolle zu geraten. Die Kosten sind das Haupthindernis für eine Großmacht, die mit solchen potenziell zerstörerischen Maschinen experimentiert. Die Softwaremodellierung kann sogar diese Barriere beseitigen und virtuelle kampferprobte Simulationen ermöglichen, um zukünftige militärische Investitionen anzuregen.

In der Vergangenheit haben sich Nationalstaaten zusammengeschlossen, um besonders grausame oder schreckliche neue Waffen zu verbieten. Bis zur Mitte des 20. Jahrhunderts verboten internationale Konventionen biologische und chemische Waffen. Die Staatengemeinschaft hat die Verwendung von verboten Blendlasertechnologie, zu. Ein robustes Netzwerk von NGOs hat die Vereinten Nationen erfolgreich aufgefordert, die Mitgliedstaaten einzuberufen, um einem ähnlichen Verbot von Killerrobotern und anderen Waffen zuzustimmen, die ohne direkte menschliche Kontrolle selbstständig handeln können, um ein Ziel zu zerstören (auch als tödliche autonome Waffensysteme bekannt) oder Gesetze). Und obwohl über die Definition einer solchen Technologie diskutiert wurde, können wir uns alle einige besonders erschreckende Arten von Waffen vorstellen, denen alle Staaten zustimmen sollten, sie niemals herzustellen oder einzusetzen. Eine Drohne, die allmählich erhitzte feindliche Soldaten zu Tode gegen internationale Konventionen gegen Folter verstoßen würde; Schallwaffen, die das Gehör oder das Gleichgewicht eines Feindes zerstören sollen, sollten eine ähnliche Behandlung verdienen. Ein Land, das solche Waffen entworfen und eingesetzt hat, sollte aus der internationalen Gemeinschaft verbannt werden.

In der Zusammenfassung können wir wahrscheinlich zustimmen, dass Ausgrenzung - und strengere Bestrafung - auch für die Designer und Benutzer von Killerrobotern verdient ist. Die Idee einer Maschine, die zum Schlachten losgelassen wird, ist kalt. Und doch scheinen sich einige der größten Militärs der Welt auf die Entwicklung solcher Waffen einzulassen, indem sie eine Logik der Abschreckung verfolgen: Sie befürchten, von der KI der Rivalen niedergeschlagen zu werden, wenn sie keine ebenso mächtige Kraft entfesseln können. Der Schlüssel zur Lösung eines solchen hartnäckigen Wettrüstens liegt möglicherweise weniger in globalen Verträgen als in einem vorsichtigen Umdenken darüber, wofür die kriegerische KI eingesetzt werden kann. Wie "Krieg kommt nach HauseDer Einsatz militärischer Streitkräfte in Ländern wie den USA und China ist eine starke Warnung für ihre Bürger: Welche Kontroll- und Zerstörungstechnologien Sie Ihrer Regierung jetzt für den Einsatz im Ausland zur Verfügung stellen, wird möglicherweise in Zukunft gegen Sie eingesetzt.

Lesen Sie die ganze Geschichte hier…