Behauptung: Wenn KI regiert, könnte ein Schurkenprogrammierer die Menschheit beenden

US Navy
Bitte teilen Sie diese Geschichte!
image_pdfimage_print

Letztendlich werden es technisch gesättigte menschliche Technokraten sein, nicht Programme, die die menschenfeindliche Politik und die Ergebnisse schaffen, die der Menschheit schaden. Sie werden sich hinter KI verstecken, um der Verantwortung zu entgehen, und jeder wird denken, dass die Algorithmen sie begangen haben. TN Editor

Die Vorstellung, dass kleine Gruppen von Menschen die Kontrolle über einige der mächtigsten Waffen haben, die jemals gebaut wurden, ist beängstigend, aber es ist die Realität, in der wir leben. In nicht allzu ferner Zukunft könnte diese unglaubliche Macht und Verantwortung übertragen werden KI- und Robotersysteme, die sich bereits in der aktiven Entwicklung befinden. In zwei offenen Briefen an die Premierminister von Australien und Kanada plädieren Hunderte von KI-Forschern und Wissenschaftlern dafür, dass dies nicht geschieht.

Sie befürchten, dass das Entfernen des menschlichen Elements aus Entscheidungen über Leben und Tod ein destruktives Zeitalter einleiten könnte, das letztendlich das Ende der Menschheit bedeuten könnte. Die KI-Waffensysteme sind, wie die Forscher es ausdrückten, "Massenvernichtungswaffen", die sofort verboten werden müssen, bevor sie ernsthaften Schaden anrichten können.

"Die Übertragung von Entscheidungen über Leben oder Tod an Maschinen überschreitet eine grundlegende moralische Grenze - unabhängig davon, von welcher Seite sie gebaut oder genutzt werden", heißt es in dem Brief , erklärt. „Das Spielen von russischem Roulette mit dem Leben anderer kann niemals allein aufgrund der Wirksamkeit gerechtfertigt werden. Dies ist nicht nur eine grundlegende Frage der Menschenrechte. Die Entscheidung, autonome Waffen zu verbieten oder einzusetzen, liegt im Kern unserer Menschlichkeit. “

In einer Situation, in der Computer das letzte Wort haben, ob sie sich an feindlichen Handlungen beteiligen oder nicht - selbst unter dem Deckmantel der Verteidigung ihres eigenen Territoriums oder des Schutzes der Bevölkerung, für die sie programmiert sind - könnten Konflikte viel schneller eskalieren als jemals zuvor. Wochen, Monate oder sogar Jahre der Haltung und Diplomatie können sich in Minuten oder sogar Sekunden verwandeln, wenn Raketen fliegen, bevor der Mensch überhaupt eingreifen kann. Und dann gibt es natürlich das Problem, dass die KI auf unvorhergesehene Weise manipuliert wird.

"Dies werden Massenvernichtungswaffen sein", sagen die Wissenschaftler. „Ein Programmierer kann eine ganze Armee kontrollieren. Jede andere Massenvernichtungswaffe wurde verboten: chemische Waffen, biologische Waffen, sogar Atomwaffen. Wir müssen autonome Waffen in die Liste der Waffen aufnehmen, deren Einsatz moralisch nicht vertretbar ist. “

Lesen Sie die ganze Geschichte hier…

Abonnieren
Benachrichtigung von
Gast
0 Kommentare
Inline-Feedbacks
Alle Kommentare anzeigen