Joe Allen: Countdown bis Gigadeath – Vom KI-Wettrüsten zum Artefaktkrieg

Für wahre Gläubige wird künstliche Intelligenz unweigerlich übermenschlich. Ihrem Mythos zufolge treiben wir in einem gottlosen Kosmos umher. Es liegt also an uns, digitale Gottheiten zu erschaffen. Oder besser gesagt, es liegt an ein paar Technikfreaks, sie zu erstellen. Der Rest von uns kann entweder vor ihrem Altar knien oder in den Abgrund gestoßen werden.

Während Bots in unser Leben strömen, wächst die Spannung zwischen uns und ihnen. An manchen Tagen fühlt es sich an, als würden wir auf einen computergestützten Rassenkrieg zwischen aufstrebenden Cyborgs und alten Menschen zurasen. Nach zu viel Bildschirmzeit – während sich meine Synapsen neu anordnen, um sich an die einströmenden Daten anzupassen – ist nicht klar, zu welcher Unterart ich gehöre.

Fürs Protokoll, ich bin eher Agnostiker als wahrer Gläubiger. Techies machen alle möglichen leeren Versprechungen. Sie leben davon, mystische Kräfte zu projizieren. Trotzdem ignorieren wir ihre technokulturelle Revolution auf eigene Gefahr.

Technologiekonzerne besitzen die wahre Macht der Informationskontrolle. Sie verzerren buchstäblich das öffentliche Bewusstsein in großem Maßstab. Auf militärischer Seite haben Vollstrecker die Fähigkeit, Sie vom anderen Ende der Welt in die Luft zu jagen. Sie könnten spotten, dass die US-Streitkräfte mehr Trans-Offiziere als Cyborg-Soldaten geschaffen haben. Aber wenn Sie Ihren AR-15 nicht schneller zielen können, als seine Drohne einschärfen kann, kichern Sie unter einem Stiefel hervor. Künstliche Intelligenz stärkt nur dieses Standbein.

Im Jahr 2018 hat die US Defense Advanced Research Projects Agency angekündigt es „konzentriert seine Investitionen auf eine dritte KI-Welle, die Maschinen hervorbringt, die den Kontext verstehen und argumentieren können.“ Der Direktor des Informationsinnovationsbüros der DARPA, Brian Pierce, ist wild begeistert über eine „echte Symbiose zwischen Homo sapiens und den entstehenden Machina sapiens“.

Ein 2021 WHITE PAPER vom britischen Verteidigungsministerium bestätigt: „Der Kern des zukünftigen militärischen Vorteils wird die effektive Integration von Menschen, künstlicher Intelligenz und Robotik in Kampfsysteme – Mensch-Maschine-Teams – sein, die die Fähigkeiten von Menschen und Technologien nutzen, um unsere Gegner zu übertreffen. ”

China hat ähnliche Cyborg-Ambitionen. Dann mach's Russland funktioniert NATO. „Künstliche Intelligenz ist die Zukunft“, verkündete Wladimir Putin berühmt. „Wer in dieser Sphäre führend wird, wird der Weltherrscher.“

Vielleicht verschwenden die Generäle Geld für Geek-Kriegsführung. Vielleicht spielen sie nur mit neuen Spielsachen.

Ich würde mich nicht darauf verlassen.

Wir sehen bereits, dass schmale KIs die menschliche Mustererkennung in den spezifischen Aufgaben, für die sie entwickelt wurden, übertreffen – Proteinmodellierung, radiologische Analyse, Schlachtfeldüberwachung und Zielerfassung, um nur einige zu nennen. Ein Beispiel: Der US-Rüstungskonzern Palantir stellt der Ukraine seine KI frei zur Verfügung. Das ist einer der Hauptgründe, warum sie sich so lange gegen die größeren russischen Streitkräfte durchgesetzt haben.

„Die Macht fortschrittlicher algorithmischer Kriegsführungssysteme ist mittlerweile so groß, dass sie gleichbedeutend damit ist, taktische Atomwaffen gegen einen Gegner zu haben, der nur konventionelle hat“, sagte Alex Karp, CEO von Palantir sagte   Washington Post. „Die breite Öffentlichkeit unterschätzt das tendenziell. Unsere Gegner tun es nicht mehr.“

In den Händen von Elite-Apex-Raubtieren sind diese digitalen Tools todernst. Wenn Führer keine Technologie gegen Rivalen einsetzen, wenden sie sie gegen ihre eigenen Bürger an. Denken Sie daran, dass die Clearview AI-Gesichtserkennung freigegeben die Polizei, um Demonstranten vom 6. Januar aufzuspüren.

Technologie ist Macht. War schon immer.

Doch nicht alle sind beunruhigt. Zweifler spotten über den Begriff „intelligente“ Maschinen. „KI existiert nicht“, sagen sie. „Es ist nur ein Algorithmus.“ „Müll rein, Müll raus“ Typischerweise sind es ehemalige Programmierer, die noch in den 90er Jahren leben. Sie wiederholen „Garbage in, Garbage out“ so oft, als wären sie darauf programmiert, es zu sagen.

Diese Jungs haben Punkt. Eine KI ist nur so gut wie das Design ihres neuronalen Netzwerks und die Daten, mit denen sie trainiert wird. Darin ist es den Menschen nicht unähnlich. Aber wenn es gut ist, ist es beängstigend gut. Wenn eine solide KI beispielsweise darauf trainiert ist, Kontoauszüge zu erkennen, kann sie sich durch Berge von Müll wühlen und einen in Sekundenschnelle finden – wie ein Rain Man, der in einen Müllcontainer taucht, um Ihre Identität zu stehlen.

Die KI, die mich wachrüttelte, war AlphaZero, 2017 von Googles DeepMind entwickelt. Nur mit grundlegenden Spielregeln und dem „Wunsch“ zu gewinnen programmiert, dieses neuronale Netzwerk lehrte sich um in wenigen Stunden Go, Schach und eine Reihe von Videospielen zu spielen. Die Beherrschung von Go ist besonders wichtig. Jahrzehntelang bestanden Skeptiker darauf, dass kein Computer dieses alte chinesische Spiel verstehen würde. Gos Komplexität, so behaupteten sie, erfordert eine tiefe Intuition, die nur Menschen besitzen. Es stellt sich heraus, dass das Wunschdenken war.

AlphaZero erfindet wie sein Vorgänger AlphaGo effektive Strategien, an die noch kein Mensch gedacht hat. Und am alarmierendsten sind diese digitalen Köpfe zermalmen menschliche Meister bei ihren eigenen Spielen. Wenn die Leute verdammt noch mal vernünftig gewesen wären, hätten sie sofort den Stecker gezogen. Auf all dem. Aber Sie wissen, was sie sagen: „Man kann den Fortschritt nicht aufhalten.“

Der nächste Schritt ist das Kombinieren Diese engen kognitiven Fähigkeiten in einem einzigen „künstlichen Gehirn“ zusammen. Das künstliche allgemeine Intelligenz (AGI) wäre flexibel genug, um von einer Domäne zur nächsten zu wechseln oder verschiedene Module gleichzeitig umzusetzen, um reale Probleme zu lösen.

Theoretisch könnte man jede Kombination von Fähigkeiten zusammenkleben – Gesichtserkennung, Verarbeitung natürlicher Sprache, soziale Modellierung, Robotersteuerungssysteme, ästhetische Algorithmen – alles, was man sich in einem Robotergehirn wünschen könnte. Die Maschine würde den Menschen wahrscheinlich in all diesen Bereichen übertreffen. Aber egal, welche Kombination Sie sich ausgedacht haben, es wäre nicht vollständig menschlich. Es würde auch nicht unsere Werte oder Erfahrungen der Welt teilen. Es wäre ein blindes, deformiertes Kind, in Silikon geätzt, aber mit hervorragender kognitiver Kraft – ähnlich wie der gnostische Demiurg.

Für Transhumanisten wird das Aufkommen einer sich selbst verbessernden AGI einen „einzigartigen Moment in der Geschichte“ markieren – den Singularity. Von dort aus sind Legacy-Menschen nur noch mit dabei. Wenn wir Glück haben.

Das ist sowieso der Traum. Und große Unternehmen wie DeepMind und OpenAI – sowie ihre chinesischen Pendants bei Baidu und Tencent – ​​sind es Renn- um eine Version Wirklichkeit werden zu lassen. Ihre CEOs versprechen eine digitale Utopie oder eine Annäherung. Sie möchten, dass Sie sich einfach entspannen und keine Fragen stellen.

Es gibt jedoch einige Alarmisten, die sagen, dass außer Kontrolle geratene KI die Vernichtung der Menschheit bedeuten könnte. Da wir die Hebammen von AGI sind, raten sie, besteht unsere zentrale Aufgabe darin, diesem kleinen Computergott beizubringen, wohlwollend zu sein – seine Werte mit unseren in Einklang zu bringen. Sonst werden wir versklavt oder sterben. Sie nennen dies das „KI-Ausrichtungsproblem“. Während sich verschiedene Fraktionen darüber streiten, wie "aufgeweckt" oder "basiert" ChatGPT sein darf, sieht es ziemlich düster aus.

Seltsamerweise kommen einige der lautesten Alarmrufe von denen, die an AGI arbeiten. Dazu gehören Sam Altman und Elon Musk (OpenAI), Demis Hassabis (DeepMind) und Ben Goertzel (SingularityNET), der von China aus operiert, und der verrückte Prophet der Technocalypse, Hugo de Garis (Universität Xiamen).

Der Oxforder Transhumanist Nick Bostrom, Autor des 2014 erschienenen Buches, erklärte die Bedeutung für ein Tesla-Fahren TED-Publikum:

Das Potenzial für Superintelligenz schlummert in der Materie, ähnlich wie die Kraft des Atoms, die während der gesamten Menschheitsgeschichte schlummerte und dort geduldig wartete – bis 1945. In diesem Jahrhundert könnten Wissenschaftler lernen, die Kraft der künstlichen Intelligenz zu erwecken. Und ich denke, wir könnten dann eine Geheimdienstexplosion erleben.

Unabhängig von den existenziellen Risiken, argumentieren diese Männer, wird jede Nation, die KI nicht annimmt, hinter diejenigen zurückfallen, die dies tun. Die gleiche Dynamik gilt für Einzelpersonen und Organisationen, die innerhalb von Nationen gegeneinander antreten. In einem digitalen Ökosystem überleben die fittesten Cyborgs – mit KI als mythischem Ring der Macht.

Von allen Zukünften, die von Transhumanisten projiziert werden, die von Hugo de Garis heraufbeschworene ist die grausamste. Es ist auch am ehrlichsten. Viele im Silicon Valley glauben, dass übermenschliche Maschinenintelligenz zu „radikaler Fülle“ und grenzenlosem Wissen über das Universum führen wird. Als Physiker und Roboterbauer glaubt de Garis, dass all diese Dinge eintreten werden.

Allerdings prophezeit er auch, dass die Schaffung von „Artilects“ – kurz für „artificial intellects“; im Grunde AGI – wird wahrscheinlich zur Zerstörung der Menschheit führen. Vielleicht haben diese digitalen Götter keine Verwendung für uns und zerquetschen uns wie Käfer. Oder genauso wahrscheinlich, argumentiert de Garis, wird ein „Gigadeath“-Ereignis eintreten, wenn Menschen darüber streiten, ob sie sie überhaupt erschaffen sollen. Das bedeutet, dass Milliarden im Nu sterben.

„Die Frage, die das 21^st Jahrhunderts wird die Weltpolitik lauten: ‚Wer oder was sollte die dominierende Spezies auf dem Planeten sein, Künstler oder Menschen?'“ Dies führt ihn zu einem beunruhigenden, wenn auch verwirrend formulierten Slogan: „Bauen wir Götter, oder bauen wir unsere potenzielle Kammerjäger?“

De Garis erfindet verrückte neue Wörter wie ein widerspenstiger Scrabble-Spieler und untersucht diesen Konflikt in seinem 2005 erschienenen Buch Er erwartet, dass es innerhalb weniger Generationen auftaucht. „Dieser Krieg wird die zerstörerischsten Waffen einsetzen, die jemals entwickelt wurden, basierend auf dem Ende des 21^st Jahrhundert Wissenschaft und Technik.“

Wir sprechen von Super-Atomwaffen und von der KI entworfenen Biowaffen – einem dunklen Horizont, der von Roboter-Höllenhunden und Nanobot-Schwärmen wimmelt.

Der Artikelkrieg wird zwischen gekämpft die „Terraner“, die töten würden, um die organische Menschheit zu erhalten, und die „Kosmisten“, deren religiöse Hingabe zum Bau von Gegenständen so intensiv ist, dass sie bereit sind, für diese Vergöttlichung zu sterben. Tatsächlich werden sie bereit sein, es zu sehen jedermann dafür sterben:

Im 20^th Jahrhunderts löschten die Nazis 20 Millionen Russen aus, die Japaner ermordeten 20 Millionen Chinesen, Stalin tötete 30 Millionen bei seinen Säuberungen und Mao ließ 50 Millionen chinesische Bauern verhungern. Diese gehören zu den größten Verbrechen der Geschichte, doch sie verblassen im Vergleich zur Größe der Tragödie, falls die Artilekte jemals beschließen sollten, die Menschheit auszulöschen. Die Tragödie wäre total in dem Sinne, dass es keine Menschen mehr gäbe, die das Verschwinden der Spezies betrauern könnten.

Wie de Garis feststellt, ist es erstaunlich, dass jeder Mensch ein solches Ziel verfolgt, wenn er weiß, dass Milliarden abgeschlachtet werden könnten. Aber für Kosmisten ist die Erschaffung übermenschlicher Maschinen eine religiöse Suche jenseits von Gut und Böse. In der Tradition verrückter, von Schuldgefühlen geplagter Wissenschaftler stellt sich de Garis in das letztere Lager, Gigatode sei verdammt:

Mein ultimatives Ziel ist es, die Menschheit oder zumindest einen Teil der Menschheit kosmistisch werden zu sehen und dies erfolgreich zu tun, indem ich wirklich gottgleiche Gegenstände baue, die unsere mickrigen menschlichen intellektuellen und anderen Fähigkeiten überragen.

Ein Schlüsselbegriff in Der Artikelkrieg ist „Speziesdominanz“. Nachdem die Menschheit künstliches Leben geschaffen hat, steht sie einem neuen evolutionären Konkurrenten gegenüber. Während einige Menschen wie Bandwürmer in einem Mecha-Darm mit dem digitalen Leben verschmelzen, wird die Menschheit in Unterarten aufgeteilt – Bot-saugende Cyborgs und „kümmerliche“ Menschen.

Zusammen mit der Speziation kommt der Wettbewerb. Unter Berufung auf politische und evolutionäre Theorien sagt de Garis, dass auf dem Scheißhaufen nur begrenzt Platz ist. Da es in der Natur keine Gleichheit gibt, ist die Dominanz der Arten unvermeidlich. Mit der Menschheitsgeschichte als Richtschnur bedeutet das Gewalt.

Wird der Spitzenplatz von Computern mit hohem IQ eingenommen, die den Planeten umkreisen und „um Billionen von Billionen Faktoren schneller und besser als Menschen“ sind?

Oder wird es von den Kosmisten besetzt, die diese Maschinen bauen und einsetzen?

Oder werden die Terraner diesen transhumanen Kult abtöten und zurück zum Trommeln im Wald gehen?

Es scheint sehr wahrscheinlich, dass wir in einen Atomkrieg mit Russland oder China stolpern und uns diesen Artilect-Krieg insgesamt ersparen. Es gibt jede Menge Gigadeath ohne einen Supercomputer-Gott.

Aber wenn wir es schaffen, zu vermeiden, uns gegenseitig in Weltraumstaub zu stürzen, könnte es sein, dass die Rivalität der Supermächte die technische Entwicklung – insbesondere die militärische Technologie – in Richtung auf etwas treiben wird, das der Vision von de Garis ähnelt. Betrachten Sie es als eine Singularität mit einem Knall.

In Wirklichkeit die Bedeutung des Albtraums von Hugo de Garis könnte sein Einfluss auf die chinesische Tech-Kultur sein. Von 2006 bis 2010 rundete er seine berufliche Laufbahn in China ab – zunächst an der Wuhan University, dann als Leiter des Artificial Brain Lab an der Xiamen University. Bis zur Pandemie lief sein enger Kollege Ben Goertzel SingularityNET aus Hongkong. Dieses AGI-Projekt funktionierte in Partnerschaft mit Hanson Robotik– immer noch in Hongkong ansässig –, dessen Roboter Sophia auf der Weltbühne als transhumane Göttin verherrlicht wird.

Das Ausmaß des Technologietransfers an die Kommunistische Partei Chinas ist unbekannt. Aber es ist vernünftig anzunehmen, dass de Garis und Goertzel unabhängig von ihren Absichten Chinas Ziel unterstützt haben, die USA bei der künstlichen Intelligenz zu übertreffen. Dieses Ziel beinhaltet die Verknüpfung menschlicher Gehirne mit KI und die Schaffung künstlicher allgemeiner Intelligenz – mit Blick auf militärische Anwendungen.

Der von der National Defense University in DC veröffentlichte PRISM-Band vom November 2021 enthält ein aufschlussreiches Forschungspapier: „Chinas „New Generation“ KI-Gehirn-Projekt.“ Es besteht kein Zweifel, dass der transhumane Impuls durch die chinesische Seele geht. Die Autoren zitieren einen Spitzenforscher der KPCh, Xu Bo, gegenüber der offiziellen Zeitung des Ministeriums für Wissenschaft und Technologie:

Wie Generalsekretär Xi Jinping in der gemeinsamen Studie des Politbüros betonte, muss die Forschung im Bereich der künstlichen Intelligenz „unbemannte Gebiete“ erforschen. In den Bereichen Schwarmintelligenz, Mensch-Maschine-Hybridintelligenz und autonome Intelligenz gibt es große unbemannte Bereiche zu erforschen. … Wir glauben, dass autonome Evolution eine Brücke von schwacher künstlicher Intelligenz zu allgemeiner künstlicher Intelligenz ist.

Oder, wie der Dekan der Beijing Academy of Artificial Intelligence, Huang Tiejun, auf einer Future of Life-Konferenz sagte:

Unsere menschliche Rasse befindet sich nur auf einer Stufe. Warum aufhören? Der Mensch entwickelt sich zu langsam. Es ist für Menschen unmöglich, sich mit maschineller Superintelligenz zu vergleichen. Es wird früher oder später passieren, also warum warten? Selbst aus der Perspektive des menschlichen Zentrismus oder des menschlichen Exzeptionalismus wird Superintelligenz benötigt, um sich den großen Herausforderungen zu stellen, die wir nicht verstehen können. Deshalb unterstütze ich die Idee.

Die Autoren des PRISM-Papiers übersetzen Aussagen aus dem gesamten chinesischen Technologie-Establishment und stellen trocken fest: „Andere derartige Prognosen sind alltäglich.“

Die Zukunft sieht düster aus, aber die Möglichkeiten sind noch weit offen. Auch hier bin ich irgendwo zwischen den Zweiflern und den wahren Gläubigen – und ich gebe zu, es ist eine lauwarme Absicherung.

Wie Smartphones oder das Internet wird sich KI niemals wie angekündigt entwickeln. Tech Evolution ist eine Saga von unerwarteten Fehlern und unbeabsichtigten Folgen. Es ist voll von aufgepumpten Aktien, übertriebenen Regierungsaufträgen und überfinanzierten akademischen Projekten.

Es gibt (noch) keine fliegenden Autos. Kalte Fusion gibt es (noch) nicht. Es gibt keine Gedankenkontroll-Nanobots (richtig?).

Dennoch weigert sich nur ein Narr zu sehen, dass Smartphones und das Internet die organische Kultur zerfetzt haben. Gleiches gilt für Massenüberwachung und Drohnenkrieg. Welche Form auch immer die KI letztendlich annehmen wird, ich bin überzeugt, dass sie ähnliche Auswirkungen haben wird, wenn nicht sogar noch schlimmer.

Es könnte sein, dass KI-Chatbots und virtuelle Sexsklaven einige Menschen von der tatsächlichen Realität abbringen und sie noch wahnsinniger machen, als sie ohnehin schon sind. Oder es könnte sein, dass eine Armee von KI-verbesserten, genetisch veränderten Cyborgs mit Gehirnchips auf Wolken von Nanobots herabsteigen wird, um einen Rassenkrieg gegen die Überreste der Menschen zu führen.

Nur die Zeit kann es verraten. Halten Sie Ihre Alufolie fest und Ihr Pulver trocken. Und um Himmels Willen, schalte dein Smartphone aus. So bekommen sie dich.

Lesen Sie die ganze Geschichte hier…