Eric Schmidt: KI ist so mächtig wie Atomwaffen

Der frühere Google-CEO Eric Schmidt verglich KI mit Atomwaffen und forderte ein Abschreckungsregime ähnlich der gegenseitig zugesicherten Zerstörung, die die mächtigsten Länder der Welt davon abhält, sich gegenseitig zu zerstören.

Schmidt sprach auf dem Aspen Security Forum bei a über die Gefahren von KI Tafel über nationale Sicherheit und künstliche Intelligenz am 22. Juli. Als er eine Frage zum Wert der Moral in der Technologie stellte, erklärte Schmidt, dass er selbst in den frühen Tagen von Google naiv gewesen sei, was die Macht der Informationen anbelangt. Dann forderte er, dass die Technologie besser mit der Ethik und Moral der Menschen übereinstimmt, denen sie dient, und zog einen bizarren Vergleich zwischen KI und Atomwaffen.

"Wir sind nicht bereit für die Verhandlungen, die wir brauchen." – @ericschmidt #AspenSicherheit pic.twitter.com/As749t6ZyU

– Aspen-Sicherheitsforum (@AspenSecurity) 22. Juli 2022

Schmidt stellte sich eine nahe Zukunft vor, in der China und die USA einen Vertrag über KI festigen müssten. „In den 50er und 60er Jahren haben wir schließlich eine Welt ausgearbeitet, in der es eine „Keine Überraschung“-Regel für Atomtests gab und sie schließlich verboten wurden“, sagte Schmidt. „Es ist ein Beispiel für ein Gleichgewicht des Vertrauens oder Mangels an Vertrauen, es ist eine ‚Keine-Überraschungen'-Regel. Ich bin sehr besorgt, dass die US-Ansicht von China als korrupt oder kommunistisch oder was auch immer und die chinesische Ansicht von Amerika als versagend … es den Menschen erlauben wird, zu sagen: „Oh mein Gott, sie haben etwas vor“, und dann irgendetwas anzufangen des Rätsels. Beginnen Sie etwas, wo Sie, weil Sie bewaffnen oder sich fertig machen, dann die andere Seite auslösen. Wir haben niemanden, der daran arbeitet, und doch ist KI so mächtig.“

KI und maschinelles Lernen sind beeindruckende und häufig missverstandene Technologien. Es ist im Großen und Ganzen nicht so schlau, wie die Leute denken. Es kann sich ausbreiten Kunstwerke auf Meisterwerk-Niveau, schlagen Menschen an Starcraft II, und führen Sie rudimentäre Telefonanrufe für Benutzer durch. Versuche, es jedoch dazu zu bringen, kompliziertere Aufgaben zu erledigen, wie z. B. ein Auto durch eine Großstadt zu fahren, lief nicht so gut.

Schmidt stellte sich eine nahe Zukunft vor, in der sowohl China als auch die USA Sicherheitsbedenken haben würden, die eine Art Abschreckungsvertrag zwischen ihnen um KI erzwingen würden. Er spricht von den 1950er und 60er Jahren, als die Diplomatie eine Reihe von Kontrollen rund um die tödlichsten Waffen der Welt herstellte. Aber bis die Welt an einen Ort gelangte, an dem sie den Vertrag über das Verbot von Nuklearversuchen, SALT II und andere wegweisende Gesetze einführte, brauchte es Jahrzehnte der nuklearen Explosionen und, was entscheidend war, die Zerstörung von Hiroshima und Nagasaki.

Die beiden japanischen Städte, die Amerika am Ende des Zweiten Weltkriegs zerstörte, töteten Zehntausende von Menschen und bewiesen der Welt den ewigen Schrecken der Atomwaffen. Die Regierungen Russlands und Chinas beeilten sich daraufhin, die Waffen zu erwerben. Die Art und Weise, wie wir mit der Möglichkeit leben, dass diese Waffen eingesetzt werden, ist durch etwas, das sich MAD (Mutual Assured Destruction) nennt, eine Theorie der Abschreckung, die sicherstellt, dass, wenn ein Land eine Atombombe startet, es möglich ist, dass jedes andere Land dies auch tut. Wir verwenden nicht die zerstörerischste Waffe auf dem Planeten, weil die Möglichkeit besteht, dass dadurch zumindest die Zivilisation auf der ganzen Welt zerstört wird.

Trotz Schmidts farbenfrohen Kommentaren wollen oder brauchen wir MAD für KI nicht. Zum einen hat sich KI nicht als annähernd so zerstörerisch erwiesen wie Atomwaffen. Sondern Menschen in Machtpositionen Angst vor dieser neuen Technologie und typischerweise aus den falschen Gründen. Die Leute haben sogar vorgeschlagen Kontrolle geben von Atomwaffen an die KI, wobei sie theoretisieren, dass sie bessere Schiedsrichter über ihren Einsatz sein würden als Menschen.

Das Problem mit der KI ist nicht, dass sie die potenziell weltzerstörende Kraft einer Atomwaffe hat. KI ist nur so gut wie die Menschen, die sie entwickelt haben, und spiegelt die Werte ihrer Schöpfer wider. KI leidet unter dem klassischen „Garbage in, Garbage out“-Problem: Rassistische Algorithmen machen rassistische Roboter, jede KI trägt die Vorurteile ihrer Schöpfer und ein auf 4chan trainierter Chatbot wird gemein.

Das ist etwas von Demis Hassabis – dem CEO von DeepMind, der die schlagende KI trainiert hat Starcraft II Spieler – scheint besser zu verstehen als Schmidt. In einem Juli-Interview im Lex Fridman-Podcast fragte Fridman Hassabis, wie eine so mächtige Technologie wie KI kontrolliert werden könne und wie Hassabis selbst vermeiden könne, von der Macht korrumpiert zu werden.

Lesen Sie die ganze Geschichte hier…