Wissenschaftler: Keine Möglichkeit, superintelligente KI zu kontrollieren

Bild von Gerd Altmann von Pixabay
Bitte teilen Sie diese Geschichte!
image_pdfimage_print
Einige Wissenschaftler befürchten nun, dass ein Tag mit superintelligenten KI-Programmen ein Eigenleben führen wird. Es gibt bereits KI-Programme, die gelernte Aufgaben ausführen, ohne dass die Programmierer verstehen, wie sie zu diesem Zustand gekommen sind. ⁃ TN Editor

Von selbstfahrenden Autos bis hin zu Computern, die Spielshows gewinnen können, haben Menschen eine natürliche Neugier und ein natürliches Interesse an künstlicher Intelligenz (KI). Während Wissenschaftler Maschinen immer intelligenter machen, fragen sich einige: "Was passiert, wenn Computer zu intelligent für ihr eigenes Wohl werden?" Von „The Matrix“ bis „The Terminator“ hat die Unterhaltungsindustrie bereits darüber nachgedacht, ob zukünftige Roboter eines Tages die Menschheit bedrohen werden. Eine neue Studie kommt nun zu dem Schluss, dass es möglicherweise keine Möglichkeit gibt, den Aufstieg von Maschinen aufzuhalten. Ein internationales Team sagt, Menschen könnten nicht verhindern, dass super künstliche Intelligenz tut, was sie wollte.

Wissenschaftler des Zentrums für Menschen und Maschinen am Max-Planck-Institut haben begonnen, sich vorzustellen, wie eine solche Maschine aussehen würde. Stellen Sie sich ein KI-Programm mit einer Intelligenz vor, die den Menschen weit überlegen ist. So sehr, dass es ohne neue Programmierung von selbst lernen könnte. Wenn es mit dem Internet verbunden wäre, hätten die KI laut Forschern Zugriff auf alle Daten der Menschheit und könnten sogar die Kontrolle über andere Maschinen auf der ganzen Welt übernehmen.

Studienautoren fragen, was würde eine solche Intelligenz mit all dieser Kraft machen? Würde es funktionieren, um unser ganzes Leben besser zu machen? Würde es seine Verarbeitungsleistung der Behebung von Problemen wie dem Klimawandel widmen? Oder würde die Maschine schauen das Leben übernehmen seiner menschlichen Nachbarn?

Unkontrollierbares kontrollieren? Die Gefahren der super künstlichen Intelligenz

Sowohl Computerprogrammierer als auch Philosophen haben untersucht, ob es eine Möglichkeit gibt, eine superintelligente KI davon abzuhalten, ihre menschlichen Macher möglicherweise anzuschalten. Sicherstellen, dass zukünftige Computer ihren Besitzern keinen Schaden zufügen können. Die neue Studie zeigt leider, dass es praktisch unmöglich ist, eine superintelligente KI in Einklang zu bringen.

„Eine superintelligente Maschine, die die Welt kontrolliert, klingt nach Science-Fiction. Es gibt jedoch bereits Maschinen, die bestimmte wichtige Aufgaben unabhängig voneinander ausführen, ohne dass Programmierer vollständig verstehen, wie sie sie gelernt haben. Es stellt sich daher die Frage, ob dies irgendwann werden könnte unkontrollierbar und gefährlich für die Menschheit “, sagt Studienkoautor Manuel Cebrian, Leiter der Digital Mobilization Group am Zentrum für Menschen und Maschinen, in a Universitätsfreigabe.

Das internationale Team untersuchte zwei verschiedene Kontrollmöglichkeiten künstliche Intelligenz. Der erste hat die Macht der Superintelligenz gebremst, indem er sie eingemauert und daran gehindert hat, eine Verbindung zum Internet herzustellen. Es konnte auch keine Verbindung zu anderen technischen Geräten in der Außenwelt hergestellt werden. Das Problem mit diesem Plan ist ziemlich offensichtlich; Ein solcher Computer wäre nicht in der Lage, viel zu tun, um Menschen tatsächlich zu helfen.

Nett zu Menschen zu sein, rechnet nicht

Die zweite Option konzentrierte sich auf die Erstellung eines Algorithmus, der den Supercomputern ethische Prinzipien vermittelt. Dies würde die KI hoffentlich dazu zwingen, die besten Interessen der Menschheit zu berücksichtigen.

Die Studie erstellte einen theoretischen Eindämmungsalgorithmus, der die KI unter keinen Umständen davon abhält, Menschen zu schaden. In Simulationen würde die KI nicht mehr funktionieren, wenn die Forscher ihre Handlungen als schädlich betrachten würden. Trotz der KI davon abzuhalten Weltherrschaft erlangenDie Autoren der Studie sagen, dass dies in der realen Welt einfach nicht funktionieren würde.

Lesen Sie die ganze Geschichte hier…

Über den Autor

Patrick Wood
Patrick Wood ist ein führender und kritischer Experte für nachhaltige Entwicklung, grüne Wirtschaft, Agenda 21, Agenda 2030 und historische Technokratie. Er ist Autor von Technocracy Rising: Das trojanische Pferd der globalen Transformation (2015) und Co-Autor von Trilaterals Over Washington, Band I und II (1978-1980) mit dem verstorbenen Antony C. Sutton.
Abonnieren
Benachrichtigung von
Gast
12 Kommentare
Älteste
Neueste Am meisten gewählt
Inline-Feedbacks
Alle Kommentare anzeigen

[…] Aus Technocracy News & Trends […]

Michael J

Künstliche Intelligenz ist eine Fehlbezeichnung. Es wird maschinelles Lernen genannt, bei dem der Computer darauf trainiert wird, Muster in Daten zu erkennen. Es ist nicht intelligent und es gibt kein Bewusstsein oder keine Fähigkeit, einen einzigen Gedanken zu denken.

James Reinhart

Hervorragende Antwort. Diejenigen, die die KI-Agenda vorantreiben, sollten sich wiederholen, was Sie hier geschrieben haben.

Adenovirus

Sie vernachlässigen unbeaufsichtigtes Lernen und viele andere Techniken

Corona Coronata

Wir werden wahrscheinlich den "V'Ger" -Moment erleben, in dem es darum geht, den Schöpfer (NASA) zu treffen oder ...

Corona Coronata

Ich kann meine Kommentare nicht bearbeiten, da die Schaltfläche "Bearbeiten" kaum sichtbar ist und das Textfeld überhaupt nicht sichtbar ist.

[…] Aus Technocracy News & Trends […]

Petrichor

Der verstorbene Dr. Stephen Hawkins sah voraus und warnte nachdrücklich, dass wir die KI nicht kontrollieren könnten.

Nancy

Ziehen Sie einfach den Stecker heraus.

James Reinhart

KI ist digital und nicht analog. Analog ist unendlich und meiner Meinung nach ewig, trotz aller physikalischen Formen der Theorie, die die Nuance des Lebens nicht erfassen können. Es gibt jedoch einige, die glauben, dass es (ICH BIN) keinen Anfang, kein Ende hat. Die griechische Ergänzung zu diesem Konzept von Moses findet man in der Septuaginta, einer AD-Umschreibung. Stellen Sie sich unendliche Kieselsteine ​​von unendlicher Größe in unendlichen Gewässern vor. Die Existenz eines Gewissens, das uns den Atem des Lebens gibt, die Fähigkeit, sich zu wundern und Fürsorge und Liebe auszudrücken, nicht nur für andere... Lesen Sie mehr »

Adenovirus

Was geschah mit Isaac Asimovs Gesetzen der Robotik?

Adenovirus

Das erinnert mich an einen alten sci fi Ein Film, in dem die Astronauten eine intelligente Bombe aus der Explosion herausreden mussten, fällt mir ein. Sie überlegten mit der Bombe, aber sie explodierte trotzdem, weil dies ihr Schicksal war.