KI-Wissenschaftler treffen sich, um Lösungen für Doomsday-Szenarien zu entwerfen

Wikipedia Commons
Bitte teilen Sie diese Geschichte!

Technokraten haben ein Monster erschaffen, von dem sie jetzt erkennen, dass es ihre Schöpfer umdrehen und zerstören könnte. Auf diese Weise werden "Kriegsspiele" erstellt, um zu lernen, wie man sie besiegt - künstliche Intelligenz. Dies ist ein weiteres Beispiel für einen Versuch, die Welt zu retten, der sich in ein Szenario der Zerstörung der Welt verwandelt hat.   TN Editor

Künstliche Intelligenz-Booster sagen eine schöne neue Welt fliegender Autos und Krebsheilungen voraus. Kritiker sorgen sich um eine Zukunft, in der Menschen einer bösen Rasse von Roboter-Oberherren versklavt sind. Der erfahrene KI-Wissenschaftler Eric Horvitz und der Doomsday Clock-Guru Lawrence Krauss, die einen Mittelweg suchten, versammelten eine Gruppe von Experten in der Wüste von Arizona, um über das Schlimmste zu diskutieren, das möglicherweise passieren könnte - und wie man es aufhält.

Ihr Workshop fand am vergangenen Wochenende an der Arizona State University statt und wurde von Elon Musk, Mitbegründer von Tesla Inc., und Jaan Tallinn, Mitbegründer von Skype, finanziert. Offiziell als „Vorstellung und Bekämpfung unerwünschter KI-Ergebnisse“ bezeichnet, war es eine Art KI-Weltuntergangsspiel, bei dem rund 40 Wissenschaftler, Cyber-Sicherheitsexperten und Politiker in Gruppen von Angreifern - dem roten Team - und Verteidigern - dem blauen Team - KI spielten - sehr falsche Szenarien, angefangen von Börsenmanipulationen bis hin zur globalen Kriegsführung.

Horvitz ist optimistisch - eine gute Sache, weil Maschinenintelligenz sein Lebenswerk ist -, aber einige andere, eher dystopisch denkende Unterstützer des Projekts schienen seine Aussichten zu positiv zu finden, als die Pläne für diese Veranstaltung vor etwa zwei Jahren begannen, sagte Krauss, ein Theoretiker Physiker, der das Origins Project der ASU leitet, das Programm, das den Workshop leitet. Horvitz sagte jedoch, dass alle Bedenken vollständig geäußert und angegangen werden müssen, damit diese Technologien erfolgreich vorankommen und ein breites öffentliches Vertrauen gewinnen können.

„Die KI hat ein enormes Potenzial, so viele Aspekte unserer Gesellschaft auf so viele Arten zu verändern. Gleichzeitig gibt es wie bei jeder Technologie Ecken und Kanten und potenzielle Nachteile “, sagte Horvitz, Geschäftsführer des Microsoft Research Lab in Redmond, Washington. "Um maximal von der Oberseite zu profitieren, müssen wir auch mögliche Ergebnisse detaillierter als bisher durchdenken und darüber nachdenken, wie wir mit ihnen umgehen würden."

Die Teilnehmer erhielten „Hausaufgaben“, um Einträge für Worst-Case-Szenarien einzureichen. Sie mussten realistisch sein - basierend auf aktuellen Technologien oder solchen, die als möglich erscheinen - und fünf bis 25 Jahre in der Zukunft. Die Teilnehmer mit den „siegreichen“ Albträumen wurden ausgewählt, um die Panels zu leiten, in denen etwa vier Experten aus jedem der beiden Teams über den Angriff und seine Verhinderung diskutierten.

Lesen Sie die ganze Geschichte hier…

Abonnieren
Benachrichtigung von
Gast
0 Kommentare
Inline-Feedbacks
Alle Kommentare anzeigen