Dieselben Technokraten, die uns überhaupt KI gebracht haben, überlegen jetzt, ob plötzlich eine „Super-KI“ entstehen könnte, die die Zivilisation zerstören würde. Für eine zuverlässigere Antwort sollten sie vielleicht Alexa fragen. ⁃ TN Editor
Der CEO des Allen Institute for AI, Professor Oren Etzioni, gab eine Reihe potenzieller Warnzeichen heraus, die uns darauf hinweisen würden, dass „Super-Intelligence“ vor der Tür steht.
Der Mensch muss auf Anzeichen von Roboter-Superintelligenz vorbereitet sein, sollte aber genügend Zeit haben, um sie anzusprechen, hat ein führender Informatiker gewarnt.
Oren Etzioni, CEO des Allen Institute for AI, hat kürzlich einen Artikel mit dem Titel „How to know if künstliche Intelligenz ist im Begriff, die Zivilisation zu zerstören. “
Er schrieb: „Könnten wir eines Morgens sprachlos aufwachen, dass eine supermächtige KI mit katastrophalen Folgen entstanden ist?
„Bücher wie Superintelligence von Nick Bostrom und Life 3.0 von Max Tegmark sowie neuere Artikel argumentieren, dass böswillige Superintelligenz ein existenzielles Risiko für die Menschheit darstellt.
„Aber man kann endlos spekulieren. Es ist besser, eine konkretere, empirischere Frage zu stellen: Was würde uns darauf aufmerksam machen, dass Superintelligenz tatsächlich um die Ecke ist? “
Er verglich Warnschilder mit Kanarienvögeln in Kohlengruben, mit denen Kohlenmonoxid nachgewiesen wurde, weil sie zusammenbrechen würden.
Prof. Etzioni argumentierte, dass diese Warnsignale auftreten, wenn KI-Programme eine neue Fähigkeit entwickeln.
Er fuhr für MIT Review fort: „Könnte der berühmte Turing-Test als Kanarienvogel dienen? Der 1950 von Alan Turing erfundene Test geht davon aus, dass KI auf menschlicher Ebene erreicht wird, wenn eine Person das Gespräch mit einem Menschen nicht vom Gespräch mit einem Computer unterscheiden kann.
„Es ist ein wichtiger Test, aber kein Kanarienvogel. Es ist vielmehr das Zeichen dafür, dass die KI auf menschlicher Ebene bereits angekommen ist.
„Viele Informatiker glauben, dass Superintelligenz schnell folgen wird, wenn dieser Moment eintrifft. Wir brauchen mehr Zwischenmeilensteine. “
Er warnte jedoch davor, dass die „automatische Formulierung von Lernproblemen“ der erste Kanarienvogel sein würde, gefolgt von selbstfahrenden Autos.
wpDiscuz
Was ist „automatische Formulierung von Lernproblemen“? Ging zum Link, aber die Seite möchte Informationen, die ich nicht bereitstellen wollte.