OpenAI-CEO Altman schlägt Alarm wegen KI und ChatGPT

Sam Altman, CEO von OpenAI, und Fang Bingxing – die als „Vater von Chinas Great Firewall“ gelten – äußern gemeinsam mit Elon Musk, dem Mitbegründer von OpenAI, Bedenken hinsichtlich der Gefahren der künstlichen Intelligenz (KI).

„Wir müssen hier vorsichtig sein“, sagte der 37-jährige Altman ABC News letzte Woche und fügte hinzu: „Ich denke, die Leute sollten froh sein, dass wir ein bisschen Angst davor haben.“

„Ich bin besonders besorgt darüber, dass diese Modelle für groß angelegte Desinformation verwendet werden könnten … Jetzt, da sie besser darin werden, Computercode zu schreiben, könnten [sie] für offensive Cyberangriffe verwendet werden.“

Allerdings glaubt Altman auch, dass es „die größte Technologie sein könnte, die die Menschheit bisher entwickelt hat“.

OpenAI ist das Unternehmen hinter Chat GPT, das „GPT-4“ vor weniger als zwei Wochen gestartet hat. Der hochentwickelte Chatbot kann bei SAT-Mathematiktests fast perfekte Ergebnisse erzielen, und erreichen Sie 90 % bei der US-Anwaltsprüfung.

Und es hat Konkurrenten …

Auch andere KI-basierte Startups machen überraschende Fortschritte auf diesem Gebiet. RAD-KI hat kürzlich die erste KI-Marketingplattform eingeführt, die entwickelt wurde, um Emotionen zu verstehen, und einige der größten Unternehmen der Welt nutzen sie bereits.

GenesisAI ist ein Startup, das einen Marktplatz aufbaut, der es jedem Unternehmen ermöglicht, KI und Automatisierung in sein Geschäft zu integrieren. Das bedeutet, dass KI bald genauso ein integraler Bestandteil eines Unternehmens sein könnte wie die Mitarbeiter selbst. –Benzinga

Laut Altman jedoch ChatGPT-4 verwendet deduktives Denken vs. Auswendiglernen, was zu ungenauen Ergebnissen führen kann.

„Das, wovor ich die Leute am meisten zu warnen versuche, ist das, was wir das ‚Halluzinationsproblem‘ nennen“, sagte Altman ABC News. „Das Modell wird Dinge selbstbewusst aussagen, als ob sie Tatsachen wären (aber sie sind vollständig erfunden.“

Altmann denkt es besteht Regelungsbedarf von KI im Allgemeinen.

„Es wird andere Leute geben, die einige der Sicherheitsbeschränkungen, die wir auferlegt haben, nicht einhalten“, sagte er. „Die Gesellschaft hat meiner Meinung nach nur begrenzt Zeit, um herauszufinden, wie sie darauf reagieren, wie sie das regulieren und wie sie damit umgehen soll.“

Auch besorgt über GPT-4 und ähnliche KI ist Fang Bingxing, der Vater von Chinas sogenannter Great Firewall.

Laut Fang können solche Chatbots zu einem „Informationskokon“ führen (im Gegensatz zum freien Informationsfluss in China?)

„Die Perspektiven der Menschen können manipuliert werden, wenn sie alle möglichen Antworten von KI suchen“, sagte er gegenüber Red Star News, einem Medienpartner der staatlich unterstützten Chengdu Economic Daily, wie von berichtet SCMP.

Fang, ein Informatiker und ehemaliger Regierungsbeamter, gilt weithin als Chefdesigner von Chinas berüchtigtem Internet-Zensur- und Überwachungssystem. Er spielte eine Schlüsselrolle bei der Erstellung und Entwicklung der Great Firewall, einem ausgeklügelten System von Internetfiltern und -sperren, mit dem die chinesische Regierung kontrollieren kann, auf was ihre Bürger online zugreifen können.

Die Great Firewall wurde in den letzten zehn Jahren verstärkt und blockierte den Zugang chinesischer Internetnutzer zu einer breiten Palette ausländischer Websites und Online-Dienste, darunter Facebook, Twitter und Google. -SCMP

Fang warnte auch davor, dass die Weiterentwicklung der KI eine Bedrohung für die Menschheit darstellen könnte.

„Jetzt ist es einfach Software, die in einem Online-Chat-ähnlichen Szenario verwendet wird. Wenn es in Roboter und Autos eingebaut wird, müssen wir wachsam bleiben und auf mögliche Schäden achten, die sie Menschen zufügen könnten.“

Lesen Sie die ganze Geschichte hier…