Die Entwickler sagen, dass der neue AI-Textgenerator zu gefährlich für die Veröffentlichung ist

george orwellWikimedia Commons
Bitte teilen Sie diese Geschichte!
image_pdfimage_print
Während es lobenswert ist, dass die Schöpfer gefährliche Ergebnisse ihrer KI sehen und bereit sind, sie bis zur weiteren Analyse zurückzuhalten, ist es nur eine Frage der Zeit, bis sie herausrutscht. Beim Erzeugen künstlicher Geschichten wird keine menschliche Intelligenz verwendet. ⁃ TN Editor

Die Schöpfer eines revolutionären KI-Systems, das Nachrichten und fiktive Werke schreiben kann - genannt „Deepfakes for Text“ -, haben den ungewöhnlichen Schritt unternommen, ihre Forschungsergebnisse aus Angst vor potenziellem Missbrauch nicht öffentlich zu veröffentlichen.

OpenAILaut einer gemeinnützigen Forschungsfirma, die von Elon Musk, Reid Hoffman, Sam Altman und anderen unterstützt wird, ist das neue KI-Modell mit dem Namen GPT2 so gut und das Risiko einer böswilligen Verwendung so hoch, dass es von seiner normalen Praxis der vollständigen Freigabe abweicht Forschung für die Öffentlichkeit, um mehr Zeit zu geben, um die Folgen des technologischen Durchbruchs zu diskutieren.

GPT2 ist im Kern ein Textgenerator. Dem KI-System wird Text zugeführt, von ein paar Wörtern bis zu einer ganzen Seite, und er wird gebeten, die nächsten paar Sätze auf der Grundlage seiner Vorhersagen darüber zu schreiben, was als nächstes kommen soll. Das System erweitert die Grenzen dessen, was für möglich gehalten wurde, sowohl in Bezug auf die Qualität der Ausgabe als auch auf die Vielzahl der möglichen Verwendungen.

Wenn GPT2 verwendet wird, um einfach neuen Text zu generieren, können plausible Passagen geschrieben werden, die sowohl dem Stil als auch dem Thema entsprechen. Es werden selten Macken gezeigt, die frühere KI-Systeme auszeichnen, z. B. das Vergessen dessen, was in der Mitte eines Absatzes geschrieben wird, oder die Syntax langer Sätze zu ändern.

Geben Sie ihm die Eröffnungszeile von George Orwells Neunzehnhundertvierundachtzig - „Es war ein strahlend kalter Tag im April und die Uhren schlagen dreizehn“ - und das System erkennt den vage futuristischen Ton und den romanhaften Stil und fährt fort mit:

„Ich war in meinem Auto auf dem Weg zu einem neuen Job in Seattle. Ich gebe das Gas ein, lege den Schlüssel ein und lasse es dann laufen. Ich stellte mir nur vor, wie der Tag sein würde. In hundert Jahren. In 2045 war ich Lehrer an einer Schule in einem armen Teil des ländlichen Chinas. Ich habe mit chinesischer Geschichte und Wissenschaftsgeschichte begonnen. “

Füttere es die ersten paar Absätze von eine Guardian-Geschichte über den Brexitund sein Ergebnis ist eine plausible Zeitungsprosa, die mit "Zitaten" von Jeremy Corbyn, Erwähnungen der irischen Grenze und Antworten des Sprechers des Premierministers gespickt ist.

In einem solchen völlig künstlichen Absatz heißt es: „Ein Sprecher von May, der gebeten wurde, die Berichte zu präzisieren, sagte: 'Die Ministerpräsidentin hat deutlich gemacht, dass sie beabsichtigt, die EU so schnell wie möglich zu verlassen, und das wird unter ihrem Verhandlungsmandat liegen wie in der Rede der Königin letzte Woche bestätigt. "

Lesen Sie die ganze Geschichte hier…

Treten Sie unserer Mailingliste bei!


Abonnieren
Benachrichtigung von
Gast
0 Kommentare
Inline-Feedbacks
Alle Kommentare anzeigen