Top-KI-Konferenz verbietet ChatGPT das Schreiben akademischer Arbeiten

Eine der weltweit renommiertesten Konferenzen zum maschinellen Lernen hat Autoren verboten, KI-Tools wie ChatGPT zum Verfassen wissenschaftlicher Arbeiten zu verwenden, und damit eine Debatte über die Rolle von KI-generiertem Text in der Wissenschaft ausgelöst.

Die International Conference on Machine Learning (ICML) kündigte die Richtlinie Anfang dieser Woche an und erklärte: „Aufsätze, die Text enthalten, der aus einem groß angelegten Sprachmodell (LLM) wie ChatGPT generiert wurde, sind verboten, es sei denn, der produzierte Text wird als Teil des präsentiert experimentelle Analyse des Papiers.“ Die Nachricht löste Funken aus breite Diskussion in den sozialen Medien, wobei KI-Akademiker und -Forscher die Politik sowohl verteidigen als auch kritisieren. Die Organisatoren der Konferenz antworteten mit Veröffentlichung einer längeren Stellungnahme ihre Denkweise erklären. (Die ICML antwortete auf Anfragen von The Verge um einen Kommentar zu erhalten, indem Sie uns auf dieselbe Aussage verweisen.)

Laut ICML ist der Aufstieg öffentlich zugänglicher KI-Sprachmodelle wie ChatGPT – ein Allzweck-KI-Chatbot, der im November letzten Jahres im Internet gestartet – stellt eine „spannende“ Entwicklung dar, die dennoch „unerwartete Folgen [und] unbeantwortete Fragen“ mit sich bringt. Die ICML sagt, dass dies Fragen darüber beinhaltet, wer besitzt die Ausgabe solcher Systeme (Sie werden in öffentlichen Daten geschult, die normalerweise ohne Zustimmung gesammelt werden, und geben diese Informationen manchmal wörtlich wieder) und ob von KI generierte Texte und Bilder „als neuartig oder als bloße Ableitungen bestehender Arbeiten angesehen werden sollten“.

In jedem Fall gibt es unterschiedliche Befürchtungen über die schädlichen Auswirkungen von KI-generiertem Text. Einer der häufigsten ist, dass die Ausgabe dieser Systeme einfach unzuverlässig ist. Diese KI-Tools sind riesige Autovervollständigungssysteme, die darauf trainiert sind, vorherzusagen, welches Wort in einem bestimmten Satz auf das nächste folgt. Als solche haben sie keine fest codierte Datenbank mit „Fakten“, auf die sie zurückgreifen können – nur die Fähigkeit, plausibel klingende Aussagen zu schreiben. Das bedeutet sie neigen dazu, falsche Informationen als Wahrheit darzustellen da ob ein gegebener Satz Geräusche plausible übernimmt keine Gewähr für deren Richtigkeit.

Im Fall des ICML-Verbots von KI-generiertem Text besteht eine weitere potenzielle Herausforderung darin, zwischen Texten zu unterscheiden, die nur von KI „poliert“ oder „bearbeitet“ wurden, und solchen, die von diesen Tools „vollständig produziert“ wurden. An welchem ​​Punkt stellen eine Reihe kleiner KI-gesteuerter Korrekturen eine größere Umschreibung dar? Was ist, wenn ein Benutzer ein KI-Tool bittet, seine Arbeit in einem knackigen Abstract zusammenzufassen? Zählt dies als frisch erstellter Text (weil der Text neu ist) oder als bloßes Polieren (weil es eine Zusammenfassung von Wörtern ist, die der Autor geschrieben hat)?