Haben KI-Entwickler das Recht, das gesamte Internet für ihre liebsten „Lern“-Projekte zu beanspruchen? Persönliche Daten? Gesundheitsdaten „Urheberrechtlich geschützte Daten“ Private und verschlüsselte Daten? Technokraten haben keine ethischen Grenzen, wenn es darum geht, alle Daten der Welt zu klauen, ob geschützt oder nicht. Aber sie haben es bereits getan.⁃ TN Editor
Die Federal Trade Commission hat am Donnerstag eine Untersuchung der Geschäftspraktiken von OpenAI und seiner ChatGPT-Plattform im Hinblick auf Datenschutz und Verbraucherschäden eingeleitet. Viele Branchenbeobachter begrüßen den Schritt, befürchten jedoch, dass die Regulierungsbemühungen zu schwach oder zu spät sein könnten.
Die Federal Trade Commission (FTC) am Donnerstag leitete eine Untersuchung ein in OpenAI, dem Entwickler der beliebten ChatGPT-Plattform für künstliche Intelligenz (KI), und verwies auf Bedenken hinsichtlich Datenschutzverletzungen, Datenerfassungspraktiken und der Veröffentlichung falscher Informationen über Einzelpersonen.
Die FTC-Untersuchung zielt darauf ab, festzustellen, ob OpenAI gegen Verbraucherschutzgesetze verstoßen hat.
Die FTC informierte OpenAI über die bevorstehende Untersuchung in einem 20-seitiger Brief an das Unternehmen Anfang dieser Woche, in was Die New York Times wird als „die bisher stärkste regulatorische Bedrohung für das Geschäft von OpenAI in den Vereinigten Staaten“ beschrieben.
In dem Brief wird OpenAI gebeten, eine Reihe von Fragen zu seinen Geschäfts- und Sicherheitspraktiken zu beantworten und zahlreiche Dokumente und andere unternehmensinterne Details bereitzustellen. Das Unternehmen hatte 14 Tage Zeit, um zu antworten.
Sam Altman, CEO von OpenAI, twitterte seine Enttäuschung über die Nachricht, sagte aber, sein Unternehmen werde mit der Agentur zusammenarbeiten.
Es ist sehr enttäuschend, dass die Anfrage der FTC mit einem Leck beginnt und nicht dazu beiträgt, Vertrauen aufzubauen.
Dennoch ist es uns sehr wichtig, dass unsere Technologie sicher und verbraucherfreundlich ist, und wir sind zuversichtlich, dass wir uns an die Gesetze halten. Selbstverständlich werden wir mit der FTC zusammenarbeiten.
In der Washington Post heißt es: „Wenn die FTC feststellt, dass ein Unternehmen gegen Verbraucherschutzgesetze verstößt, kann sie Bußgelder verhängen oder ein Unternehmen einem Einwilligungsdekret unterwerfen, das vorschreiben kann, wie das Unternehmen mit Daten umgeht.“
Eleanor Fox, LL.B., ein emeritierter Juraprofessor der New York University und Kartellexperte, sagte Der Defender Die Maßnahme der FTC ist ein positiver Schritt:
„Die Einleitung einer Untersuchung zu OpenAI durch die FTC scheint ein wichtiger Schritt zu sein und genau das, was die FTC tun sollte. Die meisten sind sich einig, dass es reguliert werden sollte – auch OpenAI selbst.
„Die Verbraucher- und Wettbewerbsaspekte hängen eng zusammen. Der erste Einschnitt hier ist logischerweise der Verbraucherschutz.“
Einige andere Rechtsbeobachter und Big-Tech-Analysten sagten jedoch, dass die Untersuchung viele Monate dauern könnte und dass es noch lange nicht sicher sei, dass OpenAI letztendlich mit Sanktionen belegt wird.
W. Scott McCollough, ein in Austin ansässiger Internet- und Telekommunikationsanwalt, sagte gegenüber The Defender:
„Ich traue der FTC nicht zu, dass sie viel Gutes tut. Am Ende segnen sie meist nur aufdringliche oder schädliche Geschäftsmodelle, indem sie an den Rändern herumbasteln oder die Offenlegung der schädlichen Praxis fordern, wenn das gesamte Unternehmen liquidiert werden sollte.
„So begann vor einiger Zeit die ganze Sache mit dem Überwachungskapitalismus. Und jetzt ist es zu spät.“
„KI stellt eine Gefahr für die Öffentlichkeit dar, vor allem weil sie von Monopolen oder Beinahe-Monopolen geschaffen wird. Aber staatliche Regulierung ist nicht die Antwort. Wenn es nach linken Regulierungsbehörden und Gesetzgebern geht, wird die KI die Realität anhand von „Wake“-Kriterien kuratieren und die Realität andernfalls verschwinden lassen.
„Die Antwort ist mehr Wettbewerb. Der Wettbewerb würde KI-Produzenten dazu zwingen, die Privatsphäre zu schützen, Einzelpersonen vor automatisierter Verleumdung zu schützen und die Realität statt linker Fantasy-Fiktion darzustellen.“
Der Brief der FTC kam in derselben Woche, in der sich die Vorsitzende der Agentur, Lina Khan, mit Fragen der von den Republikanern geführten Partei konfrontiert sah Haus Justizausschuss über mehrere andere gescheiterte Kartell- und Regulierungsklagen gegen Big-Tech-Unternehmen.
Vorwürfe wegen „betrügerischer Praktiken“ und „Reputationsschädigung“ von Einzelpersonen
In der Beschwerde von CAIDP wurde festgestellt, dass OpenAI die FTC-Richtlinien nicht erfüllt habe, wonach KI „transparent, erklärbar, fair und empirisch fundiert sein und gleichzeitig die Rechenschaftspflicht fördern“ sollte, und dass OpenAI selbst eine Reihe potenzieller Gefahren anerkannt habe, darunter „Desinformations- und Einflussoperationen“ und „ Verbreitung konventioneller und unkonventioneller Waffen.“
CAIDP forderte die FTC auf, OpenAI daran zu hindern, neue kommerzielle Editionen seiner ChatGPT-Plattform zu veröffentlichen, „bis Leitplanken festgelegt sind“, um Probleme im Zusammenhang mit Voreingenommenheit, Desinformation und Sicherheit anzugehen. Der Brief stützte sich auf Aussagen von „KI-Experten“, die eine „Pause bei großen Sprachmodellen“ forderten, die in der KI verwendet werden.
CAIDP eskalierte seine Beschwerde am 7. Juli und beschuldigte OpenAI „unfairer und betrügerischer Praktiken“ und „zunehmender Besorgnis über die ethischen Auswirkungen und die regulatorischen Anforderungen“ von KI-Produkten wie ChatGPT.
Laut der Post gab es zusätzlich zur CAIDP-Beschwerde weitere Schadensvorwürfe gegen OpenAI und ChatGPT.
Die Post berichtete, dass der Moderator der Radio-Talkshow aus Georgia, Mark Walters, OpenAI wegen Verleumdung verklagte und behauptete, der Chatbot habe fälschlicherweise behauptet, er habe Gelder der Second Amendment Foundation betrogen und unterschlagen. Walters hat eine Klage eingereicht Klage gegen OpenAI.
In ein anderer Fall, ChatGPT sagte, ein Anwalt habe „sexuell anzügliche Kommentare abgegeben und versucht, einen Schüler auf einer Klassenfahrt nach Alaska zu berühren, unter Berufung auf einen Artikel, der angeblich in der Washington Post erschienen sei.“
Allerdings „existierte kein solcher Artikel, die Klassenfahrt fand nie statt und der Anwalt sagte, er sei nie beschuldigt worden, einen Schüler belästigt zu haben“, heißt es in der Post.
Dementsprechend forderte die FTC OpenAI auf, Einzelheiten zu allen Beschwerden anzugeben, die es über seine Produkte erhalten hatte, die „falsche, irreführende, herabwürdigende oder schädliche“ Aussagen über Menschen machten, die möglicherweise zu „Reputationsschäden“ geführt haben.
Sicherheitsprobleme untersucht
Die FTC wird auch prüfen, ob OpenAI „unfaire oder irreführende Datenschutz- oder Datensicherheitspraktiken oder unfaire oder irreführende Praktiken im Zusammenhang mit dem Risiko eines Schadens für Verbraucher durchgeführt hat“.
Die FTC sucht nach Aufzeichnungen im Zusammenhang mit einem Datenverstoß im März, bei dem ein Fehler im ChatGPT-System den Chatverlauf, personenbezogene Daten und Finanzinformationen bestimmter Benutzer offenlegte.
Damals behauptete OpenAI nur ein „äußerst niedrig” Anzahl der Benutzer waren betroffen.
Verstehen ChatGPT-Benutzer die Grenzen der KI-Technologie?
Die FTC fordert OpenAI auf, alle Forschungs-, Umfrage- oder Testergebnisse herauszugeben, in denen bewertet wird, wie gut Verbraucher „die Genauigkeit oder Zuverlässigkeit der von ihren KI-Tools generierten Ausgaben“ verstehen und welche Daten OpenAI zum Trainieren seiner Produkte verwendet.
Die Post stellt fest, dass Produkte wie ChatGPT „menschliche Sprache nachahmen, indem sie Text aufnehmen, der größtenteils aus Wikipedia, Scribd und anderen Websites im offenen Web stammt“, aber dass diese Modelle auch „die Tendenz haben,halluzinieren'“, indem sie „Antworten erfinden, wenn die Modelle die Antwort auf eine Frage nicht kennen.“
McCollough erklärte gegenüber The Defender, dass Praktiken wie „Halluzinationen“ eine Bedrohung für die Privatsphäre aller Online-Benutzer darstellen:
„Technologieunternehmen beanspruchen oft das Recht, alles im Internet zu löschen, sogar persönliches oder urheberrechtlich geschütztes Material. Wer also denkt, dass er etwas Privates gepostet oder nicht allgemein veröffentlicht hat, kann sich die Inhalte aneignen.“
Schließlich bittet die FTC um Einzelheiten darüber, wie OpenAI seine Produkte bewirbt, wie es die Sicherheit und Zuverlässigkeit neuer Produkte bewertet und wie oft OpenAI die Einführung eines neuen Produkts aufgrund von Sicherheitsbedenken verzögert.
Laut der Times „könnte die Untersuchung OpenAI dazu zwingen, seine Methoden rund um den Aufbau von ChatGPT und die Datenquellen, die es zum Aufbau seiner KI-Systeme verwendet, offenzulegen“, und fügte hinzu: „Während OpenAI lange Zeit recht offen gegenüber solchen Informationen war, hat es dies kürzlich gesagt.“ wenig darüber, woher die Daten für seine KI-Systeme kommen.“
Unklar, ob Sanktionen gegen OpenAI folgen werden
Trotz zahlreicher Vorwürfe gegen OpenAI ist der Ausgang dieser Untersuchung alles andere als sicher. Laut der Times „kann die Untersuchung der FTC zu OpenAI viele Monate dauern, und es ist unklar, ob sie zu Maßnahmen seitens der Behörde führen wird.“ Solche Ermittlungen sind privat und beinhalten oft Aussagen von Top-Führungskräften von Unternehmen.“
Megan Gray, eine ehemalige Mitarbeiterin des Büros für Verbraucherschutz der FTC, sagte der Times: „Die FTC verfügt nicht über das Personal mit der technischen Expertise, um die Antworten, die sie erhalten wird, auszuwerten und zu sehen, wie OpenAI versuchen könnte, die Wahrheit zu verschleiern.“
Branchenanalysten stellten die Befugnis der FTC in Frage, Maßnahmen gegen OpenAI durchzusetzen. Adam Kovacevich, Gründer und CEO der Handelskammer der Technologiebranche, sagte der Post, der Agentur fehle möglicherweise die Befugnis, „Verleumdungen oder den Inhalt der Ergebnisse von ChatGPT polizeilich zu überwachen“.
Dennoch „stellt die FTC-Untersuchung die erste große regulatorische Bedrohung in den USA für OpenAI, eines der bekanntesten KI-Unternehmen, dar und signalisiert, dass die Technologie zunehmend unter die Lupe genommen werden könnte, da Menschen, Unternehmen und Regierungen mehr KI-basierte Produkte verwenden“, heißt es die Zeiten.
Aktuelle Bedenken hinsichtlich der KI-Technologie
Im Juni Senator Chuck Schumer (DN.Y.) forderte eine „umfassende Gesetzgebung“, um „eine neue Grundlage für die KI-Politik“ zu schaffen, und erklärte:
„Geringer qualifizierte Aufgaben werden immer schneller der Automatisierung zum Opfer fallen – und Millionen von Arbeitnehmern mit niedrigem Einkommen, viele davon aus farbigen Gemeinschaften, verdrängen. Als nächstes könnten Transport, Fertigung und Energieerzeugung folgen. Und seien Sie versichert, auch diejenigen mit Hochschulbildung und höheren Abschlüssen sind nicht sicher.“
Altman selbst sagte das Die KI-Branche muss reguliert werden. In seiner Aussage vor dem Kongress im Mai sagte er: „Ich denke, wenn diese Technologie schief geht, kann sie ziemlich schief gehen.“ Wir wollen mit der Regierung zusammenarbeiten, um das zu verhindern.“
Bei derselben Anhörung sagte Altman, dass es für die Regierung wichtig sei, „herauszufinden, wie wir potenzielle Arbeitsplatzverluste abmildern wollen“, die sich aus dem breiten Einsatz der KI-Technologie ergeben könnten.
Regulierungsbehörden in anderen Ländern sind bereits gegen KI-Unternehmen vorgegangen
Einige Länder unternehmen bereits Schritte zur Regulierung von KI.
Nach Angaben der Anwaltskanzlei arbeiten auch die EU, Brasilien, China, Japan, Kanada, Indien und die Schweiz an der Entwicklung von Vorschriften für die KI-Branche TaylorWessing.
Solche Maßnahmen der Regulierungsbehörden anderer Länder könnten die FTC dazu veranlasst haben, Maßnahmen zu ergreifen. Laut der Times „greift die FTC die KI mit bemerkenswerter Geschwindigkeit an und leitet eine Untersuchung weniger als ein Jahr nach der Einführung von ChatGPT durch OpenAI ein.“
Im April, Samuel Levin, Direktor des Büros für Verbraucherschutz der FTC, sagte, die Behörde sei bereit, „flexibel“ auf neue Bedrohungen durch KI zu reagieren, und fügte hinzu, dass die FTC zwar „Innovationen begrüßt, aber innovativ zu sein kein Freibrief für Rücksichtslosigkeit ist.“
„Wir sind bereit, alle unsere Instrumente, einschließlich der Durchsetzung, einzusetzen, um schädliche Praktiken in diesem Bereich zu bekämpfen“, sagte Levine.
Zuvor hatte in einem Februar-Blogbeitrag die FTC warnte KI-Unternehmen dass „Vermarkter wissen sollten, dass – zum Zweck der Durchsetzung der FTC – falsche oder unbegründete Behauptungen über die Wirksamkeit eines Produkts unser Brot und Butter sind.“
FTC-Vorsitzender Khan, der sich einen Ruf als Big-Tech-SkeptikerLaut der Post sprach sie während einer Pressekonferenz der Biden-Regierung im April über KI und sagte: „Es gibt keine KI-Ausnahme von den geltenden Gesetzen.“
Im Jahr 2017 veröffentlichte Khan im Yale Law Journal einen juristischen Artikel, in dem er charakterisierte Amazon als moderner Monopolist deren Marktmacht „angesprochen“ werden musste. In demselben Papier plädierte sie für die Wiederherstellung der „traditionellen Kartell- und Wettbewerbspolitik“ für Big Tech.
In einem 3. Mai Gastaufsatz veröffentlicht in der TimesKhan sagte, dass KI-Tools zwar „neuartig sind, aber nicht von den bestehenden Regeln ausgenommen sind und die FTC die Gesetze, mit deren Verwaltung wir beauftragt sind, auch in diesem neuen Markt energisch durchsetzen wird“, und fügte hinzu: „Während sich die Technologie schnell weiterentwickelt, Wir sehen bereits mehrere Risiken.“
„ChatGPT und einige dieser anderen Dienste werden mit einem riesigen Datenschatz versorgt. Es gibt keine Kontrolle darüber, welche Art von Daten in diese Unternehmen eingegeben werden“, sagte sie bei der Anhörung und fügte hinzu, dass es Berichte darüber gegeben habe, dass „sensible Informationen“ von Personen in den Ergebnissen des KI-Tools auftauchen.
In den letzten Monaten hat die FTC einige Maßnahmen gegen Big-Tech-Unternehmen wegen irreführender Verbraucherpraktiken durchgesetzt.
Bei der Anhörung am Donnerstag wurde Khan jedoch wegen ihr kritisiert Versäumnisse der Agentur, einschließlich eines Bundesrichters, der den Versuch der FTC stoppte, die 70-Milliarden-Dollar-Übernahme von Activision durch Microsoft zu stoppen. Im Vormonat musste die FTC eine weitere Gerichtsniederlage hinnehmen, als ein Richter die Bemühungen der FTC blockierte, die Übernahme des Virtual-Reality-App-Unternehmens Within durch Meta zu stoppen.
Abgeordneter Jim Jordan (R-Ohio), Vorsitzende des Justizausschusses des Repräsentantenhauses, sagte: „Die FTC ist einer einzigen Anfrage nach Dokumenten dieses Ausschusses nicht vollständig nachgekommen, und aufgrund ihres Missmanagements sind nicht einmal ihre eigenen Mitarbeiter von der Führung des Vorsitzenden Khan beeindruckt.“ unter Berufung auf interne FTC-Umfragen, die eine wachsende Unzufriedenheit der Mitarbeiter zeigen.
Und der Abgeordnete Kevin Kiley (R-Kalifornien) fragte Khan während der Anhörung am Donnerstag: „Sie sind jetzt 0 zu 4 in Fusionsprozessen. Warum verlierst du so viel?“
Unbeantwortete Fragen zu den Risiken, die KI für das soziale Gefüge darstellt
Was jedoch sowohl in der Rhetorik der FTC als auch in der Befragung, die Khan bei der Anhörung erhielt, offenbar fehlte, waren die umfassenderen Risiken, die KI für das soziale Gefüge darstellen könnte.
Laut Analyst und Aktivist Charles Hugh Smith„KI eliminiert Arbeitsplätze, die nicht durch eine massive Welle neuer Arbeitsplätze ersetzt werden, ein Prozess, der als technologische Arbeitsplatzverdrängung bekannt ist.“
Smith schrieb, er sei „skeptisch gegenüber den Behauptungen, dass zig Millionen Arbeitsplätze durch LLM [großes Sprachmodell] oder maschinell lernende KI verloren gehen“ und dass solche KI-Tools „die Produktivität qualifizierter menschlicher Arbeitskräfte steigern könnten, anstatt sie vollständig zu ersetzen.“ " ihnen.
Als Antwort auf Behauptungen, dass neue Technologien möglicherweise sogar viel mehr Arbeitsplätze schaffen als sie beseitigen, schrieb Smith: „Die Beweise sind tatsächlich nicht ganz so klar, dass diese Schaffung neuer Arbeitsplätze vorhersehbar ist.“
Infolgedessen „werden wir möglicherweise feststellen, dass KI das Schlimmste aus beiden Welten liefert: Sie schmälert die Gewinne, da sich alle mit den höheren Kosten der KI begnügen, hat aber keinen dauerhaften Wettbewerbsvorteil, der höhere Preise und Gewinne unterstützen würde, und sie verdrängt weite Teile der Branche.“ menschliche Arbeitskraft, die nicht durch neue Sektoren ersetzt wird, die zig Millionen neue Arbeitsplätze schaffen.“
„Es gibt eine Rückkopplungsschleife zu Arbeitsplatzverlusten, die nicht ersetzt werden“, fügte Smith hinzu und zitierte den Ökonomen John Maynard Keynes.
„Wenn Menschen ihr Erwerbseinkommen verlieren und auf Arbeitslosigkeit oder möglicherweise ein bedingungsloses Grundeinkommen (UBI) angewiesen sind, ist ihr Einkommen normalerweise niedriger und sie können nicht mehr so viel ausgeben und konsumieren wie zu der Zeit, als sie einen Job hatten. Die gesamte Wirtschaft schrumpft.“
Patrick Wood ist ein führender und kritischer Experte für nachhaltige Entwicklung, grüne Wirtschaft, Agenda 21, Agenda 2030 und historische Technokratie. Er ist Autor von Technocracy Rising: Das trojanische Pferd der globalen Transformation (2015) und Co-Autor von Trilaterals Over Washington, Band I und II (1978-1980) mit dem verstorbenen Antony C. Sutton.
[…] Weiterlesen: Zu wenig, zu spät! FTC befasst sich endlich mit ChatGPT, Datenschutz und Sicherheit […]
[…] Weiterlesen: Zu wenig, zu spät! FTC befasst sich endlich mit ChatGPT, Datenschutz und Sicherheit […]