Technokraten-Datenwissenschaftler bellen den falschen Baum an. Beachten Sie, dass sie niemals sagen, dass ihre Black-Box-Algorithmen die Wahrheit finden können, die logischerweise der Isolierung von Unwahrheiten vorausgehen sollte. Ihr angeblicher Durchbruch wird jedoch als "neue Waffe im Kampf gegen Fehlinformationen" gefeiert. ⁃ TN Editor
Ein Algorithmus-basiertes System, das verräterische sprachliche Hinweise in gefälschten Nachrichtenmeldungen identifiziert, könnte Nachrichtenaggregatoren und Social-Media-Sites wie Google News nach neuen Erkenntnissen eine neue Waffe im Kampf gegen Fehlinformationen bieten.
Die Forscher, die das System entwickelt haben, haben gezeigt, dass es vergleichbar und manchmal besser als Menschen ist, wenn es darum geht, gefälschte Nachrichten zu identifizieren.
In einer kürzlich durchgeführten Studie hat das System Fälschungen mit einem Anteil von bis zu 76 Prozent im Vergleich zu einer menschlichen Erfolgsrate von 70 Prozent erfolgreich festgestellt. Darüber hinaus könnte ihr Ansatz der sprachlichen Analyse verwendet werden, um gefälschte Nachrichtenartikel zu identifizieren, die zu neu sind, um durch Querverweise ihrer Fakten mit anderen Geschichten entlarvt zu werden.
Rada Mihalcea, Informatik- und Ingenieurprofessorin an der University of Michigan, die hinter dem Projekt steht, sagt, eine automatisierte Lösung könne ein wichtiges Instrument für Websites sein, die mit einem Ansturm von gefälschten Nachrichten zu kämpfen haben, die häufig erstellt werden, um Klicks zu generieren oder die öffentliche Meinung zu manipulieren.
Das Auffinden gefälschter Geschichten, bevor sie echte Konsequenzen haben, kann schwierig sein, da Aggregator- und Social-Media-Sites heutzutage in hohem Maße auf menschliche Redakteure angewiesen sind, die mit dem Zustrom von Nachrichten oft nicht Schritt halten können. Darüber hinaus hängen aktuelle Entlarvungstechniken häufig von der externen Überprüfung von Fakten ab, was bei den neuesten Geschichten schwierig sein kann. Wenn sich herausstellt, dass eine Geschichte eine Fälschung ist, ist der Schaden oft bereits angerichtet.
Die sprachliche Analyse verfolgt einen anderen Ansatz und analysiert quantifizierbare Attribute wie Grammatik, Wortwahl, Zeichensetzung und Komplexität. Es funktioniert schneller als Menschen und kann mit einer Vielzahl verschiedener Nachrichtentypen verwendet werden.
"Sie können sich eine beliebige Anzahl von Anwendungen dafür im Front- oder Back-End einer Nachrichten- oder Social-Media-Site vorstellen", sagt Mihalcea. „Es könnte Nutzern eine Einschätzung der Vertrauenswürdigkeit einzelner Artikel oder einer ganzen Nachrichtenseite liefern. Oder es könnte eine erste Verteidigungslinie am hinteren Ende einer Nachrichtenseite sein, die verdächtige Geschichten zur weiteren Überprüfung anzeigt. Eine 76-Erfolgsquote in Prozent lässt eine relativ große Fehlerquote zu, kann aber dennoch wertvolle Erkenntnisse liefern, wenn sie zusammen mit Menschen eingesetzt wird. “
Laut Mihalcea sind linguistische Algorithmen zur Analyse schriftlicher Sprache heutzutage weit verbreitet. Die Herausforderung beim Aufbau eines gefälschten Nachrichtendetektors besteht nicht darin, den Algorithmus selbst zu erstellen, sondern die richtigen Daten zu finden, mit denen dieser Algorithmus trainiert werden kann.
Gefälschte Nachrichten erscheinen und verschwinden schnell, was das Sammeln erschwert. Es kommt auch in vielen Genres vor, was den Sammelprozess weiter erschwert. Satirische Nachrichten sind zum Beispiel leicht zu sammeln, aber die Verwendung von Ironie und Absurdität macht es weniger nützlich, einen Algorithmus zum Erkennen gefälschter Nachrichten zu trainieren, die irreführen sollen.
Letztendlich erstellte das Team von Mihalcea seine eigenen Daten, indem es ein Online-Team zusammenstellte, das verifizierte Originalnachrichten in Fälschungen umwandelte. So werden die meisten gefälschten Nachrichten von Personen erstellt, die sie schnell als Gegenleistung für eine finanzielle Belohnung schreiben, sagt Mihalcea.
Die Forscher rekrutierten die Teilnehmer mit Hilfe von Amazon Mechanical Turk und bezahlten sie, um kurze, aktuelle Nachrichtenmeldungen in ähnliche, aber gefälschte Nachrichtenmeldungen umzuwandeln, die den journalistischen Stil der Artikel imitieren. Am Ende des Prozesses verfügte das Forschungsteam über einen Datensatz mit echten und gefälschten 500-Nachrichten.
Sie fütterten dann einen Algorithmus mit diesen etikettierten Geschichtenpaaren, der eine sprachliche Analyse durchführte und sich selbst beibrachte, zwischen echten und falschen Nachrichten zu unterscheiden. Schließlich wandelte das Team die Algorithmen in einen Datensatz mit echten und gefälschten Nachrichten um, die direkt aus dem Internet abgerufen wurden, wodurch die 76-Erfolgsquote in Prozent verrechnet wurde.
Die Details des neuen Systems und des Datensatzes, mit dem das Team es erstellt hat, sind frei verfügbar, und Mihalcea sagt, dass Nachrichten-Sites oder andere Entitäten sie verwenden könnten, um ihre eigenen gefälschten Nachrichtenerkennungssysteme zu erstellen. Sie sagt, dass das Einbeziehen von Metadaten wie den Links und Kommentaren, die mit einer bestimmten Online-Nachricht verknüpft sind, zukünftige Systeme weiter verbessern könnte.
Die Forscher werden das System in einem Artikel detailliert beschreiben, den sie auf der 27-Konferenz für Computerlinguistik in Santa Fe, New Mexico, vorstellen werden.
wpDiscuz