Forscher stellen fest, dass KI-Programme rassistische und geschlechtsspezifische Vorurteile entwickeln

Wikipedia Commons
Bitte teilen Sie diese Geschichte!
image_pdfimage_print

Ein KI-Programm, das aus dem lernt, was Menschen wissen und darüber schreiben, würde natürlich alle Vorurteile und Vorurteile aufgreifen, die sie für normal halten. Grundsätzlich bedeutet dies, dass die negativen Aspekte des menschlichen Verhaltens einfach auf die künstliche Intelligenz übertragen werden.  TN Editor

Es wurde gezeigt, dass ein künstliches Intelligenzwerkzeug, das die Fähigkeit von Computern zur Interpretation der Alltagssprache revolutioniert hat, auffällige Vorurteile in Bezug auf Geschlecht und Rasse aufweist.

Die Ergebnisse lassen aufkommen, dass bestehende soziale Ungleichheiten und Vorurteile auf neue und unvorhersehbare Weise verstärkt werden, da immer mehr Entscheidungen, die unser tägliches Leben betreffen, an Automaten abgegeben werden.

In den letzten Jahren hat sich die Fähigkeit von Programmen wie Google Translate, Sprache zu interpretieren, dramatisch verbessert. Dies ist auf neue Techniken des maschinellen Lernens und die Verfügbarkeit großer Mengen von Online-Textdaten zurückzuführen, mit denen die Algorithmen trainiert werden können.

Je näher Maschinen dem Erlernen von menschenähnlichen Sprachfähigkeiten kommen, desto mehr absorbieren sie die tief verwurzelten Vorurteile, die in den Mustern des Sprachgebrauchs verborgen sind, wie die neuesten Forschungsergebnisse zeigen.

Joanna Bryson, Informatikerin an der University of Bath und Mitautorin, sagte: „Viele Leute sagen, dies zeige, dass die KI Vorurteile hat. Das zeigt, dass wir Vorurteile haben und dass die KI es lernt. “

[the_ad id = "11018"]

Bryson warnte jedoch davor, dass KI das Potenzial habe, bestehende Vorurteile zu verstärken, da im Gegensatz zu Menschen Algorithmen möglicherweise nicht geeignet seien, um gelernten Vorurteilen bewusst entgegenzuwirken. "Eine Gefahr wäre, wenn Sie ein KI-System hätten, das keinen expliziten Teil hat, der von moralischen Ideen getrieben wird, das wäre schlecht", sagte sie.

Die Forschung, veröffentlicht in der Zeitschrift Science <br><br>konzentriert sich auf ein maschinelles Lernwerkzeug, das als „Worteinbettung“ bekannt ist und die Art und Weise, wie Computer Sprache und Text interpretieren, bereits verändert. Einige argumentieren, dass der nächste natürliche Schritt für die Technologie beinhalten könnte Maschinen, die menschenähnliche Fähigkeiten wie gesunden Menschenverstand und Logik entwickeln.

"Ein Hauptgrund, warum wir uns für das Studium von Worteinbettungen entschieden haben, ist, dass sie in den letzten Jahren auf spektakuläre Weise dazu beigetragen haben, dass Computer die Sprache verstehen", sagte Arvind Narayanan, Informatiker an der Princeton University und leitender Autor der Zeitung.

Der Ansatz, der bereits in der Websuche und in der maschinellen Übersetzung verwendet wird, baut eine mathematische Sprachdarstellung auf, bei der die Bedeutung eines Wortes in eine Reihe von Zahlen (bekannt als Wortvektor) destilliert wird, auf denen andere Wörter basieren am häufigsten erscheinen daneben. Vielleicht überraschend scheint dieser rein statistische Ansatz den reichen kulturellen und sozialen Kontext dessen einzufangen, was ein Wort so bedeutet, wie es eine Wörterbuchdefinition nicht kann.

Lesen Sie die ganze Geschichte hier…

Abonnieren
Benachrichtigung von
Gast
1 Wie
Älteste
Neueste Am meisten gewählt
Inline-Feedbacks
Alle Kommentare anzeigen
Nigel

Vorurteile sind Teil der menschlichen Verfassung - wir arbeiten mit Menschen zusammen, die so aussehen wie wir, wir sammeln uns in Gruppen, die wie wir sind und unsere Ansichten vertreten, wir betrachten diejenigen mit Argwohn, die es nicht sind und nicht - das ist unser evolutionärer Weg. Dies ist ein weiterer Spaltpunkt, der von dieser Technokratie identifiziert wird - es ist eine Beleidigung, eine Spannung, die genau auf das Gewebe unseres Wesens gelegt wird. Uns unsere Differenzen zu verweigern und uns zu verweigern, sie feiern zu dürfen, widerspricht unserer Natur, verursacht tiefe Bedrängnis und zielt auf das ab, was... Lesen Sie mehr »