Technokratisch denkende Sozialingenieure bei Facebook sind der Meinung, dass sie jetzt Ihre Gedanken scannen können, indem sie Ihre Beiträge lesen und angeben, wann Sie psychosoziale Dienste benötigen. "Ja wirklich?" Werden sie Sie automatisch melden, damit Männer in weißen Kitteln mit einer geraden Jacke an Ihrer Wohnungstür auftauchen? Diese Denkweise ist mehr als gefährlich. ⁃ TN Editor
Dies ist Software, um Leben zu retten. Die neue künstliche Intelligenz-Technologie „Proactive Detection“ von Facebook durchsucht alle Posts nach Mustern von Selbstmordgedanken und sendet bei Bedarf Ressourcen zur psychischen Gesundheit an den gefährdeten Benutzer oder seine Freunde oder kontaktiert lokale Ersthelfer. Durch die Verwendung von KI, um besorgniserregende Beiträge an menschliche Moderatoren zu melden, anstatt auf Benutzerberichte zu warten, kann Facebook die Zeit reduzieren, die zum Senden von Hilfe benötigt wird.
Facebook vorher getestet mit AI, um störende Beiträge zu erkennen und auffälligere Optionen für die Anzeige von Selbstmorden an Freunde in den USA Jetzt wird Facebook alle Arten von Inhalten durchsuchen auf der ganzen Welt mit dieser KI, außer in der Europäischen Union, wo Allgemeine Datenschutzverordnung Datenschutzgesetze für die Profilerstellung von Benutzern basierend auf vertraulichen Informationen erschweren die Verwendung dieser Technologie.
Facebook verwendet AI auch, um besonders riskante oder dringende Benutzerberichte zu priorisieren, damit Moderatoren sie schneller ansprechen können, und Tools, mit denen lokale Sprachressourcen und Kontaktinformationen für Ersthelfer sofort angezeigt werden. Darüber hinaus werden mehr Moderatoren für die Suizidprävention geschult und für die Behandlung der Fälle 24 / 7 geschult. Jetzt gibt es lokale 80-Partner wie Save.org, National Suicide Prevention Lifeline und Forefront, die den gefährdeten Benutzern und ihren Netzwerken Ressourcen zur Verfügung stellen .
„Hier geht es darum, bei jedem einzelnen Schritt des Prozesses Minuten zu sparen, insbesondere bei Facebook Live“, sagt Guy Rosen, Vice President für Produktmanagement. In den letzten Testmonaten hat Facebook mehr als 100 „Wellness-Checks“ initiiert, bei denen Ersthelfer betroffene Benutzer besuchen. "Es gab Fälle, in denen der Ersthelfer eingetroffen ist und die Person noch sendet."
Die Idee, dass Facebook den Inhalt der Posts der Leute proaktiv scannt, könnte einige dystopische Ängste auslösen, wie die Technologie sonst angewendet werden könnte. Facebook hatte keine Antworten darauf, wie es vermieden werden könnte, nach politischen Meinungsverschiedenheiten oder geringfügigen Verbrechen zu suchen, und Rosen sagte lediglich: „Wir haben die Möglichkeit, hier zu helfen, also werden wir in diese investieren.“ Das hat mit Sicherheit enorme Vorteile Technologie, aber es ist ein anderer Bereich, in dem wir nur zu hoffen haben, dass Facebook nicht zu weit geht.
Mark Zuckerberg, CEO von Facebook, lobte das Produkt-Update heute in einem Post. das zu schreiben "In Zukunft wird die KI in der Lage sein, die subtilen Nuancen der Sprache besser zu verstehen und verschiedene Probleme zu identifizieren, die über den Selbstmord hinausgehen, einschließlich der schnellen Aufdeckung weiterer Arten von Mobbing und Hass."
Leider antwortete ein Facebook-Sprecher, nachdem TechCrunch gefragt hatte, ob es für Benutzer eine Möglichkeit zum Abbestellen gibt, dass ihre Beiträge nicht abbestellt werden können. Sie stellten fest, dass die Funktion zur Erhöhung der Benutzersicherheit entwickelt wurde und dass die von Facebook angebotenen Supportressourcen schnell entlassen werden können, wenn ein Benutzer sie nicht sehen möchte.]
Facebook trainierte die KI, indem es Muster in den Wörtern und Bildern fand, die in Beiträgen verwendet wurden, die in der Vergangenheit manuell als Suizidrisiko gemeldet wurden. Es wird auch nach Kommentaren wie "Geht es dir gut?" Und "Benötigen Sie Hilfe?" Gesucht.
