Technokraten wenden sich an Ethiker, um "ihre Seele zu retten"

SokratesWikipedia Commons, Greg O'Beirne
Bitte teilen Sie diese Geschichte!
image_pdfimage_print
Technokraten schaffen, weil sie können, nicht weil es einen moralischen oder ethischen Grund dafür gibt. In ihren Augen ist Technologie weder ethisch noch moralisch und verdient daher keine Berücksichtigung in den Entwicklungsprozessen. ⁃ TN Editor

Zweiundfünfzig Stockwerke unter der Spitze des Salesforce Tower treffe ich Paula Goldman in einem mit Glas getäfelten Konferenzraum, in dem die Worte GLEICHSTELLUNGSBÜRO auf einem Patchwork-Banner stehen, der Art Dekoration, die Sie für eine Kindergeburtstagsfeier kaufen könnten.

Goldman hat einen Master-Abschluss von Princeton und einen Ph.D. aus Harvard, wo sie studierte, wie kontroverse Ideen zum Mainstream werden. Sie ist bei Salesforce angekommen vor etwas mehr als einem Jahr als erster Chief Ethical and Humane Use Officer einen beispiellosen und entschieden mehrdeutigen Titel antreten, der speziell für ihre beispiellose, mehrdeutige und doch hochspezifische Aufgabe geschaffen wurde: Sorgen Sie dafür, dass Salesforce die Welt besser und nicht schlechter macht.

"Ich denke, wir sind in einem Moment in der Branche, in dem wir uns an diesem Wendepunkt befinden", sagt Goldman. „Ich glaube, die Tech-Branche war schon früher hier, mit Sicherheit in den 80ern. Plötzlich gab es Viren und Würmer, und es musste eine ganz neue Art und Weise geben, darüber nachzudenken und damit umzugehen. Danach ist eine Sicherheitsbranche gewachsen. Und jetzt ist es nur ein Standardprotokoll. Sie würden ein wichtiges Produkt nicht versenden, ohne es neu zusammenzustellen oder sicherzustellen, dass die richtigen Sicherheitsvorkehrungen getroffen wurden. “

"Ich denke, wir sind in einem ähnlichen Moment mit Ethik", sagt sie. „Es erfordert nicht nur eine Reihe von Werkzeugen, mit denen die Arbeit erledigt werden kann, sondern auch eine Reihe von Normen, die wichtig sind. Wie skalieren Sie diese Normen? “

Ich frage sie, wie diese Normen überhaupt entschieden werden.

"In gewisser Weise ist es die Milliarden-Dollar-Frage", sagt sie. „All diese Probleme sind äußerst kompliziert, und es gibt nur sehr wenige, bei denen die Antwort absolut klar ist. Richtig? Vieles hängt davon ab, welche Werte halten Sie in Ihrem Kalkül am höchsten? “

· · ·

Nach dem Skandal von Cambridge Analytica, Streiks von Mitarbeitern und anderen politischen und datenschutzrechtlichen Vorfällen sahen sich Tech - Unternehmen einer Welle von Unruhen ausgesetzt Anrufe zu Verleih was Forscher am Data & Society Research Institute nennen "Ethik-Eigentümer" Personen, die für die Operationalisierung der "uralten, domänenübergreifenden und unlösbaren Debatten über menschliche Werte, die ethischen Untersuchungen zugrunde liegen" auf praktische und nachweisbare Weise verantwortlich sind.

Salesforce stellte Goldman vom Omidyar-Netzwerk als Höhepunkt eines siebenmonatigen Krisenmanagementprozesses, nachdem Salesforce-Mitarbeiter gegen die Beteiligung des Unternehmens an der Einwanderungsarbeit der Trump-Administration protestiert hatten. Andere Unternehmen, die auf ihre jeweiligen Krisen und Bedenken reagieren, haben eine kleine Gruppe von ähnlichen Fachleuten eingestellt - Philosophen, Politikexperten, Linguisten und Künstler -, um sicherzustellen, dass sie tatsächlich eine kohärente Vorstellung davon haben, wenn sie versprechen, nicht böse zu sein was das mit sich bringt.

Was ist dann passiert?

Während einige Technologiefirmen konkrete Schritte unternommen haben, um ethisches Denken in ihre Prozesse einfließen zu lassen, gab Catherine Miller, Interims-CEO der ethischen Beratungsfirma Doteveryone, an, dass das Thema ebenfalls häufig „umstritten“ wurde.

Kritiker lehnen es als ab „Ethik-Waschen, ”Die Praxis, nur in Richtung moralischer Werte zu blicken, um staatliche Regulierung und Medienkritik abzuwehren. Der Begriff gehört zum wachsenden Lexikon der Technologieethik oder „Ethik“, einer Abkürzung, die in der Fernsehsendung „Silicon Valley“ als Satire begann, seitdem jedoch gelegentlich ernsthaft verwendet wird.

„Wenn Sie dieses Zeug nicht in der Praxis und in Ihren Anreizstrukturen anwenden, wenn Sie keine Überprüfungsprozesse haben, dann wird es zu moralischer Dampfware“, sagt Shannon Vallor, Technologiephilosophin am Markkula Center für Angewandte Ethik an der Santa Clara University. "Es ist etwas, was du versprochen hast und das du liefern wolltest, aber es ist nie wirklich angekommen."

Google schuf bekanntlich einen AI-Rat und dann, im April letzten Jahres, löste es auf nach Mitarbeiter protestierten die Aufnahme eines Anti-LGBTQ-Befürworters. Zum ethischen Ansatz von Google gehört heute die Verwendung vonModellkarten”Das darauf abzielt, seine KI zu erklären.

"Das ist nichts, was Zähne hat", sagt Michael Brent, Datenethiker bei Enigma und Professor für Philosophie an der Universität von Denver. "Das ist wie" Hier ist eine wirklich schöne Karte. "

Das Unternehmen hat noch größere Anstrengungen unternommen: Vallor absolvierte gerade eine Tour of Duty bei Google, wo sie Ingenieuren Ethik-Seminare unterrichtete und dem Unternehmen bei der Implementierung von Governance-Strukturen für die Produktentwicklung half. „Wenn ich über Ethik in organisatorischen Umgebungen spreche, ist es die Art und Weise, wie ich sie oft präsentiere, dass es das moralische Wissen und die moralischen Fähigkeiten sind, die Menschen und Organisationen helfen, ihre Verantwortung gegenüber anderen zu erfüllen“, sagt Vallor.

Mehr als 100 Google-Mitarbeiter haben besucht Ethik-Schulungen wurden im Markkula-Zentrum entwickelt. Das Unternehmen entwickelte auch eine Fairness-Modul im Rahmen des Crashkurses für maschinelles Lernen und Aktuelles seine vierteljährliche Liste der „verantwortungsvollen KI-Praktiken“. „Die überwiegende Mehrheit der Menschen, aus denen diese Unternehmen bestehen, möchte Produkte herstellen, die gut für die Menschen sind“, sagt Vallor. „Sie wollen wirklich nicht die Demokratie brechen, und sie wollen wirklich keine Bedrohung für das Wohlergehen der Menschen darstellen, und sie wollen wirklich nicht die Alphabetisierung und das Bewusstsein für die Realität in der Gesellschaft verringern. Sie wollen Dinge machen, auf die sie stolz sind. Also werde ich tun, was ich kann, um ihnen zu helfen, das zu erreichen? Ja."

· · ·

Das Markkula-Zentrum, in dem Vallor arbeitet, ist nach Mike Markkula Jr. benannt, demunbekanntApple-Mitbegründer, der in 1986gab dem Zentrum ein Startguthaben in der gleichen Weise, wie er dem jungen Steve Jobs ein erstes Darlehen gewährte. Er wollte nie, dass sein Name auf dem Gebäude stand - das war eine Überraschung, ein Dankeschön der Universität.

Markkula hat sich zurückgezogen, um ein ruhiges Leben zu führen und von seinem weitläufigen geschlossenen Anwesen in Woodside aus zu arbeiten. Heutzutage hat er nicht viel Kontakt zu der Firma, die er gegründet hat - "nur wenn mit meinem Computer etwas schief gelaufen ist", erzählt er mir. Als er jedoch Mitte der 80er Jahre mit seiner Tochter auf dem Santa Clara Campus ankam, um sich zu orientieren, war er Apples Vorsitzender und machte sich Sorgen über den Verlauf der Dinge im Tal. "Es war uns beiden, Linda [seiner Frau] und mir, klar, dass es nicht wenige Menschen in Entscheidungspositionen gab, die einfach keine Ethik auf dem Radarschirm hatten", sagt er. "Es ist nicht so, dass sie unethisch waren, sie hatten einfach keine Werkzeuge, mit denen sie arbeiten konnten."

Lesen Sie die ganze Geschichte hier…

Treten Sie unserer Mailingliste bei!


Abonnieren
Benachrichtigung von
Gast
3 Kommentare
Älteste
Neueste Am meisten gewählt
Inline-Feedbacks
Alle Kommentare anzeigen
ich sag bloß

"Alle diese Probleme sind extrem kompliziert", sagt sie. Werte sind Sache des Einzelnen. Auf einmal liegt es ja an uns, aber das Problem ist nicht kompliziert. Sie haben den Köder genommen und es funktioniert. Sie sind selbst wichtig und haben sich kleine Götter gemacht, die Gut und Böse kennen, nicht nur für sich selbst, sondern auch für uns. Ethik und Rechtsprechung werden in der Schule gelehrt, aber sie wurden mit der Bibel weggeworfen. Schauen Sie sich alle Anwälte an, die im Fernsehen Werbung machen. Die Wahrheit ist, dass wir ALLE Sünder sind. Ja das... Weiterlesen "

Steve Prewitt

Dieser ganze Artikel kam mir als "Vaporware" vor. Ethik ist ein Scherz, wenn der größte Akteur der Branche Hand in Hand mit China arbeitet und einen nationalen technokratischen Gulag erschafft (und nein, ich spreche nicht von den „Umerziehungslagern“ für Muslime, die das Böse definieren).