Technokraten wenden sich an Ethiker, um "ihre Seele zu retten"

SokratesWikipedia Commons, Greg O'Beirne
Bitte teilen Sie diese Geschichte!
Technokraten schaffen, weil sie können, nicht weil es einen moralischen oder ethischen Grund dafür gibt. In ihren Augen ist Technologie weder ethisch noch moralisch und verdient daher keine Berücksichtigung in den Entwicklungsprozessen. ⁃ TN Editor

Zweiundfünfzig Stockwerke unter der Spitze des Salesforce Tower treffe ich Paula Goldman in einem verglasten Konferenzraum, in dem die Worte EQUALITY OFFICE auf einem Patchwork-Banner abgebildet sind, eine Art Dekoration, die Sie für eine Kindergeburtstagsfeier kaufen könnten.

Goldman hat einen Master-Abschluss von Princeton und einen Ph.D. aus Harvard, wo sie studierte, wie kontroverse Ideen zum Mainstream werden. Sie kam bei Salesforce an vor etwas mehr als einem Jahr als erster Chief Ethical and Humane Use Officer einen beispiellosen und entschieden mehrdeutigen Titel antreten, der speziell für ihre beispiellose, mehrdeutige und doch hochspezifische Aufgabe geschaffen wurde: Sorgen Sie dafür, dass Salesforce die Welt besser und nicht schlechter macht.

"Ich denke, wir befinden uns in einem Moment in der Branche, in dem wir uns an diesem Wendepunkt befinden", sagt Goldman. „Ich denke, die Tech-Industrie war schon einmal hier, mit Sicherheit in den 80ern. Plötzlich gab es Viren und Würmer, und es musste eine ganz neue Art geben, darüber nachzudenken und damit umzugehen. Und danach ist eine Sicherheitsbranche aufgewachsen. Und jetzt ist es nur noch Standardprotokoll. Sie würden ein großes Produkt nicht versenden, ohne es zusammenzustellen oder sicherzustellen, dass die richtigen Sicherheitsvorkehrungen getroffen wurden. “

"Ich denke, wir sind in einem ähnlichen Moment mit Ethik", sagt sie. „Es erfordert nicht nur eine Reihe von Werkzeugen, mit denen die Arbeit erledigt werden kann, sondern auch eine Reihe von Normen, die wichtig sind. Wie skalieren Sie diese Normen? “

Ich frage sie, wie diese Normen überhaupt entschieden werden.

"In gewissem Sinne ist es die Milliarden-Dollar-Frage", sagt sie. „All diese Probleme sind äußerst kompliziert, und es gibt nur sehr wenige, bei denen die Antwort absolut klar ist. Richtig? Vieles hängt davon ab, welche Werte Sie in Ihrem Kalkül am höchsten halten? “

· · ·

Nach dem Skandal von Cambridge Analytica, Streiks von Mitarbeitern und anderen politischen und datenschutzrechtlichen Vorfällen sahen sich Tech - Unternehmen einer Welle von Unruhen ausgesetzt Anrufe zu Verleih was Forscher am Data & Society Research Institute nennen "Ethik-Eigentümer" Personen, die für die Operationalisierung „der alten, domänenspringenden und unlösbaren Debatten über menschliche Werte, die ethischen Untersuchungen zugrunde liegen“, auf praktische und nachweisbare Weise verantwortlich sind.

Salesforce stellte Goldman vom Omidyar-Netzwerk als Höhepunkt eines siebenmonatigen Krisenmanagementprozesses, der stattfand, nachdem Salesforce-Mitarbeiter gegen die Beteiligung des Unternehmens an der Einwanderungsarbeit der Trump-Administration protestiert hatten. Andere Unternehmen, die auf ihre jeweiligen Krisen und Bedenken reagieren, haben einen kleinen Kader ähnlicher Fachleute eingestellt - Philosophen, Politikexperten, Linguisten und Künstler -, um sicherzustellen, dass sie tatsächlich eine kohärente Vorstellung davon haben, wenn sie versprechen, nicht böse zu sein was das bedeutet.

Was ist dann passiert?

Während einige Technologiefirmen konkrete Schritte unternommen haben, um ethisches Denken in ihre Prozesse einzufügen, sagt Catherine Miller, Interim-CEO der ethischen Beratungsfirma Doteveryone, dass es auch viel „Flattern“ um das Thema gegeben hat.

Kritiker lehnen es als ab „Ethik waschen"Die Praxis, sich nur in Richtung moralischer Werte zu bewegen, um staatliche Regulierung und Medienkritik abzuwehren. Der Begriff gehört zum wachsenden Lexikon um Technologieethik oder „Tethik“, eine Abkürzung, die als Satire in der TV-Show „Silicon Valley“ begann, seitdem aber gelegentlich ernsthaft verwendet wird.

„Wenn Sie dieses Zeug nicht in tatsächlichen Praktiken und in Ihren Anreizstrukturen anwenden, wenn Sie keine Überprüfungsprozesse haben, dann wird es zu moralischer Vaporware“, sagt Shannon Vallor, ein Technologiephilosoph am Markkula Center für Angewandte Ethik an der Santa Clara University. "Es ist etwas, das du versprochen hast und das du liefern wolltest, aber es ist nie wirklich angekommen."

Google schuf bekanntlich einen AI-Rat und dann, im April letzten Jahres, löste es auf nach Mitarbeiter protestierten die Aufnahme eines Anti-LGBTQ-Befürworters. Der ethische Ansatz von Google umfasst heute die Verwendung von „ModellkartenDas Ziel ist es, seine KI zu erklären.

"Das ist nichts, was Zähne hat", sagt Michael Brent, Datenethiker bei Enigma und Professor für Philosophie an der Universität von Denver. "Das ist wie 'Hier ist eine wirklich schöne Karte.'"

Das Unternehmen hat größere Anstrengungen unternommen: Vallor hat gerade eine Dienstreise bei Google absolviert, wo sie Ingenieuren Ethik-Seminare unterrichtete und dem Unternehmen half, Governance-Strukturen für die Produktentwicklung zu implementieren. „Wenn ich über Ethik in organisatorischen Umgebungen spreche, präsentiere ich sie oft so, dass es das moralische Wissen und die moralischen Fähigkeiten sind, die Menschen und Organisationen helfen, ihre Verantwortung gegenüber anderen zu erfüllen“, sagt Vallor.

Mehr als 100 Google-Mitarbeiter haben besucht Ethik-Schulungen wurden im Markkula-Zentrum entwickelt. Das Unternehmen entwickelte auch eine Fairness-Modul im Rahmen des Crashkurses für maschinelles Lernen und Aktuelles seine Liste der "verantwortlichen KI-Praktiken" vierteljährlich. "Die überwiegende Mehrheit der Menschen, aus denen diese Unternehmen bestehen, möchte Produkte entwickeln, die gut für die Menschen sind", sagt Vallor. „Sie wollen wirklich nicht die Demokratie brechen, und sie wollen wirklich keine Bedrohung für das Wohlergehen der Menschen schaffen, und sie wollen wirklich nicht die Alphabetisierung und das Bewusstsein für die Realität in der Gesellschaft verringern. Sie wollen Dinge machen, auf die sie stolz sind. Also werde ich tun, was ich kann, um ihnen dabei zu helfen, das zu erreichen? Ja."

· · ·

Das Markkula-Zentrum, in dem Vallor arbeitet, ist nach Mike Markkula Jr. benannt.unbekanntApple Mitbegründer, der, in 1986gab dem Zentrum ein Startguthaben in der gleichen Weise, wie er dem jungen Steve Jobs ein erstes Darlehen gewährte. Er wollte nie, dass sein Name auf dem Gebäude stand - das war eine Überraschung, ein Dankeschön der Universität.

Markkula hat sich zurückgezogen, um ein ruhiges Leben zu führen und von seinem weitläufigen, geschlossenen Anwesen in Woodside aus zu arbeiten. Heutzutage hat er nicht viel Kontakt zu der Firma, die er gegründet hat - "nur wenn etwas mit meinem Computer schief geht", erzählt er mir. Aber als er Mitte der 80er Jahre auf dem Campus von Santa Clara ankam, um sich mit seiner Tochter zu orientieren, war er Apples Vorsitzender, und er machte sich Sorgen darüber, wie die Dinge im Tal liefen. "Es war uns beiden, Linda [seiner Frau] und mir, klar, dass es einige Leute in Entscheidungspositionen gab, die einfach keine Ethik auf ihrem Radarschirm hatten", sagt er. "Es ist nicht so, dass sie unethisch waren, sie hatten einfach keine Werkzeuge, mit denen sie arbeiten konnten."

Lesen Sie die ganze Geschichte hier…

Abonnieren
Benachrichtigung von
Gast
3 Kommentare
Älteste
Neueste Am meisten gewählt
Inline-Feedbacks
Alle Kommentare anzeigen
ich sag bloß

"All diese Probleme sind äußerst kompliziert", sagt sie. Werte sind individuell. In gewisser Hinsicht liegt es ja an uns individuell, aber das Problem ist nicht kompliziert. Sie haben den Köder genommen und es funktioniert. Sie sind selbst wichtig und haben sich als solche kleine Götter gemacht, die Gut und Böse nicht nur für sich selbst kennen, sondern es auch für uns ausgewählt haben. Ethik und Rechtsprechung werden früher in der Schule unterrichtet, aber sie wurden mit der Bibel verworfen. Schauen Sie sich einfach alle Anwälte an, die im Fernsehen Werbung machen. Die Wahrheit ist, dass wir ALLE Sünder sind. Ja das... Lesen Sie mehr »

Steve Prewitt

Dieser ganze Artikel kam mir als "Vaporware" vor. Ethik ist ein Witz, wenn der größte Akteur der Branche Hand in Hand mit China arbeitet und einen nationalen technokratischen Gulag schafft (und nein, ich spreche nicht von den „Umerziehungslagern“ für Muslime, die das Böse definieren).