Der berühmte österreichische Zoologe Konrad Lorenz (1903-1989), der die Technokratie aus erster Hand verstand, erklärte: "Der menschliche Geist ist auf dem Weg der Technokratie zum Gegner des Lebens selbst und kollateral zum Gegner der menschlichen Seele geworden." ⁃ TN Editor
Der Wunsch von Facebook nach Effizienz bedeutet, dass die Demokratie aus ist und die technokratische Regel des Entwicklers König ist.
Nehmen wir an, dass Facebook kein Land ist, dass echte Regierungen viel mehr Funktionen erfüllen und dass Menschen keine Bürger ihrer sozialen Netzwerke sind.
Dennoch leben 900 Millionen Menschen so etwas wie im blau-weißen virtuellen Raum des weltweit größten strukturierten Netzes von Menschen. Und diese Leute geraten in Streitigkeiten, von denen sie erwarten, dass sie entschieden werden. Sie haben diese Erwartung teilweise, weil Facebook seit langem erklärt hat, es wolle eine sichere Umgebung für die Verbindung mit anderen Menschen schaffen. (Wie sonst kann man Menschen dazu bringen, „offener und verbundener„?) Aber die Leute wollen auch, dass jemand das Sagen hat, sie wollen eine Autorität, an die sie sich wenden können, wenn eine andere Person ein Idiot ist.
Außer in diesem Fall ist die Person wirklich eine Unternehmensperson. Wenn Sie also etwas melden oder jemand etwas von Ihnen meldet, entscheidet Facebook über die Veröffentlichung, auch wenn wir wissen, dass irgendwann ein Mensch das Unternehmen verkörpern muss, wenn auch nur lange genug Klicken Sie auf eine Schaltfläche.
Jede individuelle Entscheidung des Facebook-Teams - wie dieses Foto eines homosexuellen Paarküssens unten nehmen - ist leicht zu hinterfragen. Ken Fisher von Ars Technica ausführlich eine ganze Reihe von einmaligen Problemen dass Menschen mit dem Berichtssystem von Facebook begegnet sind. In jedem gibt es eine geschädigte Partei, aber wir hören nur eine Seite des Konflikts, wenn diese Probleme auftauchen. Bei vielen Einzelereignissen haben Sie zwei Personen (oder Unternehmen wie Unternehmen) mit widersprüchlichen Wünschen. Dies ist ein klassischer Fall, in dem Sie eine Art Regierung brauchen.
Es ist nicht schwer vorstellbar, in einer Woche eine oder 20 oder sogar 200 Entscheidungen über Fotos oder Statusaktualisierungen zu treffen, aber es ist umwerfend zu bedenken, dass Facebook diese verarbeiten muss 2 Millionen Berichte pro Wocheund das beinhaltet keine einfachen "Als Spam markieren" -Nachrichten.
Wie entwerfen Sie ein System, um mit dieser Arbeitslast umzugehen? Ich sprach mit James Mitchell, der innerhalb seiner Abteilung für Benutzeroperationen das leitet, was Facebook als "Website-Integrität" bezeichnet, und Jud Hoffman, dem globalen Richtlinienmanager des Unternehmens, über den Berichtsprozess. Sie sind die Architekten der Technokratie von Facebook.
"Die Menge an Gedanken und Debatten, die in den Prozess der Erstellung und Verwaltung dieser Regeln fließen, unterscheidet sich nicht wesentlich von einem Gesetzgebungs- und Justizprozess, die alle in einem zusammengefasst sind", sagte mir der Anwalt Hoffman. „Und James hat das exekutive / juristische Element. Ich denke nicht, dass es schwierig ist, darüber in einem Governance-Kontext nachzudenken, aber es ist eine andere Form und wir nehmen es wirklich sehr, sehr ernst. “
Mitchell sagte mir, der wichtigste Schritt sei, den Berichtsprozess zu strukturieren. Als er 2006 anfing, gab es keine Form von Beschwerden von Benutzern. Das bedeutete, dass es eine riesige Warteschlange undifferenzierter Probleme gab. Also begannen er und sein Team darüber nachzudenken, welche Art von Problemen sie erhielten, und erstellten Kategorien von Problemen, die sie im Laufe der Zeit verfeinerten.
Auf diese Weise können die Berichte über eine komplexe Reihe von Prozessen und Teams geleitet werden, sodass sie vor Menschen oder Computern ankommen, die wissen, wie sie damit umgehen sollen.
Facebook hat diese Infrastruktur heute zum ersten Mal enthüllt. Es ist das Ergebnis von mehr als fünfjähriger Arbeit mehrerer Teams innerhalb von Facebook, die daran gearbeitet haben, den Prozess der Bearbeitung dieser Flut von Benutzeranfragen so effizient wie möglich zu gestalten.
Am Ende vieler dieser Berichtszeilen steht eine Person, die eine Entscheidung über die Nachricht des Benutzers treffen muss. Einige dieser Entscheidungen sind binär - Enthält dieses Foto Nacktheit? - und diese werden im Allgemeinen an Teams ausgelagert, die einfache und strenge Formeln anwenden können, z. B. die Frage: "Ist diese Person nackt?" Andere Entscheidungen sind so komplex, dass Maschinen sehr gut mit ihnen umgehen können. (Zum Beispiel gibt es mehr als 50 Signale, die die Facebook-Algorithmen untersuchen, um festzustellen, ob es sich bei einem Profil um Spam handelt, und die automatisierten Antworten sind genauer als die von Menschen.)
Der Großteil der Berichte wird jedoch von einem gesichtslosen Team von mehreren hundert Facebook-Mitarbeitern in Mountain View, Austin, Dublin und Hyderabad erstellt. Diese Leute und die Werkzeuge, die sie gebaut haben, sind de facto zu Gesetzgebern, Bürokraten, Polizisten und Richtern der Quasi-Nation von Facebook geworden. Einige Entscheidungen, die sie treffen, wirken sich auf eine kleine Weise auf Hunderte Millionen Menschen aus. Andere Entscheidungen werden eine kleine Anzahl von Menschenleben in großem Maße verändern.
Was mich fasziniert, ist, dass Facebook im Wesentlichen eine Regierungsbürokratie mit Regulierungsbehörden und Strafverfolgungsbehörden geschaffen hat, die jedoch für völlig andere Werte als traditionelle Regierungen optimiert wurde. Anstelle einer Verfassung hat Facebook die doppelte Aufgabe, „die Welt offener und vernetzter zu machen“ und die Nutzer auf seiner Website zu halten, indem ihre negativen Erfahrungen minimiert werden. Vor allem die Lösung von Facebook für alle Governance-Probleme muss auf extreme Effizienz in großem Maßstab ausgelegt sein.
Wie oben festgelegt, müssen Regierungen der realen Welt alle Arten von Funktionen erfüllen, abgesehen von Streitigkeiten zwischen Bürgern, aber nur den Größenunterschied zwischen der Regierung von Facebook und der Regierung von Palo Alto betrachten. Palo Alto hat rund 65,000 Einwohner und 617 Vollzeit Angestellte. Facebook hat 900 Millionen Einwohner und einige hundert Bürokraten, die alle inhaltlichen Entscheidungen treffen.
Der Wunsch von Facebook nach Effizienz bedeutet, dass Demokratie aus ist und technokratisch, Entwickler-König-Regel in. Die Menschen können nicht über die Regeln abstimmen, und selbst als Facebook seinen Nutzern letzte Woche die Möglichkeit bot, über eine neue Datenschutzrichtlinie abzustimmen. Die Wahlbeteiligung betrug 0.038 Prozent. Die Menschen wissen, dass Facebook einen großen Teil ihres digitalen Lebens kontrolliert, aber sie haben kein Gefühl für digitale Bürgerschaft. Und diese Apathie gibt der Technokratie von Facebook eine Chance, dort erfolgreich zu sein, wo es ihre historischen Vorgänger nicht getan haben.
Die ursprünglichen Technokraten waren eine Gruppe von Denkern und Ingenieuren in den 1930er Jahren, die Platons Traum vom Philosophenkönig wiederbelebten, jedoch mit einem maschinenzeitlichen Dreh. Unter der Führung von Thorstein Veblen, Howard Scott und M. King Hubbert befürworteten sie nicht die Herrschaft des Volkes, der Monarchie oder des Diktators, sondern der Ingenieure. Die Ingenieure und Wissenschaftler würden rational und unparteiisch regieren. Sie würden eine Technokratie schaffen, die wie am Schnürchen funktioniert und sicherstellt, dass die Produktivität aller effizient verteilt wird. Sie erarbeiteten ein ganzes System, nach dem der nordamerikanische Kontinent mit funktionalen Sequenzen regiert werden sollte, die es dem Kontinentaldirektor ermöglichen würden, Dinge zu erledigen.
Technokratie war, wie ursprünglich gedacht, ausdrücklich nicht demokratisch. Ihre Befürworter wollten keine Volksherrschaft; Sie wollten die Herrschaft einer kenntnisreichen Elite, die gute Entscheidungen treffen würde. Und vielleicht hätten sie es getan, aber es gab ein großes Problem. Nur wenige Menschen fanden die allgemeine Vision, ihre politische Macht an Ingenieure abzugeben, so attraktiv.
Bei Facebook scheinen sich die Menschen viel mehr um individuelle Entscheidungen zu kümmern, die Facebook trifft, als um die Existenz eines hocheffizienten technokratischen Systems. Sie stellen die Prinzipien oder Werte des Systems nicht in Frage, sondern möchten, dass sie schnell angewendet werden, um ihren jeweiligen Streit zu lösen. Und das Verlangen nach Geschwindigkeit treibt natürlich die Effizienz an, die es schwierig macht, mit nuancierten Problemen umzugehen. Keiner der Vorwürfe, die gegen das Verwaltungssystem von Facebook erhoben wurden, war für mich so kritisch wie die Kritik an seiner Kernstruktur.