Chinas Technokratie nutzt das Social Credit Scoring-System, um die wissenschaftliche Diktatur voranzutreiben

Hauptergebnisse

• Die chinesische Regierung hat Pilotversuchen für ein soziales Kreditsystem zugestimmt, bei denen die personenbezogenen Daten der Bürger herangezogen werden, um inoffizielle Kreditscores zuzuweisen, die von privaten Unternehmen und Regierungsstellen verwaltet werden.
• Die fünf Dimensionen von Kredit-Score-Daten sind "Bonitätsverlauf der Nutzer, Verhaltensgewohnheiten, Fähigkeit, Schulden zu begleichen, persönliche Informationen und soziale Netzwerke".
• Die Algorithmen, die die Kredit-Scores ableiten, sind Geschäftsgeheimnisse, die Testformen verbieten, die bestimmen, wie sie funktionieren.
• Öffentliche Blacklists von Schuldnern werden mit privaten und öffentlichen Kreditbewertungsdiensten geteilt, um Einzelpersonen das Vornehmen bestimmter Transaktionen zu untersagen.

Dieser Beitrag, der zweite in einem Serie Untersucht in Bezug auf mobile Zahlungssysteme eine chinesische App für mobile Zahlungen, die zunehmend in ausländischen Medien behandelt wird: Testen eines möglicherweise landesweiten offiziellen Sozialkreditsystems als Ersatz für sein traditionelles analoges Gegenstück. Die beliebtesten öffentlich verfügbaren Social Credit Scores werden derzeit über Sesame Credit ausgegeben, ein Unternehmen, das von der Alibaba-Tochter Ant Financial gegründet wurde. Westliche Medien berichten über das soziale Kreditsystem und beschreiben ein Science-Fiction-ähnliches Phänomen, bei dem den Bürgern anhand ihres Online-Verhaltens, ihrer Finanzinformationen und ihrer Regierungsunterlagen Punktzahlen zugewiesen werden. Die Angaben von Ant Financial-Vertretern deuten darauf hin, dass spätes Surfen im Internet, stundenlanges Spielen von Videospielen und bestimmte gekaufte Artikel die Punktzahl senken können. Unabhängig davon, ob diese Behauptungen zutreffen oder nicht, befinden sich die Bewertungsmechanismen von Sesame Credit noch in einer experimentellen Phase und können sich daher ändern. Unsere Untersuchung potenzieller Sicherheits-, Datenschutz- und anderer Probleme eines solchen Systems soll Fragen aufwerfen, die Diskussionen darüber führen können, wie es sich entwickeln wird.

Bereits in 2003 hat die Die chinesische Regierung zeigte Interesse ein umfassendes Mittel für die Zuweisung von Bürger-Kredit-Scores zu schaffen, das eine Verbesserung des Kreditratingsystems des Landes darstellt. Der Staatsrat hat kürzlich die „Richtlinien für den Aufbau eines sozialen Kreditsystems (2014-2020)“ Gegenwärtig haben acht Unternehmen die Genehmigung der Zentralbank erhalten, Geschäfte zu tätigen Pilottests ihrer eigenen sozialen Kreditsysteme, vergleichbar mit den Verbraucherkreditratings von Fair, Isaac and Company (FICO). Ein Teil dessen, was ein solches Unterfangen in China einzigartig macht, ist die Unbestimmtheit und in einigen Fällen das völlige Fehlen von Vorschriften in Bezug auf die Erhebung großer Datenmengen für Zwecke der Kreditwürdigkeitsprüfung, die mögliche Verwendung solcher Bewertungen durch Dritte und den Schutz der Privatsphäre der Benutzerdaten, die die Kreditwürdigkeit beeinflussen Berechnungen. Das neues Cybersicherheitsgesetz 7 wurde am November 2016 veröffentlicht und enthält eine Sprache zum Schutz der Privatsphäre, die jedoch erst im Juni 2017 implementiert wird.

Dieser Artikel bezieht sich auf den Social Credit Score-Service von Sesame Credit, den Alipay-Benutzer derzeit innerhalb der App erhalten können. Die Bewertungen von Sesame Credit sind das beliebteste Beispiel dafür, wie ein nationales chinesisches Sozialkreditsystem eines Tages funktionieren könnte, und vermitteln einen Eindruck davon, welche Überlegungen chinesische Unternehmen, Bürger und der Staat in ein solches System einfließen sollten. Es ist eine Komponente eines breiteren Vorhabens der chinesischen Regierung, Big Data als Ressource für soziale Kontrolle zu nutzen. Kredit-Scores werden in unterteilt fünf Dimensionen: „Die Bonität der Nutzer, Verhaltensweisen, die Fähigkeit, Schulden zu begleichen, persönliche Informationen und soziale Netzwerke.“ Kurze Beschreibungen jeder dieser Kategorien sind in der Sesame Credit-Funktion von Alipay enthalten, geben jedoch keinen Aufschluss über die jeweiligen Aktionen würde die Punktzahl ändern.

Laut The Paper, "Verhaltenspräferenzen" beziehen sich auf Aktionen wie die rechtzeitige Zahlung von Rechnungen, und "persönliche Informationen" umfassen Alter, Geschlecht, Beruf und Bildungsgeschichte. Besorgniserregender sind die unklaren „Stabilitätskonzepte“, die Sesame Credit angeblich in Betracht zieht, auf die Unternehmensvertreter angespielt haben, ohne sie klar zu definieren. Dies scheint ein höchst subjektiver Indikator für die finanzielle und soziale Leistungsfähigkeit zu sein, der zum Kreditbewertungsmechanismus beiträgt. Das gleicher Artikel von The Paper lautet: „Wenn sich Ihre Adresse häufig ändert, sinkt die Kreditwürdigkeit entsprechend. Darüber hinaus beeinflussen die Bonitätsnachweise Ihrer Freunde auch Ihre Sesampunkte. “Das Risiko von Falschdarstellung und Diskriminierung aufgrund solcher Faktoren ist groß, und die ihnen zugrunde liegenden Anreize zur Verhaltensänderung sind ebenfalls von Belang. Yu Wujie, Chief Credit Data Scientist von Ant Financial hat gesagt: „Wenn Sie regelmäßig für wohltätige Zwecke spenden, wird Ihr Kredit-Score höher sein, aber es wird Ihnen nicht sagen, wie viele Zahlungen Sie jeden Monat leisten müssen… aber [die Entwicklung] in diese Richtung [wird mit der Hoffnung unternommen], dass Jeder wird spenden. “ Li Yingyun, Technologiedirektor von Ant Financialhat festgestellt, dass „jemand, der beispielsweise täglich 10-Videospiele spielt, als müßig gilt, und jemand, der häufig Windeln kauft, als wahrscheinlich ein Elternteil angesehen wird, bei dem im Endeffekt die Wahrscheinlichkeit größer ist, dass er einen Sinn hat Diese Aussagen haben bisher die verurteilende Berichterstattung der westlichen Medien über Sozialkredite angeheizt, obwohl zu beachten ist, dass der einzige Weg, mit Gewissheit zu wissen, ob die von Unternehmensvertretern genannten Faktoren tatsächlich die Punktzahl erhöhen oder senken können, darin besteht, die Algorithmen zu dekonstruieren das bestimmt sie, die beschriftet worden sind Geschäftsgeheimnisse.

Was können wir ohne die Fähigkeit, statische oder dynamische Tests der Algorithmen für soziale Kredite durchzuführen, über deren Funktionsweise ableiten? Deng Yiming, der Direktor der Geschäftsentwicklung von Sesame Credit, sagte dies Nur 30 bis 40 Prozent der Daten Die zur Generierung von Kredit-Scores verwendeten Informationen stammen von Unternehmen und Dienstleistungen, die sich im Besitz von Alibaba befinden. Abgesehen von den Daten, die durch die Aktivität der Benutzer in der Alipay-App gesammelt wurden, berechnet Sesame Credit individuelle Punktzahlen mit Daten, die von Alibabas E-Commerce-Websites, Mitfahrgelegenheiten und mit Alipay verbundenen Restaurants und von Alipay gesammelt wurden Regierungsbüros Einbeziehung von Recht, Bildung und Handel. Eines der anschaulichsten Beispiele für einen solchen Datenaustausch ist Die Bindung von Sesame Credit an den Obersten Volksgerichtshof, der Berichten zufolge seine schwarze Liste von Schuldnern und anderen Personen, die gegen Gerichtsurteile verstoßen haben, mit dem Unternehmen geteilt hat, um diese Personen daran zu hindern, in Taobao und Tmall so genannte Luxuskäufe zu tätigen. Diese Vereinbarung wirft die Frage auf, ob Sesame Credit Daten in entgegengesetzter Richtung weitergibt und möglicherweise die Transaktionsinformationen der Benutzer an die Regierungsstellen weitergibt, mit denen die Partner zusammenarbeiten. Diese Kooperationen werden in der Regel von denjenigen überschattet, bei denen Sesame Credit mit dem privaten Sektor zusammenarbeitet, um Highscore-Inhabern Vorteile zu verschaffen.

Gegenwärtig können die Privilegien eines hohen Sozialkredits darin bestehen, einen Mietwagen oder ein Hotelzimmer ohne Einzahlung zu buchen, Kredite zu niedrigeren Zinssätzen aufzunehmen, Online-Einkäufe zu versenden, um sie zu testen, bevor sie bezahlt werden, und Visa zu erhalten nach Luxemburg und Singapur durch einen beschleunigten Prozess. Andere Länder, die Interesse an einer Teilnahme daran bekundet haben beschleunigte Visaerteilung Dazu gehören Japan, Südkorea, Sri Lanka und das Vereinigte Königreich. Es wurde über die künftige Verwendung hoher Bonitätsnoten diskutiert, die sich auch auf Matchmaking und die Anwerbung von Arbeitsplätzen erstrecken. Dies unterstreicht, inwieweit voreingenommene Inputs neue soziale Barrieren schaffen könnten.

Chinesische Regierungsdarstellungen des Sozialkreditsystems sehen es als Mittel zur Wiederherstellung des Vertrauens zwischen Bürgern und in lokale Unternehmen an, beispielsweise in Restaurants, die auf Einhaltung der Gesundheitsvorschriften überwacht werden. Ein weiteres Argument für die Schaffung eines sozialen Kreditsystems ist, dass es Personen ermöglicht, die traditionell keine Kredite erhalten, dies zu tun: Studenten, Arbeiter, Kleinunternehmer und dergleichen. Bisher scheint es jedoch, dass die Vorteile einer hohen Punktzahl (von der in der Tat spekuliert wurde) wenige Benutzer haben erreicht) sind diejenigen, die diejenigen bevorzugen, die in einer besseren finanziellen Lage sind, um verschwenderische und häufige Ausgaben zu tätigen. Ein Kritikpunkt war, dass Sesame Credit die Punktzahl für Personen erhöht, die mehr Alipay-Transaktionen durchführen, was das Unternehmen entschieden bestritten hat. Die Beispiele für höhere Punktzahlen bei Einkäufen im Zusammenhang mit Personen, die Eltern sind, und niedrigere Punktzahlen bei Personen, die ihre Heimatadresse ändern, legen häufig nahe, dass ein Mangel an Kontext zu falschen Darstellungen der Handlungen von Personen führen kann, die unverhältnismäßige Konsequenzen haben können.

Es besteht die Gefahr, Big-Data-Initiativen so zu erklären, dass sie „objektive“ Messungen von Benutzerdaten vornehmen, zum Teil, weil es in Fällen, in denen ein Indikator ungenau ist, schwierig ist, diesen Punkt zu bestreiten. Ein Beispiel aus a kürzlich Wall Street Journal Artikel Dabei handelt es sich um eine Frau, die den U-Bahn-Pass ihres Sohnes benutzt und eine Geldstrafe für eine Handlung verhängt hat, die nach einem Algorithmus Diebstahl zu sein scheint. Dieser geringfügige Vorfall wirft Bedenken hinsichtlich der dekontexualisierten Funktionsweise von Social Credit Scoring auf. Welche Rechtsbehelfe gibt es, wenn überhaupt, für weitaus mehr Folgefehler in einem sozialen Kreditsystem?

Der Stand der aktuellen Experimente auf diesem Gebiet wirft viele Fragen zum Anwenderschutz auf. In Bezug auf die Privatsphäre der Benutzer wurde nur wenig über die Auswirkungen diskutiert, die es hat, wenn die Punktzahlen von Personen für andere sichtbar gemacht werden. Alipay bietet a Spiel, in dem Freunde die Kreditpunkte des anderen erraten können und sie einander zum Beispiel offenbaren. Über andere Benutzer hinaus werden externe Unternehmen, die Hochkreditnehmern spezielle Dienste anbieten, und die mit der App verbundenen Regierungsbüros, mit welchen Dritten Sesame Credit Daten austauschen? Die Zentralisierung der Datenerhebungsmechanismen für soziale Kredite machen Dang'an-ähnliche Dossiers über das Online- und Offline-Leben von Einzelpersonen sind umso portabler, wie mehrere Medienberichte festgestellt haben. Welche Sicherheitsverfahren sind vorhanden, um diese Aufbewahrungsorte für wertvolle persönliche Informationen zu schützen?

In einer Ironie, die viele Überwachungsapparate geplagt hat, kann die Verbreitung eines Systems sozialer Kredite und der dazugehörigen Sensoren, QR-Codes und anderer Tools zum Ablesen von Spuren neue Sicherheitsbedenken hervorrufen, die sich von denen unterscheiden, die angeblich durch eine nahezu allgegenwärtige Überwachung verringert werden sollen des Verhaltens. Diese neuen Bedrohungen betreffen die Art und Weise, wie Kredit-Score-Daten gefälscht werden können, und die Zwecke, für die gefälschte Kredit-Scores verwendet werden können. Das beschleunigte Sicherheitsüberprüfung Ein Beispiel für eine Situation, in der ein gefälschter Highscore es jemandem ermöglichen könnte, strengere Sicherheitskontrollen zu umgehen, die eine Bedrohung für die nationale Sicherheit durch Fachkräfte darstellen können und bestimmt genug Schauspieler. Je häufiger das soziale Kreditsystem genutzt wird und je mehr Belohnungen es für hohe Punktzahlen bietet, desto größer sind die Anreize, herauszufinden, wie es gehackt werden kann. Beiträge funktioniert Themen Die Frage, wie man seine Kreditwürdigkeit erhöht, ist bereits auf dem Vormarsch, und es ist immer noch unklar, wie einfach es sein kann, sich in ein bestimmtes Konto zu hacken und Informationen zu fälschen.

Wie bereits in einem früheren Beitrag beschrieben, hat Alibaba Datenlecks von Mitarbeitern des Unternehmens sowie externe Hacks festgestellt. Es ist unbedingt zu hinterfragen, welche Vorsichtsmaßnahmen sie treffen, da der rasche Aufbau eines Sozialkreditsystems die Unternehmen, die ihre Verwalter sind, wahrscheinlich zu Zielen für Datendiebstahl und Erpressung machen wird. Da eine Vielzahl von IoT-Geräten (Internet of Things) zur Datenerfassung in ganz China verkauft werden, werden die detaillierten Funktionen, mit denen die Bürger jede Bewegung verfolgen und aus diesen Informationen als Beitrag für soziale Kredite schöpfen können, nur noch stärker und erfordern Arbeit von Seiten von IoT-Herstellern, um diese Probleme anzugehen. Eine Entwicklung, die das Potenzial hat, die Sozialkreditunternehmen transparenter zu machen, war die Ankündigung der Nationalen Entwicklungs- und Reformkommission Kreditbewertungsdienste werden für ausländische Investitionen geöffnet, die mindestens weitere Informationen über die Durchführung der betrieblichen Kreditwürdigkeitsprüfung (für Restaurants und örtliche Unternehmen) enthalten können.

Das letzte sicherheits- und zensurbezogene Problem, das wir in Betracht ziehen, ist die Möglichkeit von Sozialkrediten und mobiler Finanzierung Zugang blockiert zu werden, um Bürger für Protesthandlungen zu bestrafen, ist nur ein Beispiel. Wenn diese beiden Dienste im täglichen Leben nicht mehr wegzudenken sind, kann die Möglichkeit des von der Regierung sanktionierten Einfrierens von Benutzerkonten die bürgerlichen Freiheiten erheblich beeinträchtigen. Während der Einführung des Systems ist es wichtig zu berücksichtigen, dass sich die Algorithmen zur Ermittlung der Kreditwürdigkeit zwar schnell ändern und von Nutzern und Forschern nicht wahrgenommen werden können, die Macht des Staates und der Unternehmen, die die Entwicklung des sozialen Kreditsystems prägen, jedoch unverändert bleibt weit mehr verwurzelt und letztendlich verantwortlich für die realen Ergebnisse, die das soziale Kreditsystem hervorbringen kann.

Lesen Sie den vollständigen Artikel hier…