Chinas dystopische KI-Entwicklung beinhaltet Bevölkerungskontrolle

Seit seiner Konzeption haben die Menschen befürchtet, dass sich eine künstliche Intelligenz gegen die Menschheit wenden und unser Leben bedrohen würde. Während dies ein Ergebnis sein könnte, das in einigen Jahren zu befürchten ist, besteht die dringlichere Gefahr derzeit darin, dass KI Millionen von Menschen unterdrückt und die Bedrohung durch ein Kontrollregime erleichtert.

Meine Tochter und ich, die in der Pandemie-Quarantäne zu Hause sind, haben erneut zugesehen Person of Interest auf Netflix.

Im Wesentlichen handelt die frühere Netzwerkserie von einem Mann, der eine fast allwissende künstliche Intelligenz geschaffen hat, die jeden durch Netzwerke von Kameras, Computern und Smartphones beobachtet. Jede Woche versucht unser Team von Helden, das vom KI-Schöpfer zusammengestellt wurde, einer Person zu helfen, die die KI als wahrscheinlich baldiges Mordopfer identifiziert hat. Da diese KI vom Protagonisten der Serie erfunden wurde, zeigt sie Empathie und schätzt das menschliche Leben.

In der dritten Staffel wird jedoch eine zweite KI im Auftrag der Regierung betrieben, und diese KI schätzt das menschliche Leben nicht. Es arbeitet auf Befehl von und zum Nutzen eines Schattenunternehmens, das beginnt, das Leben der Menschen für seine eigenen Zwecke zu organisieren, einschließlich der Tötung von Menschen, die nicht in sein Programm passen. Es ist erschreckend.

Diese Show ist ein guter Fernseher und ich empfehle sie jedem, der diesen Blog regelmäßig liest und sich daher dafür interessiert, wie Technologie unser Leben beeinflussen kann. Person of Interest Vielleicht möchten wir Ihnen auch vorstellen, was jetzt in dem bevölkerungsreichsten Land der Welt passiert.

Ich habe geschrieben viel vor kurzem auf Videoüberwachung und Gesichtserkennung in den USA, aber die amerikanische Polizei ist durch verfassungsrechtliche Anforderungen begrenzt und es kann leicht sein rules angewendet auf neue Technologien, die die Fähigkeit der Regierung einschränken, sie wahllos einzusetzen. Die USA bieten auch Schutz für das Recht von Einzelpersonen, sich zu versammeln und zu protestieren, eine Regierung, die regelmäßig geändert werden kann, und ein Gerichtssystem, das diese Rechte im Allgemeinen schützt. Eine unabhängige Presse beleuchtet das Verhalten der Regierung, das diese Rechte missbraucht.

Denken Sie also an ein Land ohne diese Kontrollmechanismen, ohne gesetzlich garantierte individuelle Rechte, ohne freie Presse, ohne unabhängig operierendes Gerichtssystem und mit einer Diktatur einer einzigen Partei, die alle Macht innehat. Überlegen Sie nun, was passieren würde, wenn Sie diesem Land eine unbegrenzte elektronische und physische Überwachung von Hunderten Millionen Kameras über Drohnen bis hin zur Erfassung des gesamten Telefon-, Text- und Internetverkehrs einschließlich Suchanfragen und sozialer Medien ermöglichen. Geben Sie dieser Gesellschaft dann immer mehr Raffinesse in Bezug auf künstliche Intelligenz, um den Informationsfluss zu verwalten und allen von ihr erfassten Handlungen Bedeutung zuzuweisen, und fassen Sie sogar die vollständige Sicht auf das Verhalten einer Person zu einer Punktzahl zusammen, die alle wichtigen Aspekte des Lebens einer Person bestimmt. Erhalten Sie eine gute Punktzahl von der Regierung, und Sie erhalten die Wohnung, die Sie wünschen oder die Erlaubnis, ein Baby zu bekommen. Eine schlechte Punktzahl bedeutet Straßensperren in Ihrem Leben. Dies ist, was China schnell wird.

China richtet nicht nur eine Überwachungsgesellschaft ein, einschließlich eines sozialen Bewertungssystems für jeden Einwohner, sondern investiert auch stark in die künstliche Intelligenz, die erforderlich ist, um alles zu verwalten und zu bewerten, was Kameras, biometrische Lesegeräte und Internetfilter erfassen. Gemäß Schätzungen des US-Militärs, China wird im Jahr 70 2020 Milliarden US-Dollar an staatlichen Mitteln für die Entwicklung von KI ausgeben, verglichen mit 17 Milliarden US-Dollar im Jahr 2017. Die US-amerikanischen Nichtverteidigungsausgaben für KI werden in diesem Jahr ungefähr so ​​hoch sein eine Milliarde Dollar.

China baut nicht nur Regierungslabors, um die nächsten Generationen von KI zu entwickeln, sondern die enge Koordination der Regierung mit Unternehmen wie Huawei und Alibaba bietet dem Überwachungsstaat auch erstklassige private kommerzielle Forschung. Alle basieren auf den riesigen Datenmengen, die im größten Überwachungsstaat der Welt erzeugt werden, da riesige Datenmengen die Bausteine ​​für eine effektive KI sind. China, as The Economist Kürzlich beobachtet wurde das Saudi-Arabien von Daten.

Die andere Empfehlung, die ich in dieser Kolumne aussprechen werde, ist, Ross Andersons Artikel in The Atlantic zu lesen Das Panoptikum ist bereits daDies erklärt, wie Überwachung, KI, soziales Scoring, ein Einparteienstaat und politische Unterdrückung in China kombiniert werden, um das erste allwissende soziale System zu schaffen und es in andere Länder zu exportieren. Anderson berichtet, wie das gesamte System derzeit im „Freiluftgefängnis“ der Provinz Xinjiang getestet wird, wo muslimische Uiguren jede Minute ihres Lebens überwacht werden.

Anderson schreibt über den chinesischen Präsidenten, Parteiführer und effektiven Diktator Xi Jinping: „Mit AI kann Xi den unterdrückerischsten autoritären Apparat der Geschichte aufbauen, ohne dass die Arbeitskräfte, die Mao benötigt, um Informationen über Dissens an einen einzigen, zentralisierten Knoten weiterzuleiten. In Chinas bekanntesten KI-Start-ups - SenseTime, CloudWalk, Megvii, Hikvision, iFlytek und Meiya Pico - hat Xi willige kommerzielle Partner gefunden. Und in Xinjiangs muslimischer Minderheit hat er seine Testpopulation gefunden. “

Mehr als eine Million Uiguren wurden inhaftiert, was mehr politische Gefangene sind als jemals zuvor seit den Konzentrationslagern der Nazis. John Oliver diskutiert Leben in diesen Gefängnissen und Umerziehungslagern in seiner Show diese Woche. Aber die Uiguren, die immer noch in der Provinz Xinjiang leben, unterliegen Kontrollpunkten, ständiger Video- und anderer Überwachung sowie der Einführung von „großen Brüdern und Schwestern“ der Han-Chinesen, um die erzwungene Assimilation in die kommunistische Kultur zu überwachen. Anderson: „Bei diesen Kontrollen extrahiert die Polizei alle Daten, die sie können, aus den Körpern der Uiguren. Sie messen die Höhe und entnehmen eine Blutprobe. Sie nehmen Stimmen auf und tupfen DNA ab. “

Und dieses Testgelände für Überwachung und politische Konformität kann problemlos in den Rest des Landes exportiert werden. Anderson bemerkt: „Sobald Xi dieses System in Xinjiang perfektioniert hat, werden ihn keine technologischen Einschränkungen daran hindern, die KI-Überwachung in ganz China auszuweiten. Er könnte es auch über die Landesgrenzen hinaus exportieren und die Macht einer ganzen Generation von Autokraten festigen. “

Die Investition in KI bestimmt den gesamten Prozess. Das Atlantik In einem Artikel heißt es: „Ein Großteil des von Chinas Kameras gesammelten Filmmaterials wird von Algorithmen für Sicherheitsbedrohungen der einen oder anderen Art analysiert. In naher Zukunft könnte jede Person, die einen öffentlichen Raum betritt, sofort identifiziert werden, indem sie von der KI mit einem Ozean personenbezogener Daten, einschließlich jeder Textkommunikation, und dem einzigartigen Proteinkonstruktionsschema ihres Körpers abgeglichen wird. Mit der Zeit werden Algorithmen in der Lage sein, Datenpunkte aus einer Vielzahl von Quellen - Reiseberichte, Freunde und Mitarbeiter, Lesegewohnheiten, Einkäufe - miteinander zu verknüpfen, um politischen Widerstand vorherzusagen, bevor dies geschieht. Chinas Regierung könnte bald einen beispiellosen politischen Würgegriff für mehr als 1 Milliarde Menschen erreichen. “

Also neue Überwachungstools wie Roboter VogelüberwachungsdrohnenIn China werden bereits neue Vögel eingeführt, um mehr Daten über das Verhalten der Menschen in die staatliche KI einzuspeisen. Wie von angegeben  C / NET„China beschäftigt auch Gesichtserkennung, künstliche Intelligenz, intelligente Brille und andere Technologien zur Überwachung der 1.4 Milliarden Bürger mit dem Ziel, jedem von ihnen eines Tages eine zu geben persönliche Punktzahl basierend darauf, wie sie sich verhalten. “

Stellen Sie sich einen Kredit-Score vor, der nicht nur das finanzielle Verhalten und die finanziellen Fähigkeiten misst, sondern alle Aspekte Ihres Lebens und die Interaktion mit der Gesellschaft. Und dann stellen Sie sich vor, dass Ihre Punktzahl bestimmen kann, welche Art von Wohnung Sie haben dürfen - oder ob die Regierung Ihnen erlaubt, überhaupt in einer Wohnung zu leben. Gleiches gilt für Ihren Job, Ihre Bildungschancen, Ihre Fortpflanzung und andere Kernaspekte Ihres Lebens. Dies ist die chinesische soziale Punktzahl. Wie in Wired UKWährend ein Teil des derzeitigen Systems freiwillig ist, gibt es Anreize für die Teilnahme und Strafen für die Nichtteilnahme.

Schließlich, und vielleicht am beängstigendsten, nutzt China seinen wirtschaftlichen Einfluss und seine Privatindustrie, um Technologie zur Bevölkerungskontrolle an Diktatoren auf der ganzen Welt zu exportieren. Anderson bemerkt: „China entwickelt bereits leistungsstarke neue Überwachungsinstrumente und exportiert sie in Dutzende der tatsächlichen und potenziellen Autokratien der Welt. In den nächsten Jahren werden diese Technologien verfeinert und in umfassende Überwachungssysteme integriert, die Diktatoren anschließen und spielen können. “

Lesen Sie die ganze Geschichte hier…