Soziale Kontrolle 4.0? Chinas Social Credit Systems | Blätter für deutsche und internationale Politik

LoginWarenkorb
Chinesische Moderne

Soziale Kontrolle 4.0? Chinas Social Credit Systems

Public Domain Foto: Public Domain

von Katika Kühnreich

Während dieser Tage vor allem Chinas geopolitische Ambitionen im Zentrum der Aufmerksamkeit stehen,[1] rücken die innenpolitischen Pläne der Kommunistischen Partei (KP) zumeist in den Hintergrund. Dabei zeichnet sich derzeit auch innerhalb Chinas ein umfassender Wandel ab: Bis zum Jahr 2020 will die KP landesweit digitale Systeme zur Sozialkontrolle einführen. Mit den sogenannten Social Credit Systems (SCS), von denen einige bereits seit vier Jahren laufen, wird das Ziel verfolgt, eine Punktezahl für alle chinesischen Bürgerinnen und Bürger auf Grundlage ihres Verhaltens zu erstellen.[2]

Für deren Berechnung wird eine gewaltige Masse an Daten erfasst: Zahlungsmoral, Strafregister, Einkaufsgewohnheiten, digitales Surf- und Kommunikationsverhalten sowie das Sozialverhalten im Allgemeinen. Wer sich konform verhält, wird belohnt: etwa mit günstigen Krediten, dienstlichen Beförderungen oder dem schnellerem Durchlaufen von Sicherheitskontrollen. Bei unerwünschtem Verhalten drohen hingegen entsprechende Strafen.

Die SCS greifen dabei sowohl auf privatwirtschaftliche als auch auf staatliche Datenbanken zu. 2014 erlaubte die KP acht privaten Anbietern jeweils eigene digitale Bewertungssysteme zu entwickeln. Allen Systemen ist gemein, dass Algorithmen und Systeme künstlicher Intelligenz (KI) automatisiert Punktezahlen ermitteln, im Englischen „Scores“ genannt. Zugleich begann die KP damit, in ausgewählten „Sonderzonen“ bereits staatliche Scoring-Systeme zu installieren.[3] Wenn SCS in etwa zwei Jahren landesweit verbindlich werden, sollen alle chinesischen Bürgerinnen und Bürger sowie Firmen über ein eigenes zentral erfasstes Punktekonto verfügen. 

Die KP bewirbt die SCS als Meilenstein auf dem Weg in die „Sozialistische Harmonische Gesellschaft“. Offiziell sollen die Scoring-Systeme die Regierungsfähigkeit modernisieren und das Vertrauen innerhalb der Gesellschaft sowie zwischen Regierung, Bevölkerung und Wirtschaft fördern. Neben den von der KP genannten Gründen, lassen sich die Systeme hinsichtlich der sich bietenden Möglichkeiten als Instrumente der sozialen Kontrolle betrachten. Denn mit dem wirtschaftlichen Aufstieg Chinas wuchsen in den vergangenen Jahrzehnten auch die sozio-ökonomischen Unterschiede und damit die gesellschaftlichen Spannungen im Land. Allein im Jahr 2014 – also zum Start der SCS – kam es in ganz China zu insgesamt rund 90 000 Unruhen – offiziell „Massenzwischenfälle“ genannt – im Schnitt also etwa 250 pro Tag. Diese Zahl ist in den Folgejahren weiter angestiegen.[4]

Instrumente der sozialen Kontrolle

Um derartigen Unruhen zu begegnen, greift China unter anderem auch auf seine jahrtausendealte Tradition des Zentralstaats und der Bürokratie zurück. Einige der einst mit dem Konfuzianismus begründeten Strukturen existierten auch im leninistischen Organisationsprinzip der Volksrepublik weiter. Zu diesen Kontrollsystemen gehört etwa das Haushaltsregistrierungssystem Hukou und die Zuteilung zu einer gesellschaftlichen Einheit, Danwei genannt, die Kontrolle über die ihr zugeteilten Mitglieder hat und politische Akten, Dang‘an, über sie führt.

Diese Strukturen bildeten die Grundlage für Entscheidungen über Beförderungen, Parteimitgliedschaften und selbst Eheschließungen. Nach dem Tode Mao Zedongs nahm die Bedeutung einiger Kontrollsysteme infolge der politischen Umwälzungen der Reformära ab. Zugleich aber gewann seit 1989 die staatliche Propaganda stärker an Bedeutung.[5]

Mit den SCS tritt China nun in eine neue Phase der Überwachung und Kontrolle ein, in der die KP die Möglichkeiten von analoger und digitaler Überwachung, von Propaganda und subtilen Disziplinierungsmöglichkeiten miteinander verknüpft. Gerade die Entwicklung des Internets sowie mobiler Endgeräte wie Smartphones (Smarps) und sogenannter Wearables – tragbarer Computersysteme wie Smartwatches oder Datenbrillen – bieten den Sicherheits- und Propagandabehörden neue Überwachungs- und Beeinflussungsmöglichkeiten.

Dabei macht sich die KP auch die Besonderheiten des chinesischen Internets zunutze.[6] Für das dortige Netz gelten nicht nur strikte Gesetze, sondern es wird auch nach außen durch die „Große Firewall” begrenzt. Nach innen wacht vor allem das „Projekt Goldenes Schild“ über das Online-Geschehen: Zu diesem gehört unter anderem das „Büro für die öffentliche Informations- und Netzwerksicherheitskontrolle“, kurz „Netzüberwachungsbüro“. Daneben gibt es etliche weitere Regierungsabteilungen, Ministerien und Behörden, die für die Überwachung im Internet zuständig sind.[7]

Neben einer wachsenden Zahl von speziell ausgebildeten Polizeibeamtinnen und -beamten sowie privatwirtschaftlich eingesetzten Aufseherinnen und Aufsehern durchforsten zunehmend auch KI-Systeme das Internet nach regimekritischen Äußerungen.[8] Des Weiteren ist ein Heer regierungsfreundlicher Kommentatorinnen und -kommentatoren in Online-Foren unterwegs, die umgangssprachlich als „Fünfzig-Cent-Partei“ (五毛党) bezeichnet werden. Ihnen wird vorgeworfen, die öffentliche Debatte zugunsten der KP beeinflussen zu wollen.[9]

Chinesische Netzgiganten: Baidu, Alibaba und Tencent

Die KP selbst betrachtet das Internet als eine Form der Kommunikation, die es von Anbeginn an zu kontrollieren galt. Die staatlichen Zensurmaßnahmen zielen dabei allerdings nicht auf eine vollständige Unterbindung regimekritischer Äußerungen ab. Vielmehr will die KP der Herausbildung großer kollektiver Aktionen zuvorkommen.[10] Darüber hinaus können viele der chinesischen Kontrollversuche – wie Zensurmaßnahmen generell – zumindest teilweise umgangen werden. Die Volksrepublik verfügt daher ungeachtet aller Maßnahmen über eine relativ heterogene Internetlandschaft.

Diese unterscheidet sich jedoch deutlich von der westlichen: Da das chinesische Netz weitgehend vom restlichen World Wide Web abgeschirmt ist, wird es auch nicht von den bekannten US-amerikanischen Tech-Giganten dominiert. Stattdessen haben sich eigene kommerzielle Strukturen gebildet. Die drei größten Unternehmen – Baidu (百度), Alibaba (阿里巴巴) und Tencent (腾讯) – werden als BAT bezeichnet. Sie liefern nicht nur Infrastruktur für die SCS, sondern sind zugleich weltweite Spitzenreiter in der Entwicklung von Künstlicher Intelligenz.

Alle drei Unternehmen greifen auf gigantische Datenberge zu.[11] Der chinesische Suchmaschinenriese Baidu etwa betreibt zudem das größte Online-Nachschlagewerk und die Bezahl-App Baidu Pay. Die westlichen Kunden meist unter dem Namen „Aliexpress“ bekannte Firma Alibaba wiederum ist der Platzhirsch des chinesischen Onlinehandels. Sie verfügt zudem über eine beliebte Flohmarkt-Plattform, Taobao Wang, die monatlich von rund 470 Millionen Menschen genutzt wird. Außerdem hält sie etwa ein Drittel der Anteile der in China populärsten Microblogging-Plattform Sina Weibo, die monatlich rund 380 Millionen Chinesinnen und Chinesen nutzen. Zur unternehmenseigenen Finanzgruppe gehören das Social Credit System „Sesam-Kredit-Programm“ und die populäre Bezahl-App Alipay. Im vergangenen Jahr verzeichnete die Alibaba-Gruppe einen Umsatz von rund 8,3 Mrd. US-Dollar. Darüber hinaus ist sie seit 2016 Eigentümerin der in Hongkong ansässigen Tageszeitung „South China Morning Post“.

Das dritte Unternehmen im Bunde, Téngxùn, ist im Westen als Tencent bekannt. Lange Zeit war es außerhalb Chinas wegen seiner Beteiligungen an Computerspielfirmen vor allem Gamerinnen und Gamern ein Begriff. Dass Tencent zudem Anteile am weltweit populären Social-Media-Dienst (SocMe-Dienst) Snapchat besitzt, ist dagegen weitaus weniger bekannt. Weitere zentrale Angebote sind QQ und WeChat: QQ ist mit knapp 900 Millionen aktiven Nutzerinnen und Nutzern Chinas populärster Messengerdienst; WeChat ist eine Messenger-Applikation für Smarps und erreicht weltweit rund eine Milliarde Menschen. Sie enthält mit der Option WeChat Pay ebenfalls eine chinaweit genutzte Bezahl-App.[12]

(Meta-)Daten und andere digitale Spuren

Für chinesische Internetnutzerinnen und -nutzer gehören diese Dienste zum Alltag. Rund 95 Prozent von ihnen gehen auch oder ausschließlich mobil ins Netz.[13] Dabei hinterlassen sie, wie wir alle, massenhaft digitale Spuren – persönliche Angaben und Daten über ihr Nutzungsverhalten –, die sowohl privatwirtschaftliche als auch staatliche Stellen sammeln und auswerten. Auf diese Weise können sie die Anwenderinnen und Anwender identifizieren, kategorisieren und klassifizieren.[14] Diese Daten bilden die Grundlage für die SCS und die Berechnung der Scores. Die Auswertung erfolgt dann mit Hilfe von Algorithmen und Systemen der KI – ohne, dass diese Verfahren den Nutzerinnen und Nutzern gegenüber transparent gemacht würden. 

Digitale Systeme verfügen des Weiteren über zwei für die SCS überaus relevante Besonderheiten: Zum einen sind die hinterlegten Daten beliebig oft kopier- und handelbar; zum anderen kennt ein digitales System kein Vergessen. Hinzu kommt, dass die chinesischen SCS Mischsysteme darstellen: Sie beziehen sowohl digitale als auch analoge Ereignisse in ihre Bewertung mit ein – also auch Verhaltensformen des täglichen Lebens. Das wird unter anderem durch den vermehrten Einsatz „smarter“ Kameras mit Gesichtserkennung im öffentlichen Raum möglich.[15] Besonders weit fortgeschritten ist diese Verzahnung von analoger und digitaler Überwachung in der vorwiegend muslimisch bevölkerten Provinz Xinjiang – wo auch die Zahl der „Massenzwischenfälle“ vergleichsweise hoch ist.

Alibabas Sesam-Kredit

Wie das Scoring im Einzelnen erfolgt, veranschaulicht Alibabas Sesam Kredit System (SKS). Alibaba schöpft – wie auch westliche Konzerne – massenhaft Daten seiner Nutzerinnen und Nutzer ab: SocMe-Dienste liefern Informationen über deren Stimmungen, Vorlieben und „Freundschaften“. Auch Produktbestellungen und Interaktionen mit Werbebannern werden detailliert erfasst. Mindestens ebenso wichtig sind Bezahlvorgänge und Suchanfragen, die mit Metadaten der Seitenabrufe und Bewegungsdaten angereichert werden. Das Scoring erfolgt dann innerhalb von fünf Bereichen: der Kredithistorie der Nutzerinnen und Nutzer, ihrer Liquidität, den persönlichen Angaben, Gewohnheiten und Verhaltensmustern sowie ihren Kontakten in sogenannten sozialen Netzwerken.[16] Der niedrigste Punktestand beim SKS liegt bei 350, maximal können 950 Punkte erreicht werden. Derzeit wird bei der Bewertung derzeit insbesondere die Nutzung von Alibaba-Produkten bevorzugt berücksichtigt.

Alibabas SKS ähnelt mitunter dem hierzulande verbreiteten Bonusprogramm Payback. Wer sich für diesen Dienst anmeldet und damit der Freigabe, Nutzung und dem Verkauf seiner persönlichen Daten zustimmt, erhält im Gegenzug Vergünstigungen, die mit wachsendem Punktestand an Wert gewinnen. Bei SKS können ab einem bestimmten Level etwa Sofortkredite in Anspruch genommen oder Leihprodukte genutzt werden, ohne dass extra eine Kaution hinterlegt werden muss.

Selbst in sicherheitsrelevanten Bereichen können Vorteile genutzt werden – sogar außerhalb Chinas: Ab einer bestimmten Punktezahl laufen Sicherheitsprüfungen an Flughäfen schneller ab; und die Botschaften Singapurs und Luxemburgs bieten seit 2015 ab einem bestimmten Punktestand vereinfachte Visabedingungen an.[17] Zu dessen Berechnung kooperiert SKS mit zahlreichen anderen privatwirtschaftlichen und öffentlichen Datenbanken – seit 2015 etwa mit Chinas größter Partnerbörse Baihe, die über intime Daten von rund 90 Millionen Menschen verfügt. Auch Datenbanken chinesischer Gerichtshöfe bezieht SKS ein – mit den entsprechenden Folgen für Verurteilte, die zusätzliche Einschränkungen in Kauf nehmen müssen.[18]

Wie diese aussehen, zeigt eine der jüngsten Verschärfungen: Seit dem 1. Mai 2018 können Bürgerinnen und Bürger, die auf einer staatlich geführten Sperrliste verzeichnet sind, für die Dauer von bis zu einem Jahr von Flug- und Bahnreisen ausgeschlossen werden.[19] Schon zuvor gab es diese Sanktionsmöglichkeit – wenn auch in milderer Form: Wie die Nationale Kommission für Entwicklung und Reform im vergangenen März mitteilte, wurden bis dato über neun Millionen Menschen Flugreisen verwehrt; mehr als drei Millionen konnten aufgrund negativer Dateneinträge keine Zugfahrkarten der obersten Reiseklasse erwerben.[20] Betroffen sind unter anderem Menschen, die angeblich falsche Informationen über Terrorismus veröffentlicht haben – ein global sehr dehnbarer Tatbestand. 

Spielerische Überwachung: Das Prinzip der Gamification

Welche Dimension die SCS ab dem Jahr 2020 haben werden, ist derzeit noch nicht abzusehen. Doch schon jetzt werden die Systeme hierzulande meist mit zwei klassischen Vorstellungen von Straf- und Disziplinarsystemen verglichen: zum einen mit Benthams Panoptikum – insbesondere in der Rezeption Michel Foucaults –, zum anderen mit George Orwells Dystopie „1984“.[21]

Derlei Vergleichen gelingt es jedoch nicht, die Dimension der SCS hinreichend zu erfassen: Denn bei den chinesischen Scoring-Systemen handelt es sich um eine technologische Überwachung, an der privatwirtschaftliche und staatliche Akteure gleichermaßen beteiligt sind. Zugleich zeichnen sich die SCS – anders als Orwells „Großer Bruder“ – durch partizipativ-spielerische Elemente und damit durch eine weitaus größere Freiwilligkeit und Eingebundenheit seitens der Observierten aus.

Eine Schlüsselrolle kommt dabei der sogenannten Gamification zu, eine Technik, die im Rahmen der Entwicklung von Computerspielen eine wichtige Rolle spielt.[22] Sie verfolgt das Ziel, die Aufmerksamkeit der Spielerinnen und Spieler möglichst lange zu binden und zugleich positive Emotionen gegenüber dem Spiel zu erzeugen. Heute wird Gamification in nahezu allen gesellschaftlichen Bereichen eingesetzt – nicht zuletzt im Militär sowie in der Unternehmensführung und der Werbung.

Zur Motivation gibt es im SCS nicht nur Punktezahlen, sondern auch verschiedene Level und sogenannte Mini-Spiele. Der Punktestand erlaubt es, dass sich alle miteinander vergleichen können, was zugleich dazu anspornt, den eigenen Punktestand fortwährend zu erhöhen. Schon die Aussicht, bei einer geringen Punktezahl kleine Belohnungen zu erhalten, motiviert Menschen zur Teilnahme – wie hierzulande die große Verbreitung des Payback-Bonusprogramms zeigt. Die Rekrutierung folgt dabei dem klassischen Schneeballsystem: Nachdem sie angeworben wurden, bewerben die Nutzerinnen und Nutzer das Produkt wiederum in ihrem eigenen sozialen Umfeld und locken damit weitere Menschen in das System. Wenn dieses Prinzip erfolgreich ist, können die beworbenen Dienste nicht nur zum Standard werden und große Marktanteile erwerben, sondern sich sogar zu Monopolen auswachsen.

Ost wie West: Das überwachte Netz 

Obwohl Formen spielerischer Überwachung keineswegs nur in Fernost, sondern auch im Westen angewandt werden, treffen Berichte über das chinesische SCS hierzulande meist auf großes Befremden. Dies zeigt zum einen, dass es noch immer große Vorurteile gegenüber China gibt, zum anderen aber auch, wie unkritisch Digitalisierungsprozesse in unserem Teil der Welt wahrgenommen werden.

Der westliche Diskurs blendet zudem allzu häufig aus, dass der allergrößte Teil des Internets bereits vollends kommerzialisiert ist, ein Raum, in dem Konzerne massenhaft Daten abschöpfen und auswerten, um detaillierte Nutzerprofile zu erstellen und zu verkaufen.[23] Die Ausspähung reicht dabei von der Auswertung von Kreditdaten, über das Ausforschen des Konsumverhaltens etwa durch Payback oder auch durch Fahrrad- und Auto-Leihdienste bis hin zu Petitionsplattformen wie Change.org.[24]

Die ständige Vergleichbarkeit und Bewertung führt dabei auch im Westen zur stetigen Auflösung der Privatsphäre sowie einer Kultur der Konformität im privaten und der zunehmenden Risikovermeidung im professionellen Bereich.[25] Im Ergebnis droht somit auch hier eine Zunahme der „sozialen Rigidität“, die ein Aufbegehren etwa gegen Ungerechtigkeit erschwert.[26] Erleichtert wird diese Entwicklung durch die weit verbreitete Annahme, dass Daten und insbesondere Algorithmen weitgehend neutral seien – ungeachtet der Tatsache, dass Computercode von Menschen geschrieben wird, die individuelle Überzeugungen haben und naturgemäß auch Fehler machen.[27]

Hinzu kommt, dass es vor allem Konzerne und Staaten sind, die die Digitalisierung vorantreiben – sie bestimmen daher auch deren Ausrichtung. Und auch wenn sich Regierungen, anders als Privatfirmen, zumindest theoretisch gegenüber ihren Bürgerinnen und Bürgern legitimieren müssen, wissen wir spätestens seit den Enthüllungen Edward Snowdens, dass westliche Staaten ebenso nach Daten gieren wie autoritäre. Selbst die NSA-Affäre vor gut fünf Jahren hat daran nichts geändert, im Gegenteil: Das Netz der Überwachung ist seitdem noch weitaus dichter geworden – nicht zuletzt dank der Kooperation zwischen Unternehmen und staatlichen Behörden.[28]

Für das Individuum wird es immer schwieriger, sich gegen die Massenausspähung zu schützen. Zumal das Wissen sowohl über die „smarten“ Geräte, die wir täglich nutzen, als auch über die eingesetzten Manipulationstechniken immer weiter abnimmt. Kaum jemand weiß, welche Daten das ungeschützte Surfen im Internet hinterlässt, geschweige denn welche detaillierten Rückschlüsse sich aus diesen über die persönlichen Gedanken und Vorlieben ziehen lassen. Somit wissen wir auch nicht genau, wie sehr sich unsere Privatsphäre bereits in Auflösung befindet. Verschlüsselungs- und Anonymisierungsdienste bieten hier zwar ein wenig Schutz – die Frage, wie Technologie und Digitalisierung unsere Gesellschaft zum Guten oder Schlechten verändern, können sie jedoch nicht beantworten.

Datensammlungen bergen – neben der Begehrlichkeit Unbefugter – noch eine weitere Gefahr: Regierungen und Konzerne kommen und gehen, die Daten aber bleiben. Welche Regierung oder Firmenleitung in Zukunft welche Rückschlüsse aus unseren Daten zieht und nach welchen Kategorien und Algorithmen wir dann bewertet werden, ist heute noch nicht absehbar.

Vor diesem Hintergrund richtet das Beispiel der chinesischen SCS an uns alle die Frage nach den Gründen, aus denen massenhaft Daten über uns erhoben, verschoben, ausgewertet und verkauft werden. Vor allem aber: In welche Art von Gesellschaft führt die digitale Massenausspähung? Und was können wir gegen sie unternehmen? Fest steht: Daten bedeuten Macht. Eine Macht, die wir Menschen nicht haptisch wahrnehmen können und deren Gefahren wir dadurch – ähnlich wie jene der atomaren Strahlung – nur schwer begreifen können. Es ist daher an der Zeit, sich global mit der Frage der Machtverschiebung und der Manipulation im Zeitalter der Digitalisierung zu beschäftigten. Deren Auswirkungen zwingen uns, die Machtfrage und jene der Legitimation sowie die nach Privatheit, Autonomie und einem guten Leben neu zu stellen – und damit letztlich zu entscheiden, ob wir hier passive Nutzerinnen und Nutzer bleiben oder aktiv über Systeme, die unser Leben beeinflussen, mitbestimmen wollen.


[1] Vgl. Ulrich Menzel, Tribut für China: Die neue eurasische Weltordnung, in: „Blätter“, 6/2018, S. 49-60.

[2] Vgl. Chinese State Council Notice, Planning Outline for the Construction of a Social Credit System (2014-2020), www.chinacopyrightandmedia.wordpress.com, 14.6.2014.

[3] Keting Zhang und Fang Zhang, Report on the Construction of the Social Credit System in China’s Special Zones, in: „Annual Report on the Development of China’s Special Economic Zones“, Singapur 2016, S. 153-171.

[4]  Vgl. Chinese Police Hunt Protesters after Incinerator Demonstration Turns Violent, in: „The Guardian“, 12.5.2014. Zum Zusammenhang zwischen Veränderungen im Umgang von Massenzwischenfällen und der Propaganda vgl. Katika Kühnreich, Die äußere Harmonisierung des inneren Aufstands – „Harmonische Gesellschaft“ und „Massenzwischenfälle“. Universität zu Köln 2014, http://kups.ub.uni-koeln.de/7816. 

[5] Vgl. Anne-Marie Brady, Marketing Dictatorship: Propaganda and Thought Work in Contemporary China, Lanham/USA 2010.

[6] Rogier Creemers, Cyber China: Updating Propaganda, Public Opinion Work and Social Management for the 21st Century, in: „Journal of Contemporary China“, 2.12.2015.

[7] Dieses Nebeneinander und die Verflechtungen von Zuständigkeiten sind typisch für das chinesische Internet. Dieses erschwert der Bevölkerung oft Eingriffsmöglichkeiten, auch was den Datenschutz betrifft, da es auch hierfür keine zentrale Anlaufstelle gibt.

[8] Vgl. Meng Jing, SenseTime Unveils AI Product to Police Online Content – The World’s Most Valuable AI Start-up Just Moved into Online Censorship, in: „South China Morning Post“, 25.4.2018, www.scmp.com; Katie Hunt und Xu CY, China ‘employs 2 million to police internet’, www.cnn.com, 21.5.2016 sowie Meng Jing und Jane Li, News App Toutiao Seeks 2,000 Content Reviewers, Party Members Preferred, in: „South China Morning Post“, 4.1.2018. 

[9] Rongbin Han, Manufacturing Consent in Cyberspace: China’s ‘Fifty-Cent Army’, in: „Journal of Current Chinese Affairs“, 2/2015, S. 105-134. Zum Einsatz von KI vgl. Meng Jing, a.a.O. 

[10] Vgl. Gary King u.a., How Censorship in China Allows Government Criticism but Silences Collective Expression, in: „American Political Science Review“, 2/2013, S. 326-343.

[11] Tencents SCS machte früh von sich reden, da es als eine der Ersten auch die Freundeskreise seiner Kunden zur Berechnung von deren Kreditfähigkeit herangezogen hatte. Vgl. Meng Jing, Tencent to use social networks for credit-rating services, www.chinadaily.com.cn, 8.8.2015.

[12] Vgl. Baidu, „Baidu | Investors | Financial Reports“, www.baidu.com; Alibaba Group, Alibaba Group Announces September Quarter 2017 Results, Pressemitteilung vom 2.11.2017, www.alibabagroup.com; Tencent, Finanzbericht, www.tencent.com.

[13] Vgl. China Internet Network Information Center (CNNIC), Statistical Report on Internet Development in China, Januar 2017, https://cnnic.com.cn.

[14] Ursprünglich diente diese Praxis in der Kriminologie und Psychiatrie dazu, um abweichendes Verhalten zu identifizieren. Vgl. dazu: Andreas Bernard, Komplizen des Erkennungsdienstes: Das Selbst in der digitalen Kultur, Frankfurt a. M. 2017.

[15] Josh Chin, Chinese Police Add Facial-Recognition Glasses to Surveillance Arsenal, in: „Wall Street Journal“, 7.2.2018 sowie Li Tao, Just Jaywalked? Check Your Mobile Phone for a Message from Police, in: „South China Morning Post“, 27.3.2018.

[16] Vgl. Credit-based tourist visa application for Luxembourg, Singapore, www.chinadaily.com.cn, 10.7.2015.

[17] Vgl. Yongxi Chen und Anne S. Y. Cheung, The Transparent Self Under Big Data Profiling: Privacy and Chinese Legislation on the Social Credit System, in: „The Journal of Comparative Law“, 2/2017, S. 356-378, hier: S. 361. 

[18] Vgl. Justice comes to virtual world, www.chinadaily.com.cn, 2.7.2015. 

[19] Vgl. Travel bans for rule violators take place on May 1, http://english.court.gov.cn, 1.5.2018. 

[20] Vgl. „China improves credit blacklisting mechanism to avoid undue punishment“, www.xinhuanet.com, 6.3.2018. 

[21] Vgl. Michel Foucault, Überwachen und Strafen: Die Geburt des Gefängnisses, Frankfurt a. M. 2015, S. 251 f.; George Orwell, Nineteen Eighty-Four, London 1990. Vgl. dazu auch: Benjamin J. Kees, Algorithmisches Panopticon. Identifikation gesellschaftlicher Probleme automatisierter Videoüberwachung, Münster 2015 sowie: Zygmunt Bauman, David Lyon und Frank Jakubzik, Daten, Drohnen, Disziplin: Ein Gespräch über flüchtige Überwachung, Berlin 2014.

[22] Zur Geschichte und den verschiedenen Aspekten der Gamifizierung vgl. Steffen P. Walz und Sebastian Deterding, The gameful world: approaches, issues, applications, Cambridge 2015.

[23] Vgl. Paul Boutin, There’s Very Little Oversight in the Industry of Data Brokers, in: „Newsweek“, 30.5.2016. 

[24] Vgl. Klint Finley, Meet Change.org, the Google of Modern Politics, www.wired.com, 26.9.2013.

[25] Vgl. Jaron Lanier, Zehn Gründe, warum du deine Social Media Accounts sofort löschen musst, Hamburg 2018.

[26] Vgl. Tijmen Schep, What is Social Cooling?, www.socialcooling.com.

[27] Vgl. Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, New York 2016.

[28] Vgl. dazu: Daniel Leisegang, Fünf Jahre NSA-Affäre: Die neue Macht des BND, in: „Blätter“, 6/2018, S. 21-24.

(aus: »Blätter« 7/2018, Seite 63-70)
Themen: Datenschutz, Asien und Demokratie

top