Cybercontrôle en chine : l’omni-surveillance à l’ère du numérique

© Crédits photo : Yann Bastard LA CHINE, EMPIRE DU MILIEU NUMÉRIQUE - ÉPISODE 5/5 Surveillance, censure, tous les aspects de la vie des Chinois sont plus que jamais suivis à la trace. Le

recours à l’intelligence artificielle et au Big Data a permis la mise en place d’un Internet « fermé »permettant un cyber-contrôle totalisant par le pouvoir, digne d’une série de

science-fiction... Aurélie Bayen Publié le 21 décembre 2018 Depuis son arrivée au pouvoir en 2013, le président chinois Xi Jinping entend reprendre d’une main de fer l’internet.

Contrairement à son prédécesseur Hu Jintao, qui « envahissait » la Toile à la manière d’un joueur de go, Xi Jinping entend bien installer un contrôle totalisant, visible et légitimé par une

idéologie héritée de la pensée maoïste. Pour y parvenir, la Chine investit dans le _Big Data_ et l’intelligence artificielle, faisant de l’omni-surveillance une réalité digne de certains

épisodes de la série anglo-saxonne de science-fiction Black Mirror. Cette ouverture des internautes chinois sur le monde grâce à l’introduction de l’internet dans le pays aurait

potentiellement pu devenir une arme de contre-pouvoir pour la démocratisation de la Chine, mais finalement, son encadrement par le pouvoir en place n’a cessé de se perfectionner pour

restreindre chaque année un peu plus les espaces de liberté. BIG DATA ET INTELLIGENCE ARTIFICIELLE, LES NOUVEAUX BRAS ARMÉS DE L’OMNI-CONTRÔLE Après la mort de Mao Zedong en 1976, le

président chinois, Deng Xiaoping, s’engagea dans la voie des réformes en 1978 pour sortir le pays du marasme et lui permettre d’entrer dans une ère nouvelle, celle de la modernisation, tant

économique que technologique. En 1992, cette mutation du régime communiste vers un « socialisme de marché aux couleurs chinoises » a fait prendre au pays un virage à 180 degrés, tant au

point de vue idéologique que politique, pour le faire entrer de plain-pied dans un système capitaliste de type occidental, basé avant tout sur les investissements directs étrangers (IDE) et

l’importation de ses technologies. À ce titre, le développement de l’internet chinois à partir de 1994 a indéniablement fait partie du processus d’intégration mondiale du pays. > Le 

développement de l’internet chinois à partir de 1994 a > indéniablement fait partie du processus d’intégration mondiale > du pays Depuis les années 2000, l’internet chinois connut

alors une croissance spectaculaire, tant en nombre d’internautes qu’en infrastructures. Le président Hu Jintao encouragea à cette fin la généralisation de l’internet à tout le territoire

selon le nouveau « Plan de Stratégie pour le développement de l'informatisation 2006-2020 » du Conseil des Affaires de l'État. Aujourd’hui, le nombre d’internautes en Chine

s'élève à 802 millions d’utilisateurs, soit la première population internaute mondiale, même si ce chiffre ne représente que 57 % de taux de pénétration de sa population totale. > 

Pour canaliser cette ouverture sans précédent de la société à > l’espace public en ligne, la surveillance et la censure sont > devenues, dès les débuts de la mise en place de 

l’internet en > Chine, les composantes essentielles du contrôle de la Toile Pour canaliser cette ouverture sans précédent de la société à l’espace public en ligne, la surveillance et la

censure sont devenues, dès les débuts de la mise en place de l’internet en Chine, les composantes essentielles du contrôle de la Toile — condition _sine qua non_ à son introduction dans le

pays. BOUCLIER D’OR : UNE SURVEILLANCE NUMÉRIQUE GLOBALE DE LA POPULATION EN RÉSEAU FERMÉ L’internet apparaît donc tout d’abord, pour le gouvernement chinois, comme un auxiliaire

technologique incontournable pour la rationalisation de l’action publique, permettant de résoudre les défis posés par la « gouvernementalité », au sens de Michel Foucault1. > Le ministère

 de la Sécurité publique a mis en place en 2000 un > vaste projet de télésurveillance en réseau, appelé Bouclier > d’or (jin dun 金盾). Ce programme s’articule autour d’un > réseau de

 surveillance numérique globale, développé à > l’échelle du pays Avec l’aide de l’entreprise canadienne Nortel Networks, le ministère de la Sécurité publique (MSP) a mis en place en 2000

un vaste projet de télésurveillance en réseau, appelé Bouclier d’or(_jin dun_ 金盾)2. Ce programme a pour but de centraliser toutes les ressources électroniques disponibles visant à « défendre

l’intérêt du citoyen et améliorer le taux de résolution des affaires criminelles ». Il s’articule autour d’un réseau de surveillance numérique globale, développé à l’échelle du pays,

permettant de relier les services de police locale, régionale et nationale au sein d’un réseau intranet fermé. Ce système de télésurveillance fonctionne à partir de bases de données, avec

accès immédiat aux dossiers d’identification de chaque citoyen et des liens vers les réseaux de caméras dotées de logiciels de reconnaissance faciale. En 2009, le MSP déclarait avoir

installé plus de 2,75 millions de caméras et 268 000 systèmes d’alarme et de surveillance dans les lieux publics, principalement dans les zones urbaines. Onze ans plus tard, ce nombre

atteindrait plus de 170 millions de caméras intelligentes interconnectées, faisant du marché de la reconnaissance faciale par vidéo un secteur en pleine expansion (128 millions d'euros

en 2016). > Une collaboration pérenne entre les autorités et les entreprises > privées s’est instaurée dès la mise en place de l’internet > dans le pays Au vu de la croissance

exponentielle du marché, une collaboration pérenne entre les autorités et les entreprises privées s’est instaurée dès la mise en place de l’internet dans le pays. Tout d’abord avec des

entreprises occidentales spécialisées dans la mise en place d’infrastructures réseau pour contrôler l’accès des données au territoire. L’équipementier américain Cisco était d’ailleurs le

principal partenaire de la mise en place du réseau en 1994, en installant le premier routeur en vue du lancement de l’implantation du protocole TCP/IP. L’intérêt de développer l’internet

dans le pays s’expliquerait aussi par les liens étroits, voire de parentèles, entretenues entre la classe dirigeante et les promoteurs du secteur numérique. Pour ne citer qu’un exemple,

Jiang Mianheng, fils de l’ex-président chinois Jiang Zemin, de retour en Chine après dix ans passés dans la _Silicon Valley_, aurait ainsi convaincu son père et le cercle de la classe

dirigeante, de créer China Netcom en 1993, l’une des entreprises privées leaders de la construction du réseau internet rapide3. Sur le Web, les BAT (Baidu, Alibaba, Tencent) ont par ailleurs

pu profiter du protectionnisme étatique pour s’imposer sur le marché du numérique(4) (au détriment de Facebook et Twitter qui ont vu leur modèle copiés par Renren et Weibo notamment).En

retour, ces entreprises donnent non seulement accès à leurs bases de données, mais se plient volontiers aux exigences gouvernementales, elles-mêmes en quête de modernité. Jack Ma, PDG

d’Alibaba, résume avec humour cette liaison platonique avec l’appareil politique : « Tombez amoureux du gouvernement, mais ne vous marriez pas avec ! ». En effet, le désir de contrôle

demeure éternellement insatisfait pour le pouvoir chinois, qui ambitionne depuis peu de s'inviter au capital de l’entreprise à hauteur de 1 à 2 %. Ces « fiançailles » public-privé,

basées sur une coalition d’intérêts, se concrétisent à présent sous une forme nouvelle, illustrée par le partenariat noué entre l’État et la start-up Megvii, spécialisée dans la

reconnaissance faciale à Pékin. Désormais, il ne s’agit plus pour le gouvernement d’accéder aux données des utilisateurs via une société privée, mais de permettre aux sociétés de se saisir

des données personnelles détenues par le gouvernement lui-même, sur plus de 700 millions de Chinois. La finalité pour l’État chinois étant d’obtenir des systèmes de surveillance automatisée

à la pointe de la performance mondiale tout en « ferrant » le secteur privé, en l’arrimant à ses visées politiques. La médiatisation des arrestations de criminels réalisées grâce à la

vidéosurveillance high-tech sert à ce titre la politique de communication sécuritaire du gouvernement, justifiant la présence de près de millions de caméras de surveillance sur le

territoire. Cette omniscience affichée permet de renforcer l’effet panoptique décrit par Bentham4, où chaque individu intériorise la surveillance dont il fait potentiellement l’objet jusqu’à

s’autocontrôler lui-même. EFFETS PERVERS DE LA ROBOTISATION DE LA CENSURE SUR L’ÉCONOMIE NUMÉRIQUE La surveillance des individus dans la vie réelle par le Bouclier d’or est doublée d’une

surveillance de leurs agissements sur la Toile, spécialement dans l’espace public (forums, blogs, réseaux sociaux). Celle-ci s’effectue par un contrôle à la fois automatisé et humain, où la

vigilance populaire et la délation sont considérées comme des actes citoyens complémentaires à la surveillance officielle. > La surveillance des individus dans la vie réelle par le 

Bouclier > d’or est doublée d’une surveillance de leurs agissements sur la > Toile Sur le plan technique, un premier niveau de blocage et de filtrage est effectué en amont à partir de

logiciels placés au niveau des dorsales internet et des fournisseurs d’accès internet (FAI). Ce que les médias qualifient généralement de _Grande muraille électronique de Chine_ n’est autre

qu’un grand pare-feu, sorte de filtre géant de l’internet composé de routeurs internes et externes, ainsi que de DNS (Domain Main System) indépendants. Le filtrage est principalement basé

sur l'adresse IP. Les mots-clés trouvés dans le lien URL ou contenus dans le code HTML sont ensuite soit redirigés par les serveurs DNS vers d’autres sites web agréés par les autorités,

soit bloqués. Ce genre de _liste noire_ est régulièrement mis à jour selon l’actualité ou les polémiques du moment. Afin d’étendre le champ de la censure et de la surveillance, le régime a

en outre décentralisé la responsabilité pénale des informations diffusées sur la Toile à tous les acteurs privés du Net, qui mobilisent leurs salariés et leurs équipements au service des

exigences du pouvoir : FAI, fournisseurs de contenu médias, moteurs de recherche, administrateurs de sites web et de forums, sites d’hébergement de bloggging et micro-blogging, tous les

acteurs sont concernés, y compris les sociétés étrangères. Par peur d’être sanctionnées, il faut noter que ces sociétés privées ajoutent un deuxième niveau de censure, en créant généralement

à leur tour leur propre _liste noire_ de mots ou propos interdits.En août 2004, un pirate informatique avait découvert l’une d’elles, qui comptait près de 1 000 termes « sensibles », en

anglais et en chinois, sur le célèbre serveur de messagerie instantanée QQ de Tencent. Les termes censurés concernaient principalement des organisations dissidentes (Falun Gong), des

mouvements de contestation ou indépendantistes (Taiwan, Tibet), des médias étrangers (BBC, _New York Times_, _Wall Street Journal_), ou des jeux de mots destinés à critiquer à mots couverts

la politique des dirigeants chinois (le nom de l’ancien Premier ministre Wen Jiabao (???) avait ainsi été transformé : le caractère _wen (_? « doux ») avait été remplacé par un autre _wen _?

signifiant « peste »). Les blocages liés à la censure sont soit intermittents, soit permanents pour les sites dissidents ou interdits en Chine comme Facebook ou Twitter, mais semblent plus

fréquents et étendus à plus de sites à certaines époques jugées particulièrement sensibles du point de vue de la sécurité nationale : le 4 juin, date anniversaire de la répression du

mouvement démocratique survenu place Tiananmen en 1989, à l’approche des réunions annuelles de l’Assemblée populaire nationale ou de la visite de chefs d’État étrangers. En outre, l’analyse

technique d’Olivier Vérot, directeur d’une agence de référencement de sites français sur le Web chinois, a permis de révéler certains arcanes du référencement des sites web par le moteur de

recherches Baidu. Contrairement à Google, qui référence les sites grâce à des algorithmes évaluant leur popularité et leur e-réputation, Baidu ferait appel à son personnel pour auditer

chaque site lors de sa première inscription. Ces sites, s’ils souhaitent être référencés en première page du moteur de recherche n’auraient d’autre solution que de se plier à ces règles à

visée propagandiste, qui les obligent à mettre en ligne depuis leur page d’accueil de nombreux liens renvoyant aux sites d’informations officiels comme _Xinhua _(l’agence de presse _Chine

Nouvelle_). > Les effets pervers de cette tendance au blocage massif et > automatisé portent néanmoins régulièrement préjudice à > l’économie chinoise Les effets pervers de cette

tendance au blocage massif et automatisé portent néanmoins régulièrement préjudice à l’économie chinoise, second socle de légitimité du Parti au pouvoir. Même si ces entreprises s’engagent

constamment à augmenter leurs dépenses liées à la surveillance pour éviter des fermetures administratives (telle que la société Toutiao, qui avait promis d’employer jusqu’à 10 000 personnes

dédiées à la surveillance des contenus publiés), certaines entreprises subissent les effets sensibles de la censure sur leurs activités. Ces dommages avaient été déjà décrits lors d’un

sondage en ligne mené auprès de 500 entreprises chinoises spécialisées dans les techniques de l’information, en 2009. Les résultats de l’enquête montraient que la censure robotisée

commettait parfois des erreurs de « jugement » ayant des conséquences désastreuses pour certaines d’entre elles, pourtant respectueuses de la législation nationale : 40 % avaient vu leur

site fermé sans infraction connue à la loi et 17 % avaient été obligées de fermer définitivement leur établissement à cause de ces blocages. Plus récemment, l’industrie du jeu vidéo a vu ses

recettes mises à mal par une suspension des délivrances de permis de commercialisation de nouveaux jeux. Alors que le pays est devenu le premier marché mondial pour les jeux vidéo, les

dommages collatéraux sont devenus on ne peut plus inquiétants pour les acteurs du secteur. En effet, le raidissement idéologique de la mandature de Xi Jinping a paralysé les régulateurs des

médias et des jeux vidéo, plus réticents à décerner leurs autorisations à des jeux promouvant la violence, des mœurs discutables et au contenu jugé peu patriotique. La start-up Bytedance

(Tencent), plateforme de partage de courtes vidéos en ligne, avait ainsi été obligée de fermer boutique. En signe d’allégeance ou pour contrer la défiance des autorités, la société Douyu

avait quant à elle publiquement annoncé des « cours d’éducation patriotique » pour ses vedettes du _live streaming_. LA NOTATION SOCIALE : VERS UNE NOUVELLE FORME DE CONTRÔLE TOTALISANT ? _«

 Si le prince conduit le peuple au moyen des lois et le retient dans l’unité au moyen des châtiments, le peuple s’abstient de mal faire ; mais il ne connaît aucune honte. _ _Si le prince

dirige le peuple par la Vertu et fait régner l’union grâce aux rites, le peuple a honte de mal faire, et devient vertueux. »_. Confucius5 > Il s’agit désormais pour le pouvoir chinois 

d’inciter chaque > individu à se contrôler soi-même Outre la répression frontale contre les voix dissonantes qui réclament plus de libertés et de démocratie (symbolisée par la mort du

prix Nobel de la paix Liu Xiaobo), il s’agit désormais pour le pouvoir chinois d’inciter chaque individu à se contrôler soi-même, non pas seulement par la peur d’être sanctionné voire

emprisonné, mais par une incitation à adopter un comportement honnête et responsable, tel que prôné par la pensée confucéenne. En d’autres termes, faire du civisme une norme assez

contraignante mais légitime — culturellement et politiquement — qui permette de dominer les individus jusque dans la sphère privée, qu’elle soit réelle ou virtuelle (réseaux sociaux,

messageries privées, etc.). Cette surveillance intrusive, rendue possible grâce la généralisation du numérique comme outil de gestion de la société, est plutôt favorablement accueillie par

une société chinoise en mal de valeurs morales, mais encore régie par des conceptions confucianistes et des directives communistes, privilégiant l’intérêt du groupe (société, État) à celui

des individus. Le document de planification du « Conseil de l'État des élites chinoises » soutient à ce titre le projet gouvernemental d'une gigantesque base de données permettant

la mise en place d’un système de « crédit social » d’ici à 2020. Ce programme national pourrait inclure les notes et les données récoltées sur les sites marchands, tels qu’Alipay Pay avec le

programme « _Sesame Credit » (_développé par _Ant Financial Services Group_, filiale du groupe chinois _Alibaba)_. Il est stipulé dans ce document que _« la base de données de crédit social

forgera un environnement glorieux de l'opinion publique basé sur le maintien de la confiance »_ et_ « récompensera ceux qui signalent des actes d'abus de confiance_ ». Le concept

de « notation sociale », déjà mis en place sur les sites marchands et les banques, est depuis 2014 testé sur le plan politique par les autorités locales dans une vingtaine de villes. C’est

ainsi qu’à Shenzen, des écrans géants placés aux carrefours des rues affichent les visages des piétons qui ne respectent pas les feux de signalisation. Pour cette infraction mineure par

exemple, 20 points sont enlevés aux citoyens de la ville de Suqian, sur les 1 000 points crédités sur leur compte. > Les autorités centrales légitiment leur pouvoir omniscient en > 

adoptant une posture paternaliste réprobatrice, qui s’appuie sur > un contrôle social totalisant Ainsi, en affirmant vouloir pousser la société chinoise à devenir plus honnête et

civilisée, y compris en ayant recours à la honte comme évoqué plus haut (le concept de la « perte de face » est très important dans la culture chinoise), les autorités centrales légitiment

leur pouvoir omniscient en adoptant une posture paternaliste réprobatrice, qui s’appuie sur un contrôle social totalisant, où l’informel devient formel, où le privé devient public jusqu’à

tomber sous le coup de sanctions. Depuis mai 2018, certains citoyens ayant une mauvaise « note sociale  » se sont ainsi vu interdire l'achat de billets de train (4,24 millions) ou

d'avion (11,4 millions). Mais ces sanctions peuvent s’étendre à la sphère professionnelle ou familiale, telles que des restrictions économiques (prêt, actionnariat, réponse d’offre aux

marchés publics) ou même sociales (impossibilité d’inscrire ses enfants dans les plus grandes écoles). Selon le document de planification cité, l’étape suivante consistera ensuite à « 

augmenter l’intensité des récompenses et des sanctions afin que les personnes malhonnêtes soient punies et les personnes loyales motivées ». Afin d’éviter d’éventuels levers de boucliers, il

semble que la notation sociale, affichée tel un score de jeu vidéo sur écrans numériques, permette de faire dévier l’utilisation des données personnelles sur un mode ludique, pour mieux la

banaliser. Connaître son « score », le comparer avec celui de ses proches et l’améliorer pour gagner des récompenses prendrait une forme à la fois mercantile et ludique, à l’instar de

l’appel à la dénonciation citoyenne déjà développé sous le mandat de l’ancien président Hu Jintao. En effet, le « site de signalement des noms de domaine servant à des usages illicites »

www.jubao.cnnic.cn tirait déjà, en 2009, 10 plaintes au sort chaque jour afin de récompenser les auteurs des dénonciations par un cadeau. > L'objectif du gouvernement semble être de 

pousser les individus, > tiraillés entre impératifs socio-politiques et désirs > consuméristes, à devenir progressivement des sortes de > citoyens-joueurs, de leur plein gré 

aujourd’hui En somme, l'objectif du gouvernement semble être de pousser les individus, tiraillés entre impératifs socio-politiques et désirs consuméristes, à devenir progressivement des

sortes de _citoyens-joueurs,_ de leur plein gré aujourd’hui (la généralisation du programme étant prévue en 2020). Parallèlement, cette tentative de domination se traduit néanmoins toujours

par la mise en place de moyens de contrôle techniques et humains coercitifs, difficiles à surmonter pour les utilisateurs en Chine. Le développement de cette politique protéiforme de « 

maintien de la stabilité » se reflète d’ailleurs dans la croissance rapide de son budget, dépassant depuis 2012 celui de la défense nationale. Il est donc clair que les internautes sont très

conscients de la surveillance visible et invisible dont ils font l’objet. Cette surveillance est présentée par le gouvernement comme une responsabilisation des acteurs dans l’espace public,

les incitant à se comporter correctement, en ligne et dans la vie réelle, sous peine de sanctions plus ou moins sévères. > Il est donc clair que les internautes sont très conscients de 

la > surveillance visible et invisible dont ils font l’objet Face à un totalitarisme qu’on croyait « essoufflé » à la fin du mandat de l’ex-président Hu Jintao, la succession des

campagnes d’arrestations massives depuis l’arrivée au pouvoir du président Xi Jinping (450 cyberdissidents pendant l’été 2013) confirme cette fuite en avant du Parti, prêt à dépenser

l’argent public sans compter pour pérenniser sa place au pouvoir. RÉFÉRENCES Yan CHEN, « Les médias chinois, entre le marché et la censure », In : Revue_ Études_, Tome 401, Paris, SER, 2004,

pp.309-319 Christopher R HUGHES, « Pourquoi internet ne démocratisera pas la Chine », In : _Critique internationale_, n°15, Paris, Presses de Science Po, avril 2002, pp. 85-104 Evgeny

MOROZOV, _The Net Delusion: The Dark Side of Internet Freedom, _New York, Public Affairs, 2011 Jean-Louis ROCCA, _La Société chinoise vue par ses sociologues_, Presse de Sciences Po, 2008

Anne SOËTEMONDT, _J’ai travaillé pour la propagande chinoise_, Ed. du Moment, 2011 * 1Pierre LASCOUME, « La Gouvernementalité : de la critique de l’État aux technologies du pouvoir », Le

Portique, 13-14 | 2004 * 2Greg WALTON, China’s Golden Shield: Corporation and the Development of Surveillance Technology in the People’s Republic of China, Rights & Democraty, 2001 * 3« 

Les Fils de… », Chineplus, n°9, décembre 2008-février 2009, p.44 * 4Jeremy BENTHAM, Le Panoptique, précédé de Michel FOUCAULT, L’Œil du pouvoir, Paris, Belfond, 1977 * 5Entretiens du Maître

avec ses disciples, Edition Mille et une nuits, édition 1997, p.13 LA CHINE, EMPIRE DU MILIEU NUMÉRIQUE - ÉPISODE 2/5 Prodigieux, le développement de l’internet chinois l’est par sa rapidité

et sa capacité d’innovation. Basé sur une vision à long terme de l’État, le dynamisme des entreprises privées et la réponse des usagers, le succès du secteur numérique a bousculé le paysage

médiatique et accentué la mainmise du pouvoir. LA CHINE, EMPIRE DU MILIEU NUMÉRIQUE - ÉPISODE 1/5 Les grands groupes numériques chinois tirent leur puissance de leur immense marché

intérieur. Leur développement international reste faible : la Chine suscite à l’Ouest une certaine défiance et son niveau technologique ne lui permet pas de s’imposer. Elle a donc orienté

son offensive vers les pays émergents.