« L’émergence d’un bloc autoritaire alimenté par l’Intelligence artificielle et dirigé par la Chine pourrait bouleverser la géopolitique de ce siècle. Elle pourrait empêcher des milliards de personnes, sur de vastes étendues du globe, de jouir un jour d’une quelconque liberté politique », mettait en garde le site américain The Atlantic en décembre 2020. Jamais la Chine n’est en effet allée aussi loin dans la volonté d’exportation de son modèle de surveillance sociale. Il ne s’agit plus seulement pour Pékin d’utiliser ces technologies fondées sur l’IA pour espionner les Tibétains ou les Ouïghours. Il ne s’agit plus seulement d’exporter son modèle de surveillance dans des pays « semi-démocratiques » ou « vulnérables » sur le plan financier, en Afrique (1), en Asie ou en Amérique latine (63 pays ont ainsi importé les technologies de surveillance basées sur l’IA de la Chine en septembre 2019, selon la Fondation Carnegie, NDLR). Il s’agit aussi désormais d’exporter son modèle dans les démocraties occidentales. À l’image de Belgrade, qui est en train de se doter de milliers de caméras de surveillance équipées d’une technologie de reconnaissance faciale fournie par le constructeur chinois Huawei. Baptisé « Safe City », ce projet symbolise « l’expansion mondiale du système chinois d’autoritarisme numérique, selon Xiao Qiang, expert de la surveillance de l’État chinois à l’université de Californie à Berkeley. Soit « la capacité de contrôler, de surveiller et de contraindre les sociétés en utilisant ce type de technologie de safe et de smart city (2) ».

Les États-Unis ne sont évidemment pas en reste. Les services de police d’États tels que le Massachusetts, le Colorado ou le Tennessee utilisent depuis plusieurs années les technologies de surveillance de l’entreprise chinoise Hikvision. À Londres, c’est au moins la moitié des arrondissements de la capitale qui avaient acheté et déployé des systèmes de surveillance fabriqués en Chine, révélait en février dernier la Fondation Thomson Reuters. Derrière ces technologies, les géants chinois de la vidéosurveillance et de l’IA, Hikvision et Dahua, qui livrent également leurs technologies à la France. Les deux entreprises sont accusées, avec leur homologue chinois Uniview, d’avoir participé à la répression des Ouïghours dans la région du Xinjiang. Raison pour laquelle huit entreprises chinoises spécialisées dans l’IA ont été placées sur liste noire par Washington en octobre 2019. Une liste noire élargie en juin dernier par Joe Biden, pour y inclure les entreprises impliquées dans la fabrication et le déploiement de la technologie de surveillance, susceptible d’être utilisée non seulement en Chine, mais aussi… dans le monde entier.

Si les technologies de surveillance fondées sur l’IA et les applications de contrôle social « made in China » sont de plus en plus utilisées par les gouvernements démocratiques, c’est parce que « Pékin peut se permettre de tester ses produits en toute liberté sur des personnes réelles« , explique Simone Pieranni, un journaliste italien spécialiste de la Chine qui vient de publier Red Mirror. Dans ce livre choc, sous-titré « L’avenir s’écrit en Chine« , il montre comment le territoire chinois, mais aussi celui de l’Afrique, sont devenus le laboratoire des industries technologiques chinoises.

L’utilisation de la reconnaissance faciale dans tous les domaines de la vie quotidienne permet en effet à Pékin d’accumuler une quantité gigantesque de données. Le pays a une longueur d’avance sur ses concurrents en raison de la taille de son marché: « Il y a plus de personnes, plus de données, plus d’entreprises » en Chine, expliquait en 2018 au Financial Times le  responsable de la société chinoise d’IA Malong Technologies qui ajoutait : « en ayant accès à ces données en Chine, nous pouvons exporter notre technologie dans le monde entier ». L’entreprise a en effet entraîné ses algorithmes de reconnaissance d’images à partir de centaines de milliers de visages sur son propre territoire. Quand d’autres entreprises chinoises s’entrainaient sur les visages africains pour être encore plus compétitifs sur le marché international: « l’introduction de la technologie sur une population majoritairement noire permettra aux entreprises chinoises d’identifier plus clairement les autres groupes ethniques, dépassant ainsi les développeurs américains et européens », prédit Simone Pieranni.

Selon le journaliste, l’organisation du contrôle social et l’acceptation confucéenne de la surveillance généralisée sont le moteur du développement technologique et économique chinois. Le crédit social, qui consiste en l’attribution d’une note aux citoyens en fonction de leur comportement, a des racines ancestrales dans la culture chinoise à ses yeux. En l’an 500 avant J.-C., Confucius en appelait déjà à la morale citoyenne pour maintenir l’ordre, rappelle Simone Pieranni. Puis, pendant la dynastie Song (960-1279), le réformateur Wang Anshi a mis en place le système de « surveillance mutuelle » de la baojia, « une organisation hiérarchique conçue par la distribution de l’espace et du pouvoir entre groupes de familles, dont les fonctions étaient liées au contrôle local : défense, police, sécu­rité et autocensure ». De fait, le système de crédit social semble aujourd’hui « très apprécié par le peuple chinois« , analyse le journaliste qui ajoute que la licorne chinoise Terminus, en charge de la création de smart cities bénéficie du « travail des diverses formes de contrôle exercées par l’organisation de quartier chinoise, c’est-à-dire les nombreux comités qui constituent l’armature de la sécurité – acceptée par tous – des espaces de la ville et qui sont en mesure de surveiller les résidents, les visiteurs et même les véhicules dans les zones désignées ».

La vision de Simone Pieranni rejoint celle du journalisme allemand Kai Strittmatter. Dans Dictature 2.0 Quand la Chine surveille son peuple (et demain le monde), paru en août 2020 aux éditions Taillandier, il explique que la Chine nouvelle est un défi pour nos démocraties qui importent massivement ses technologies de surveillance. Elle pourrait façonner la mondialisation à son goût, notamment parce que « la volonté d’exportation des entreprises chinoises d’IA tombe à une époque où la liberté et la démocratie sont menacées dans le monde entier », et où le monde construit par un Occident affaibli « s’enfonce dans la crise ». Un Occident qui montre du doigt la Chine qui n’est pourtant que son « noir miroir », selon le journaliste. Parce que les projets d’IA, de big data et les systèmes de bonification, comme le crédit social chinois, commencent déjà à pointer du nez chez nous: reconnaissance faciale, prédiction comportementale, évaluation, récompense et punition des individus. Selon Strittmatter, l’absence d’inhibition dont la Chine fait preuve à l’égard de ces évolutions fait rêver depuis plusieurs années les chefs d’entreprise, de la Silicon Valley jusqu’à Londres ou Berlin : « On entend ces managers répéter comme une litanie leur invitation à imiter les Chinois chez nous, sous peine de perdre toute chance dans la course économique ». Quand au journaliste Pierre Haski, spécialiste de la Chine, il explique dans la préface du livre que « l’exemple chinois n’est pas l’épouvantail exotique d’un « autre » monde, mais la version déformée de ce que permet aujourd’hui la technologie dès lors qu’elle est mise en œuvre sans contrôles ni limites par des pouvoirs peu soucieux des libertés ».

La Chine est en train de réaliser, grâce à l’IA, l’état de surveillance le plus perfectionné jamais conçu, selon Kai Strittmatter : « L’IA promet d’exaucer le rêve de tous les gouvernements autoritaires : le contrôle et la surveillance de tous les sujets ». Simone Pieranni nous plonge dans cette dystopie glaçante dans Red Mirror : du crédit social à la « super appli » WeChat, devenue omniprésente dans la vie quotidienne des Chinois qui l’utilisent pour prendre rendez-vous pour une visite médicale, payer leurs impôts ou leurs factures. Même la manche est aujourd’hui faite via WeChat, puisque les sans-abris montrent aux passants un panneau avec un QR code pour recevoir l’aumône ! Revers de la médaille: la « super appli » permet au gouvernement d’observer en temps réel les comportements des Chinois. Pour notamment évaluer si certains groupes sont « particulièrement dangereux pour la stabilité sociale », précise Simone Pieranni.

Dans son essai, il évoque aussi les milliers de projets de smart cities en Chine. Des villes hyperconnectées « totalement sous contrôle » qui permettront, grâce à la 5G qui augmentera significativement la rapidité du transfert des données, « d’expérimenter les formes les plus avancées de contrôle social ». Derrière ce marché juteux gouverné par la paranoïa sécuritaire, la licorne chinoise Terminus qui utilise ce qui se fait de mieux en termes d’IA et d’Internet des Objets. Leurs futurs résidents ? Les riches évidemment, mais aussi « les personnes qui acceptent d’être contrôlées par le système 24h/24 », confie à QG le journaliste qui pense que les smart cities préfigurent « un nouveau type de citoyenneté très dangereux car la technologie crée des relations entre l’État et le citoyen qui sont parfois en dehors des périmètres constitutionnels des pays ».

Selon Charles Thibout, chercheur associé à l’IRIS, ces smart cities font partie d’un « écosystème de technologies de surveillance connectées les unes aux autres, avec une très forte centralisation des données interceptées. Cela signifie par exemple que la caméra équipée d’un logiciel de reconnaissance faciale dans le Xinjiang pourra être couplée avec les données recueillies par un appareil de reconnaissance vocale dans le Tibet ou à Hong Kong. » Objectif visé ? Faire de l’identification prédictive de personnes susceptibles d’exprimer « des opinions extrémistes et des intentions criminelles », selon le politiste qui précise que « la police du Xinjiang parle très clairement d’identification des minorités, donc on voit très bien que les Ouïghours sont visés ». 

Pour Charles Thibout, nous avons clairement affaire à la mise en place d’un système totalitaire, dans le sens où il y a « l’idée d’une révolution anthropologique. Il s’agit de créer un homme nouveau. Chez les nazis, c’était l’aryen qui était un mythe, mais qu’il fallait « recréer » in situ dans la nouvelle Allemagne. Chez les Soviétiques, c’était le prolétaire émancipé de l’idéologie bourgeoise. » Il ne s’agirait donc pas uniquement de faire de la répression, mais aussi que « la population acquiesce et adhère à la dynamique « révolutionnaire » du régime, à son idéologie, à ses objectifs ». Kai Strittmatter ne dit pas autre chose quand il explique que le big data et le système de crédit social visent à engendrer un « homme nouveau ». Un fonctionnaire lui aurait un jour confié : « Notre objectif est de normaliser le comportement des gens. Si tout le monde se comporte conformément à la norme, la société est automatiquement stable et harmonieuse. » C’est dans ce contexte que le Parti a eu l’idée de créer un « système de fiabilité sociale »: le crédit social.

Grâce au big data couplé à des méthodes d’IA, la tendance est également à la police prédictive en Chine, où les décisions d’arrestation sont de plus en plus prises par des systèmes technologiques. Huawei travaille d’ailleurs avec les autorités policières du Xinjiang pour donner naissance à un laboratoire d’innovation dédié aux technologies de surveillance high tech que les Chinois pourront aussi « exporter dans les pays qui participent à la « nouvelle route de la soie » chinoise », explique Kai Strittmatter. Rien d’étonnant selon Charles Thibout, car « ce qui peut sembler désirable dans un régime, notamment en termes de stabilité sociale et politique, peut être exporté ailleurs. Et ça, cela intéresse les États-Unis et l’Europe, qui sont eux aussi confrontés à des tentatives séditieuses ou insurrectionnelles venant de la droite comme de la gauche. » Et de citer l’exemple des Gilets jaunes en France, des QAnon aux Etats-Unis, ou des militants d’extrême droite aux Etats-Unis et en Europe.

Autre élément propice à l’exportation du modèle de surveillance chinois, selon le chercheur: l’atmosphère techniciste qui règne dans le monde, « l’idée que les technologies sont capables de résoudre à peu près tous les problèmes, notamment les tentations subversives parcourant le corps social. » Telles sont selon lui les raisons pour lesquelles une dizaine de pays européens (3) auraient importé des dispositifs de surveillance technologique chinois. Tout cela, dans un contexte où Xi Jinping a décidé de renforcer le soft power chinois, en accroissant son influence dans le monde entier, notamment sur nos élites économiques et politiques. Ce n’est en effet pas un hasard si Jean-Marie Le Guen a succédé à Jean-Louis Borloo au conseil d’administration de Huawei France. Ou si Jean-Pierre Raffarin s’est vu remettre en 2019 la plus haute distinction possible pour un étranger: la médaille de l’ordre chinois de l’Amitié.

Les décideurs politiques occidentaux sont « très tentés par des solutions de contrôle social car elles leur semblent assez faciles à mettre en place », abonde la sinologue et politologue Séverine Arsène (4), qui considère néanmoins que « le modèle chinois fonctionne dans un contexte chinois. Quand les entreprises chinoises veulent vendre des caméras de vidéosurveillance ou une capacité à filtrer des données à un pays européen ou africain, elles ne peuvent pas importer le système chinois d’un seul coup. Elles vont répondre à une demande locale, l’adapter au contexte réglementaire du pays qui va acheter la technologie. Bien sûr, cela peut servir les intérêts géopolitiques de la Chine, mais cela sert avant tout la demande de l’État qui a acheté ces outils-là. » Sauf que… à la lueur de la crise sanitaire, la Chine et les soi-disant États « démocratiques » ont parfois des intérêts similaires. À titre d’exemple, la France a utilisé début 2020 des drones pour demander aux citoyens de respecter le confinement. On peut ainsi estimer que le Covid-19 a servi de prétexte pour accélérer le déploiement des technologies de surveillance en France (5), et bien sûr, que le Pass sanitaire préfigure d’autres usages des QR codes potentiellement très dangereux pour les libertés publiques.

À noter qu’en Chine également, la surveillance de masse a augmenté de façon significative à la faveur de la crise sanitaire, selon le Lowy Institute. Notamment via les QR codes qui sont devenus des armes de surveillance massive, comme l’expliquait dès 2017 l’ONG Human Right Watch. En Chine, les géants de la technologie comme le service de messagerie WeChat et la plateforme de paiement mobile Alipay ont développé des QR codes de couleur afin d’évaluer le degré de « sécurité » d’une personne. Là-bas, cet outil d’identification est désormais pratiquement aussi répandu que les pièces d’identité, puisqu’on les utilise pour se présenter devant les autorités, faire des achats ou commander des repas, explique Charles Thibout. Selon lui, « il ne s’agit plus d’un modèle de surveillance panoptique décrit par Michel Foucault, où l’autorité (politique, éducative, médicale…) surveille dans une position de surplomb. L’Etat ne se contente plus de surveiller les individus. Avec le QR code, chacun devient potentiellement le surveillant de l’autre. La surveillance devient de plus en plus horizontale. »

Et, ce qui est particulièrement inquiétant, c’est que « l’instauration du passe sanitaire risque malheureusement de perdurer, car, toute procédure d’exception est vouée à rentrer inéluctablement dans le droit commun, explique Charles Thibout. On l’a déjà vu avec l’état d’urgence depuis 2015. Il y a donc un risque important que ce genre de procédure soit intégré comme un élément normal de notre vie ». D’autant plus qu’il y a un phénomène d’accoutumance guidé par la peur, selon le chercheur : « Si vous craignez de mourir, vous êtes capables de rogner sur vos libertés ad libitum ». La question est donc de savoir « si les institutions qui sont aussi garantes de ce tropisme sécuritaire sauront être des garde-fous suffisants pour dire à un moment « stop ». »

Quant à La Quadrature du net, elle considère que le passe sanitaire permet d’ « exclure de certains emplois, transports et lieux des personnes dont la situation diffère de certains critères fixés par l’État ». Et s’inquiète que son adoption massive pourrait à terme « habituer la population à se soumettre à ce contrôle de masse, ce qui s’inscrit dans la bataille culturelle plus large déjà initiée par le gouvernement, notamment autours des caméras. Cette accoutumance permettrait à l’État de poursuivre plus facilement sa conquête totale de l’espace public ». 

Face à cette tendance de fond, comment l’Europe et les États-Unis peuvent-ils résister aux sirènes du modèle de surveillance chinois, notamment quand on sait que le pays pourrait devenir le leader mondial de l’IA d’ici 2030 ? Quelle alternative l’Europe, ayant de longue date renoncé à sa souveraineté numérique, pourrait-elle bien encore proposer face aux modèles chinois et américains, et à la gigantesque puissance technologique et économique de leurs entreprises ? Quelles normes et quels standards peut-elle participer à mettre en place ? Certes, la Commission européenne travaille sur un projet de régulation de l’IA pour renforcer sa souveraineté numérique et développer de nouvelles normes mondiales, à l’image du RGPD, et pour définir ainsi une troisième voie distincte des pratiques totalitaires de la Chine et du « capitalisme de surveillance » des grandes firmes technologiques américaines. Une stratégie de développement technologique qui serait construite sur des bases éthiques, expliquait Charles Thibout en juin dernier dans une tribune au Monde. Avant de noter que ce projet de régulation de l’IA comportait nombre d’imprécisions et d’exceptions altérant sensiblement l’ambition affirmée.

Celui-ci confie aujourd’hui à QG son pessimisme quant à la mise en place de quelconques normes internationales à caractère contraignant dans le domaine de l’IA. L’Europe aura notamment du mal à faire émerger une troisième voie, parce que ce n’est pas « une entité unifiée, un monolithe politique. C’est avant tout une organisation intergouvernementale, avec un niveau de souveraineté, d’autonomie, d’indépendance de chacun de ses États membres qui rend pratiquement impossible, sauf à de rares exceptions, sa capacité à prendre des décisions importantes sur des sujets clefs comme la surveillance et l’IA. » Séverine Arsène soulève de son côté un autre risque: que l’Europe se lance dans une « espèce de course-poursuite » face aux Etats-Unis et à la Chine qui sont « dans une posture de compétition pour être les premiers sur la 5G ou l’IA. L’Europe doit au contraire se donner le temps de réfléchir démocratiquement, de manière contradictoire au modèle que l’on veut vraiment défendre, et aux normes sociales et politiques que l’on place au sommet de nos priorités. » Pas sûr néanmoins que l’Europe ait le temps de délibérer durant des années sur le sujet… Notamment quand on sait que le gouvernement chinois exporte également des lois, soulignait récemment le Washington Post. En renforçant son influence au sein des organismes mondiaux de normalisation, Pékin espère en effet « façonner les directives internationales en matière d’autoritarisme numérique« . 

Julien Moschetti

(1) Algérie, Maroc, Egypte, Côte d’Ivoire, Nigeria, Kenya, Afrique du Sud, Zimbabwe, Ghana, Ouganda, Zambie, Botswana…

(2) L’UE soutient également ce marché de la sécurité urbaine, auquel au moins 11 milliards d’euros ont été dédiés entre 2014 et 2020, avec un focus important sur le développement de nouvelles technologies, selon la Gazette des communes. La France aimerait aussi devenir un leader mondial dans le domaine des « safe cities ». Le projet de « safe city » envisagé à Nice est par exemple porté par un consortium d’entreprises emmené par Thales.

(3) Notamment le Royaume-Uni, l’Allemagne, la France, le Danemark ou l’Italie.

(4) Elle est également chercheuse associée au médialab de Science Po et enseignante à la Chinese University de Hong Kong.

(5) À l’image du projet de loi Sécurité globale en partie censuré par le Conseil constitutionnel.