L’ère de la cryptoprédiction… pour le pire en Chine

Les algorithmes tracent nos habitudes, nos goûts, ou encore nos échanges sur le Net. Sans qu’on le sache encore, ils fixeraient ce que nous ­sommes capables de faire. Grâce aux algorithmes, Facebook s’engage à détecter les comportements potentiellement suicidaires de ses utilisateurs* pour mieux les protéger d’eux mêmes. On se retrouve ainsi dans le film de science fiction Minority Report : en 2054 des êtres humains mutants, les précogs, peuvent prédire les crimes à venir grâce à leur don de prescience. Sauf que cette fois il s’agit de machines électroniques qui vont jusqu’au bout des logiques de nos comportements personnels. Elles déduisent de nos conversations, centres d’intérêt, achats et fréquentations ce que nous devenons potentiellement… L’ère de la « cryptoprédiction » individuelle a sonné. Un opérateur privé ou une autorité administrative nous caractérise non plus par ce qu’on dit et fait, mais par ce qu’on risque de faire. S’il s’agit pour Facebook de protéger les présumés suicidés contre eux-mêmes, rien n’empêche d’avoir une attitude moins bienveillante. C’est ce qui se passe déjà en Chine et qui pourrait se passer bientôt dans n’importe quel autre pays.

Les modérateurs de la société chinoise – une « police du Net » – ont pour fonction de gérer les alertes et de prévoir les comportements déviants. Le sacre de Xi Jinping au 19e congrès du Parti communiste chinois en octobre 2017 laisse penser que la « nouvelle ère » annoncée ne faiblira pas dans le registre autoritaire**. Les progrès technologiques fulgurants du pays mettent à la disposition du parti-Etat des outils de contrôle politique et social inégalés. De quoi inquiéter, dans un régime qui ne juge pas opportun d’en limiter la portée. C’est un totalitarisme sophistiqué qui va de pair avec le renforcement de l’appareil policier et la militarisation. Le nouveau corpus de lois sécuritaires régissant les religions, les ONG, le cyberespace ou encore la lutte antiterroriste entérine un encadrement accru de la société civile et une persécution assumée des voix critiques. L’innovation dans le big data et l’intelligence artificielle a fait surgir des convergences en matière de contrôle, de surveillance et de notation sociale. Contrairement à l’Occident, où l’on se pose parfois toutes sortes de questions d’éthique, les Chinois ont la capacité d’unifier tous ces systèmes. Quiconque ne suit pas au plus près la ligne du parti dans son comportement devient suspect. La Chine veut élargir le système de credit rating à l’ensemble de ses citoyens en 2020. Les systèmes de notation [credit rating] s’étendent à une évaluation du comportement politique et social. Les usagers de la Toile sont soumis à de nouvelles règles depuis le 8 octobre 2017. Elles les obligent à « adhérer aux directives correctes, [à] promouvoir les valeurs socialistes fondamentales et [à] entretenir une culture en ­ligne positive et saine » sous peine de voir leur « notation sociale » abaissée et « leur dossier transmis aux autorités ». Ces directives étendent aux usagers individuels les contrôles politiques qui s’appliquaient d’abord aux médias chinois et leurs gestionnaires. Les technologies Internet, loin de perturber la domination du parti, lui donnent tout pouvoir sur l’individu. Les lois sur la cybersécurité, adoptées en novembre 2017 permettent à la police politique de monter des dossiers d’accusation contre des internautes coupables de « subversion du pouvoir de l’Etat » ou les « troubles à l’ordre public ». La frontière devient très poreuse entre ce qu’on dit et fait et ce qu’on risque de faire… les algorithmes nous traquent inlassablement.

Même en France, les libertés individuelles sont toujours plus menacées. L’accentuation des pouvoirs administratifs dans l’État de droit sous prétexte de l’état d’urgence fait aussi des ravages. Ne parlons pas des Etats-Unis où même les scientifiques sont pourchassé du moment qu’ils œuvrent pour l’écologie. Car l’écologie est une pensée de rupture avec le système dominant, donc une pensée dangereuse pour le pouvoir en place.

* LE MONDE du 27 décembre 2017, ces algorithmes qui nous connaissent mieux que nous-mêmes

** LE MONDE du 28 décembre 2017, Comment Xi Jinping a réinventé la dictature