L’IA altère notre pensée, la lecture aussi 

Mieux vaudrait privilégier l’accès de tous à un nombre restreint de textes importants. L’usage de l’écriture, de l’imprimerie, des moteurs de recherche et de l’IA implique une délégation de nos capacités intellectuelles. A travers l’écriture, puis le livre, on délègue la mémoire : plus besoin de se remémorer par nous-mêmes les savoirs. Avec les technologies d’enregistrement analogique comme la photographie et la télévision, on délègue la mémoire des sons et des images. Avec le numérique, nous déléguons aux algorithmes de recommandation notre capacité de jugement et de décision. Et aux IA génératives, notre capacité d’expression. Ce n’est plus moi qui m’exprime, les machines le font à ma place.

Quelques pensées d’Anne Alombert et Jonathan Bourguignon et notre commentaire

– Chaque découverte qui a un lien avec nos capacités cognitives soulève des inquiétudes, c’est vrai depuis l’invention de l’écriture.

Platon (dans Phèdre) souligne les effets délétères de l’écriture sur la mémoire. La langue écrite n’est pas la langue naturelle, elle n’en est qu’une version tronquée, uniquement destinée à l’aire visuelle au détriment des interférences orales avec autrui. L’imprimerie de Gutenberg a été un progrès formidable pour propager par l’écrit les idées. Mais en bouleversant de fond en comble (« disrupt ») l’ordre préexistant, c.-à.-d. le monopole idéologique d’un système religieux, elle a également engendré les guerres de religion.

– Lorsque le livre de poche est arrivé en France, en 1953, il se trouvait des gens pour prédire que la production de masse d’une littérature bas de gamme allait ravager les esprits.

On ne peut que s’inquiéter quand on entre dans une librairie de la quantité extravagante d’écrits, romans, mangas et autres produits qui occulte complètement la réflexion. Les concepteurs du  Monde des livres sont de la partie, alignant semaine après semaine les recensions d’inutiles lectures. Le prix Nobel de littérature récompensait normalement une « inspiration idéaliste » ; maintenant les romans ne sont plus fait pour apprendre et se souvenir, mais pour passer le temps et oublier d’agir.

– La « première » version de Google présentait pour une même demande, une information identique à tous les utilisateurs. Lorsque l’entreprise a mis en place un système d’enchères publicitaires, dans lequel des annonceurs paient pour diffuser leurs publicités, le succès de ce système est devenu dépendant de la capacité de Google à prédire le comportement des internautes grâce à l’analyse des données de trafic. Désormais, plus besoin de chercher un contenu ou une information : ils s’imposent à nous.

Netflix, par exemple, a commencé par proposer une plateforme dont l’algorithme recommandait des films et des séries à ses usagers ; puis il s’est mis à produire et à recommander ses propres films ; jusqu’à se trouver aujourd’hui dans une situation dominante sur toute la production et la diffusion audiovisuelle mondiale ! Le paramétrage des algorithmes de recommandation est un enjeu considérable, récemment mis en avant par le rapport de la commission d’enquête sur TikTok. Nous assistons à une concentration du pouvoir dans les mains de quelques entreprises privées qui ont pour but de rendre leurs utilisateurs accros. Il n’y a pas de situation plus profitable pour l’entreprise que celle où vous tombez amoureux de son produit.

– l’IA générative n’échappent pas à ce schéma en ajoutant une nouvelle inquiétude, celle d’une dépossession. Elle formate l’information pour l’adapter à nos demandes.

La recommandation algorithmique va à l’encontre de la dynamique démocratique, elle forme des bulles cognitives qui enferme chacun dans ses préjugés en lui présentant de préférence ce qui vous ressemble et vous fait plaisir. Il y a aussi un biais statistique : les réponses ont tendance à renforcer les expressions majoritaires.

– La force de ces machines, c’est qu’elles se nourrissent de toutes les données humaines .

Le problème, c’est que ces machines qui pensent à votre place se nourrissent de plus en plus des données qu’elles génèrent. Il se produit un phénomène de dégradation cumulative. Si ces machines sont efficientes, c’est parce que nous les avons nourries avec des savoirs humains. Le jour où elles seront alimentées par des bêtises, elles simuleront la bêtise. C’est déjà le cas avec tous les vérités « alternatives » (les contre-vérités) qui se propagent aujourd’hui. Il y a aussi la question des biais, elles sont entraînées par des personnes selon certains critères, leurs réponses portent la trace de biais idéologiques.

– Il appartient à chacun d’adopter un usage réfléchi du numérique et de veiller à ne pas en devenir dépendant.

C’est faire peser une responsabilité considérable sur des individus déjà soumis à de fortes pressions socio-économiques. L’utilisation quotidienne de ChatGPT entraîne une « réduction de l’amplitude cognitive » (une baisse de la diversité des zones cérébrales mobilisées) doublée d’une « dette cognitive » : lorsqu’on demande aux utilisateurs de ChatGPT d’écrire un texte sans son aide, ils rencontrent de plus grandes difficultés, car ils ont du mal à réactiver les zones cérébrales qui ont été délaissées. Ils deviennent, en réalité, dépendants de l’outil. Utiliser l’IA tous les jours, c’est prendre le risque d’amoindrir nos capacités de mémorisation, d’expression, de décision.

Le point de vue éclairé des écologistes

Élargissons le débat. « Il n’y a pas de situation plus profitable pour l’entreprise que celle où vous tombez amoureux de son produit » dixit Anne Alombert. Mais l’IA n’invente rien, c’est la publicité qui vous fait aimer fumer (même si fumer tue), c’est la pub qui vous fait aimer la voiture (Ah, la liberté de rouler !), c’est la pub qui vous fait aimer cet infâme breuvage qu’on appelle Coca Cola, etc. On a interdit la pub pour la cigarette, on devrait l’interdire dans tous les domaines. Le seul élément qui compte pour un choix de consommation, c’est pour chaque produit une analyse comparative avantages/ coût, ce que ne fait pas la pub. Mais si on interdit la pub, alors les magnats de la digitalisation du monde n’ont plus de ressources financières pour une consommation de masse des bêtises véhiculées sur Internet.

Ajoutons que les Datacentres n’ont pas d’affects : les machines chauffent mais ne sentent pas qu’elles chauffent, elle ignorent leurs besoins exponentiels en électricité, elles s’en foutent de l’état de la planète à l’image de leurs concepteurs et de leurs consommateurs.