De notre point de vue d’écologistes, c’est l’imaginaire social qui conditionne nos comportements. Nous assistons aujourd’hui à une dégradation des imaginaires par le consumérisme et à un abrutissement spectaculaire avec la société des loisirs. Nous sommes soumis à l’imaginaire de la démesure et à la boulimie des privilégiés, soumis à la surenchère de la marchandisation et de l’endettement massif. Nous sommes bercés par l’imaginaire des partisans des jolies centrales nucléaires tellement propres et de l’imaginaire extractiviste. Nous sommes victimes de la colonisation de notre imaginaire par le productivisme et le croissancisme. L’intelligence artificielle peut-elle changer la donne ?
Le chercheur français Yann Le Cun, pionnier des réseaux de neurones artificiels – ces systèmes qui, comme ChatGPT, sont entraînés à classer des milliards de données pour répondre aux questions qui leur sont posées –, a rejoint en 2013 la maison mère de Facebook, Meta, où il a créé le laboratoire de recherche FAIR (Facebook Artificial Intelligence Research).Yann Le Cun estime que l’outil GPT n’est « pas révolutionnaire » et qu’« il faut accélérer », car vouloir ralentir la recherche relève de l’« obscurantisme ».
Yoshua Bengio considère que l’agent conversationnel ChatGPT réclame une pause dans le déploiement de ce système. ChatGPT ne changera rien à notre soumission volontaire au système thermo-industriel, les Pour et les Contre de spécialistes n’ont aucune importance.
Yoshua Bengio : Ce système de langage à très grande échelle passe haut la main le test de Turing, c’est-à-dire qu’on ne peut pas facilement savoir, lorsqu’on converse avec lui, s’il s’agit d’une machine ou d’un humain. Cette nouvelle étape est passionnante, mais elle pourrait aussi entraîner des catastrophes. Je crains que son déploiement n’ébranle un peu plus nos démocraties. Le risque de désinformation arrive au premier rang. La seule façon de les orienter dans le bon sens, c’est de les récompenser lorsque la réponse est pertinente. Depuis des mois, les concepteurs de ChatGPT travaillent à parer les coups, mais ce n’est pas suffisant.Je suis inquiet aussi des risques dans le domaine militaire et des conséquences sur l’emploi. Il est important de souligner que les développeurs d’OpenAI [l’entreprise qui a lancé ChatGPT] ne font pas un travail de chercheur mais plutôt de l’ingénierie, en utilisant tout ce qui a été découvert ces dernières années dans le domaine de l’apprentissage profond. Il existe de nombreux systèmes d’IA prometteurs dans les domaines de la santé, de l’environnement, de l’éducation, de la justice sociale…
Avec l’arrivée de ChatGPT, je me réjouis que les questionnements sur ces technologies commencent à se diffuser à l’ensemble de la société, même si je regrette que beaucoup de chercheurs ne tiennent pas compte du principe de prudence.
Yann Le Cun : ChatGPT a acquis un certain niveau de raisonnement, en tout cas elle peut adapter ce qu’elle a lu à la question qui lui est posée. Mais rien de révolutionnaire, comme les autres systèmes de langage de grande taille, ses réseaux de neurones artificiels sont entraînés à l’aide d’énormes quantités de textes, de l’ordre de mille milliards de mots, quasiment la totalité des textes qui existent sur Internet. L’IA associe entre eux des mots apparaissant de façon la plus probable dans le corpus qui a servi à l’entraîner. Force est de constater que ces systèmes ne sont ni très fiables ni très contrôlables. Personne ne peut garantir que ce qui sort de la machine est compréhensible ou non toxique. Et on ne peut pas s’en servir comme moteurs de recherche, ni se reposer sur les informations qu’elle produit sans les vérifier. Ce qui est en cause dans les phénomènes de désinformation, c’est moins le volume de production des contenus problématiques que leur capacité à être diffusés. Le mouvement complotiste d’extrême droite QAnon s’est largement disséminé aux Etats-Unis à partir d’un petit nombre de personnes. Les machines seront un jour au moins aussi intelligentes que les humains dans tous les domaines où les humains sont intelligents. Ce n’est pas parce qu’une machine sera super intelligente qu’elle voudra automatiquement dominer l’humanité. Dans l’espèce humaine, les plus intelligents ne sont pas forcément ceux qui veulent devenir chefs et tuer tous les autres. C’est même souvent le contraire ! Plus les gens sont éduqués, instruits, capables de raisonner et d’anticiper ce qui va se produire, plus ils peuvent prendre des décisions bénéfiques à long terme. Avec l’aide de l’IA, l’intelligence humaine va être amplifiée, et cela peut conduire à un nouveau siècle des Lumières. Quand une nouvelle technologie apparaît et rend les gens plus intelligents, on prend un risque à vouloir en limiter l’utilisation. L’Eglise catholique a voulu interdire l’imprimerie pour qu’on ne puisse pas lire la Bible sans la médiation des prêtres. Or la diffusion de l’imprimerie a contribué à une nouvelle phase du développement humain et conduit au rationalisme, à la philosophie des Lumières et à la démocratie.
Ma priorité, en tant que chercheur, c’est de trouver le moyen de rendre ces systèmes pilotables. Une première étape est de les concevoir pour qu’ils ne puissent pas échapper aux contraintes qu’on leur fixe. Une deuxième étape sera de spécifier les contraintes que l’on veut imposer à ces systèmes pour les orienter vers des actions bénéfiques. C’est ce qu’on appelle l’« alignement » aux valeurs humaines, un enjeu qui n’est pas très différent de ce que l’on fait lorsqu’on légifère pour encadrer des entreprises ou des groupes de personnes.
Pour en savoir plus grâce à notre blog biosphere
– Bac 2023 : ChatGPT battu par Raphaël Enthoven à l’épreuve de philosophie
( La Croix (avec AFP), le 15/06/2023 )
Ce qui nous donne une idée des «prouesses» du machin. Le sujet était : Le bonheur est-il affaire de raison ? Autant dire une partie de rigolade pour un «philosophe» qui passe son temps à se masturber avec les concepts sur les plateaux TV. L’an prochain notre «lumière» devrait remettre ça sur un autre sujet : Qu’est qu’un con ? Là encore il pourra se vanter de ne pas avoir eu besoin de réviser, faut dire qu’il s’y connaît en la matière, le monstre :
– « Bonne année à tous, sauf aux antivax, qui sont vraiment soit des cons, soit des monstres ».
( Raphaël Enthoven sur Twitter le 30/12/2021 )