Depuis un siècle, la technoscience a changé de statut. L’informatisation du monde s’est développées de façon exponentielle, ses ramifications constituent désormais un véritable système global, un milieu environnant à part entière, avec ses règles, ses codes et ses esclaves … Jouir de la technique est devenue pour une majorité de nos contemporains la finalité des finalités. Cette addiction est à ce point devenue frénétique que la plupart des humains ne veulent en voir que les avantages, considérant qu’il sera toujours possible demain de palier aux inconvénients d’aujourd’hui. L’IA (intelligence artificielle) n’est que la confirmation de notre soumission aux écrans. Rare sont les voix qui veulent notre délivrance. Ainsi John Hopfield, paradoxalment prix Nobel de physique pour ses recherches sur l’intelligence artificielle.
John Hopfield : « L’IA va développer des capacités qui dépassent celles que vous pouvez imaginer à l’heure actuelle. En tant que physicien, je suis très troublé par quelque chose qui n’est pas contrôlé, quelque chose que je ne comprends pas assez bien pour savoir quelles sont les limites que l’on peut imposer à cette technologie. Le fonctionnement de l’IA est encore mal compris, ce qui est très, très inquiétant. Je m’inquiète de tout ce qui dit : “Je suis plus rapide que toi, je suis plus grand que toi”
Le point de vue des écologistes
Véronique DECKER : Ce que je trouve vraiment inquiétant, c’est la consommation délirante d’énergie pour les échanges numériques et l’IA. On devrait être à l’heure de la sobriété et la modération, et partout s’étalent des gabegies énergétiques.On finit par donner notre date de naissance pour avoir un billet de train, et l’étage de livraison pour l’achat d’un grille pain, les profs payent des logiciels pour contrer le travail de l’IA dans les devoirs maison, bref il va falloir travailler à la décroissance des données numérisées.
Moustiq : L’IA est à l’image de son créateur. Insondable et imprévisible. Capable du meilleur comme du pire. Et on s’étonne ?
Olivier de B : L’IA procède par inférence statistique sur la base d’une masse de données d’entraînement permettant de « muscler » un réseau de neurones artificiels via une descente de gradient. Rien de plus !
Rigomer Kerviel : Quand on pose une question à GPT4, on reçoit un document qui a l’aspect lexicologique et syntaxique d’une réponse mais qui ne contient aucune sémantique. Interroger GPT4 donne le même résultat que si vous interrogez un politicien. Ça a l’aspect d’une réponse mais ça ne répond à rien. La seule crainte à éprouver au sujet de l’IA est qu’il s’agisse d’une bulle financière qui se prépare à éclater.
DrF : Une IA peut prendre des décisions. Or on ne peut pas savoir pourquoi une IA décide ce qu’elle décide. Utiliser un programme informatique pour prendre des décisions sans savoir comment s’est formée cette décision est très préoccupant.
Rochefort : Il est probablement trop tard pour reprendre le contrôle de ce que l’Homme a conçu. Aujourd’hui, l’appât du gain sans limite a démultiplié, en tous sens, les recherches de voies nouvelles pour réaliser de plus en plus de bénéfice. ll y a déjà bien des années que le processus informatisé de certaines transactions financières échappe à l’esprit humain.
En savoir plus grâce à notre blog biosphere
La science contre l’intelligence artificielle
extraits : Avec l’intelligence artificielle (IA) – dont l’un des derniers avatars, ChatGPT, continue de faire couler beaucoup d’encre –, « on a ouvert la boîte de Pandore », nous disait récemment Benoît Piédallu, membre de l’association La Quadrature du Net, qui « promeut et défend les libertés fondamentales dans l’environnement numérique ». En cause, selon lui ? D’un côté, les politiques, « subjugués par ces technologies issues de la Silicon Valley », qui « ont du mal à [en] percevoir les risques », notamment « en termes de manipulation de masse ». Et de l’autre, les concepteurs et les vendeurs de ces systèmes, qui doivent être « tenus comme pénalement responsables de leurs conséquences néfastes sur la société »….
Boulimie énergétique de l’IA et de ses chefs
extraits : Devant les besoins électriques exponentiels de l’intelligence artificielle (IA), Microsoft, Amazon et Oracle veulent relier des centres de données à des réacteurs. Le nucléaire apparaît aux yeux des dirigeants de la tech comme une porte de sortie face à l’impasse énergétique vers laquelle l’intelligence artificielle risque de les conduire. Selon l’Agence internationale de l’énergie (AIE), une requête sur un assistant comme ChatGPT consommerait dix fois plus d’électricité qu’une recherche classique sur Google. Dans un moment de forte électrification tous azimuts liée à la transition énergétique, cela fait craindre des pénuries, locales ou générales. Rappelons que depuis le rapport de 1972 sur les limites de la croissance, nous devrions savoir que toute évolution exponentielle dans un monde fini se heurte irrémédiablement un jour ou l’autre à un mur. Et quand on commence à voir le mur, il est déjà trop tard pour s’arrêter, on va trop vite….
L’intelligence artificielle, LA solution ?
extraits : Pour Hugues Bersini, l’intelligence artificielle est en mesure de résoudre des problèmes majeurs. Mais pas n’importe comment. Certainement pas en confiant l’affaire à des entreprises privées à but lucratif, fussent-elles créées par des petits génies de la technologie, car la recherche du profit ne peut conduire qu’à l’injuste répartition des malheurs et des bonheurs qu’apporte la société numérique. Ni à des États potentats, fussent-ils conseillés par les meilleurs « experts », car la technocratie gestionnaire ne parvient jamais à l’efficacité collective, mais à la manipulation des cerveaux et des opinions. L’auteur en appelle donc à un « codage citoyen »….
L’intelligence artificielle = perte de temps
extraits : L’intelligence artificielle nous rendra encore plus idiots. Aujourd’hui déjà chaque homme ne peut avoir de place pour vivre que s’il est un technicien. On pourrait même dire que tous et toutes sont tellement passionnés par la technique, tellement assurés de sa supériorité, qu’ils sont tous orientés vers le progrès technique, qu’ils y travaillent tous, si bien que la technique progresse continuellement par suite de cet effort commun. En réalité la technique s’engendre elle-même ; lorsqu’une forme technique nouvelle apparaît, elle en conditionne plusieurs autres, la technique est devenue autonome. Il faut toujours l’homme, mais n’importe qui fera l’affaire pourvu qu’il soit dressé à ce jeu ! L’IA arrivera à ce résultat final, réfléchir à notre place, nous faire travailler à son service, nous concocter des loisirs toujours plus artificiels, multiplier les tendances néfastes de notre temps. Pourtant certains sont déjà adeptes de l’IA, ce sont les nouveaux croyants !
L’intelligence artificielle, LA solution ?
extraits : Watson, le programme d’intelligence artificielle phare d’IBM, était en 2016 l’un des plus avancés au monde. Il était déjà capable d’analyser des informations venant de n’importe quelle source, prendre en compte différentes perspectives et opinions sur tous les sujets. Watson pouvait analyser, à partir de nombreuses données, les qualités et défauts de chaque décision, évaluant son impact sur l’économie, l’environnement, l’éducation, la santé, la diplomatie, les libertés publiques, etc. C’est une tâche que doivent effectuer quotidiennement des politiciens sans compétence et ligoté par des appartenances partisanes. Les procédures délibératives pourraient donc être effectuées de façon plus appropriée et efficace par une IA. En plus l’ordinateur n’est pas émotif et soumis aux passions humaines. L’ordinateur d’un futur proche, du doux nom de HAL 9000 par exemple, pourra apporter ses capacités de prise de décisions objectives dont nous avons besoin vu la situation dramatique dans laquelle nous sommes.
– « L’IA va développer des capacités qui dépassent celles que vous pouvez imaginer à l’heure actuelle. » (John Hopfield )
C’est bien possible mais je ne le dirais pas comme ça. Si à tous les niveaux (en bas, en haut, à droite, à gauche, au milieu etc.) il est plus qu’urgent de décoloniser les imaginaires… par contre dans le domaine de la Connerie, là ON est au Top. Là ON est parfaitement capable d’imaginer n’importe quoi ! Certes cette capacité ne date pas d’hier, « il n’existe que deux choses infinies, l’univers et la bêtise humaine… » disait Einstein. Et ce n’est pas ChatGpt qui le lui avait soufflé.
Seulement il faut voir, et c’est là que je rejoins John Hopfield… que cette capacité, typiquement humaine, est sacrément boostée par l’lA. ( à suivre )
(suite) Sans l’lA, notamment appliquée au cinéma (effets spéciaux)… je me demande si ON aurait été capable d’imaginer aussi bien un monde de cyborgs, dirigés et surveillés par un super HAL 9000. Un monde, un avenir, où il suffira d’avoir un casque connecté pour voyager, sur Mars ou n’importe où… pour visiter, apprendre, FAlRE… tout et n’importe quoi. Un monde où le réel se con fondra avec le virtuel, un peu comme aujourd’hui, mais à la puissance cent. Un monde qui n’a plus rien à envier au 1984 d’Orwell.
En attendant, et quand bien même ON le voudrait, ce dont je doute, qui aujourd’hui peut imaginer… qu’ON puisse arrêter ça ? Personne. ON va donc continuer à développer cette technologie, toujours plus. Et bien sûr nous vanter ses avantages. Et en même temps nous raconter qu’ON gère très bien ses inconvénients, la bonne blague !
Nous entrons dans le monde de la Science Fiction.
Oui il y a de quoi avoir peur et les gens ne sont pas assez conscients des menaces sur la liberté comme sur l’humanisme.