L’intelligence artificielle nous rendra encore plus idiots. Aujourd’hui déjà chaque homme ne peut avoir de place pour vivre que s’il est un technicien. On pourrait même dire que tous et toutes sont tellement passionnés par la technique, tellement assurés de sa supériorité, qu’ils sont tous orientés vers le progrès technique, qu’ils y travaillent tous, si bien que la technique progresse continuellement par suite de cet effort commun. En réalité la technique s’engendre elle-même ; lorsqu’une forme technique nouvelle apparaît, elle en conditionne plusieurs autres, la technique est devenue autonome. Il faut toujours l’homme, mais n’importe qui fera l’affaire pourvu qu’il soit dressé à ce jeu !
L’IA arrivera à ce résultat final, réfléchir à notre place, nous faire travailler à son service, nous concocter des loisirs toujours plus artificiels, multiplier les tendances néfastes de notre temps. Pourtant certains sont déjà adeptes de l’IA, ce sont les nouveaux croyants !
Refik Anadol et Karel Komarek : Selon certains, l’Intelligence artificielle pourrait devenir une menace intolérable pour l’emploi, voire menacer l’humanité elle-même. Comme s’il s’agissait d’un facteur qui nous échappe ! La vraie question est de savoir ce que nous ferons avec l’IA… L’IA a une capacité inégalée d’aider l’humanité à parvenir à ses objectifs – de l’optimisation de l’efficacité technologique à l’aide à la création artistique susceptible d’être appréciées partout. Les artistes qui utilisent déjà l’IA peuvent tracer une voie pour le rôle de la technologie dans la société… Le progrès humain résulte de la collaboration entre nous et, au-delà, entre nous et les machines.
Le point de vue des écologistes méfiants
Lacrosse : Qu’est ce que c’est que ce biais cognitif ? Depuis quand le progrès technique dépend de ce que nous en faisons ? Que je sache la bombe atomique, la 5G, la voiture électrique, pire le smartphone nous a été imposé à nous individus. A titre personnel je n’ai aucune influence sur la déploiement d’un « progrès technique ». Nous sommes condamnés a subir. Il faudra donc subir la surveillance de masse, les deepfakes, les manipulations de grande envergure sans que nous ne puissions rien y dire à titre individuel. La finance est déjà hors sol c’est clair que si elle peut virer les traders pour les remplacer par une IA elle ne se gênera pas. Le jour où l’IA écrira les livres à la place des auteurs et fera la comptabilité à la place de l’expert-comptable, seul le travail manuel offrira encore quelques perspectives d’emploi.
Guigui732 : Ce texte plein d’angélisme d’Anadol Komarek pèche par sa simplification extrême. Il se demande « ce que nous ferons avec l’IA » sans s’interroger sur le sens de ce « nous » bien pratique. Faut-il imaginer que c’est l’humanité toute entière, cohérente et sage, unie dans ses combats ? Mais qui imagine les USA, l’Iran et la Chine dans le même camp, luttant pour un monde meilleur ? Ou bien les financiers, les GAFAM, les écologistes et les pétroliers partageant un même souci ? Les horreurs se produiront, aidées par l’IA. Elle est déjà utilisé sur les zones de guerre !
Michel SOURROUILLE : Comme l’a démontré brillamment Jacques Ellul, la technologie nous échappe :
« La machine a créé un milieu inhumain, concentration des grandes villes, manque d’espace, usines déshumanisées, travail des femmes, éloignement de la nature. La vie n’a plus de sens. Il est vain de déblatérer contre le capitalisme : ce n’est pas lui qui crée ce monde, c’est la machine… Lorsque la technique entre dans tous les domaines et dans l’homme lui-même qui devient pour elle un objet, la technique cesse d’être elle-même l’objet pour l’homme, elle n’est plus posée en face de l’homme, mais s’intègre en lui et progressivement l’absorbe. »
en savoir plus grâce à notre blog biosphere
Techniques… appropriées ou néfastes
extraits: Je lisais en 1969 la 25ème heure de Virgil Gheorgiu, un livre sur les camps de concentration : « L’homme est obligé de s’adapter à la machine… Il devient une minorité brimée par la technique. Les esclaves techniques tiennent en main les points cardinaux de l’organisation sociale. Ils agissent selon des lois spécifiques, automatisme, uniformité, anonymat… Il y aura des arrestations automatiques, des condamnations automatiques, des distractions automatiques. »
Jacques Ellul, démesure de la société technicienne
extraits : Dès les années 1930, alors qu’il est encore étudiant, Jacques Ellul (1912-1994) amorce en compagnie de son ami Bernard Charbonneau une réflexion de fond sur le phénomène technicien. Trois livres servent de références : La Technique ou l’enjeu du siècle (1954), Le système technicien (1977) et Le bluff technologique (1988). Le premier opus s’ouvre sur ces mots : « Aucun fait social humain, spirituel, n’a autant d’importance que le fait technique dans le monde moderne. (…) la Technique a progressivement gagné tous les éléments de la civilisation ». Un peu plus loin, il définit la Technique comme « la préoccupation de l’immense majorité des hommes de notre temps de rechercher en toutes choses la méthode absolument la plus efficace ». Il considère qu’elle relève de la démesure (hubris) qui, au XXe siècle, s’est emparée de la civilisation occidentale puis, par contamination, mondiale.
Ellul et le bluff technologique
extraits : « Pourquoi, alors que la technique présente tant d’effets négatifs, n’en prend-on pas conscience ? Le premier facteur qui joue dans le sens de l’oblitération est très simple : les résultats positifs d’une entreprise technique sont ressentis aussitôt (il y a davantage d’électricité, davantage de spectacles télévisés, etc.) alors que les effets négatifs se font toujours sentir à la longue. On sait maintenant que l’automobile est un jeu de massacre, cela ne peut enrayer la passion collective pour l’auto. Il faut en second lieu tenir compte du paradoxe de Harvey Brooks : « Les coûts ou les risques d’une technique nouvelle ne sont souvent supportés que par une fraction limitée de la population totale alors que ses avantages sont largement diffusés. Le public ne sent rien (la pollution de l’air), ou ne sait rien (la pollution des nappes phréatiques). In « Le bluff technologique » de Jacques ELLUL…
Esclaves de la technique, nous glorifions notre maître
extraits : Il peut paraître surprenant d’entreprendre une critique de la technique. Or depuis un siècle, elle a changé de statut. Les techniques se sont développées de façon exponentielle et se sont tellement ramifiées qu’elles constituent désormais un véritable système ; un milieu environnant à part entière, avec ses règles, ses codes et ses contraintes… au même titre qu’autrefois la nature. Jouir de la technique est devenue pour une majorité de nos contemporains la finalité des finalités. On ne se pose plus ces questions : Pourquoi confie t-il de plus en plus de responsabilités à des automates, au point de devoir « communiquer » avec eux bientôt plus qu’avec ses semblables..
en finir avec le progrès technique
extraits : Quand l’homme du Vieux Monde inventait quelques procédés techniques astucieux, comme la poudre ou la vapeur, c’est à des fins futiles qu’il l’utilisait tout d’abord. Jusqu’au deuxième millénaire après Jésus-Christ, il n’y eut qu’une poignée de progrès technique. Le moulage des grands lions de fers de Chine ou les sculptures en bronze des grecs, qui sont peut-être les plus grandes prouesses techniques de la vieille culture du Vieux Monde, sont des œuvres d’art, ne répondant à aucune nécessité pratique. Bref, l’acceptation de limites techniques fut aussi un trait durable de la culture du Vieux Monde. La culture du nouveau Monde, en raison de son efficacité méthodique et de son universalité mécanique, menace manifestement de destruction ce qui reste de la culture du Vieux Monde. (Lewis Mumford, 1956)
extraits : La technique n’est pas une solution, elle est le problème. Alfred Nobel avait rêvé de créer un explosif tellement dévastateur que la guerre devienne impossible, mais le XXe siècle a connu deux guerres mondiales. On a inventé l’arme nucléaire, bien plus destructeur que la dynamite, on l’a aussi utilisée. Il faut que l’humanité reconnaisse les limites de la technique et puisse privilégier des techniques douces contre les techniques dures, dures pour les hommes, dures pour la Nature.
L’intelligence artificielle, LA solution ?
extraits : Watson, le programme d’intelligence artificielle phare d’IBM, était en 2016 l’un des plus avancés au monde. Il était déjà capable d’analyser des informations venant de n’importe quelle source, prendre en compte différentes perspectives et opinions sur tous les sujets. Watson pouvait analyser, à partir de nombreuses données, les qualités et défauts de chaque décision, évaluant son impact sur l’économie, l’environnement, l’éducation, la santé, la diplomatie, les libertés publiques, etc. C’est une tâche que doivent effectuer quotidiennement des politiciens sans compétence et ligoté par des appartenances partisanes. Les procédures délibératives pourraient donc être effectuées de façon plus appropriée et efficace par une IA. En plus l’ordinateur n’est pas émotif et soumis aux passions humaines. L’ordinateur d’un futur proche, du doux nom de HAL 9000 par exemple, pourra apporter ses capacités de prise de décisions objectives dont nous avons besoin vu la situation dramatique dans laquelle nous sommes.
Grâce à la Fondation Gates, nous assistons aujourd’hui à de grandes découvertes technologiques telle que la sélection de nouvelles semences résistantes au climat. HAL trouverait cette idée parfaite, il décidera de sélectionner uniquement les humains vraiment utiles et nécessaires…
L’intelligence est probablement seulement biologique, ce qu’on appelle intelligence artificielle sont des logiciels, certes sophistiqués, certes qui s’autoprogramment en améliorant et enrichissant eux-mêmes leurs bases de données et leurs propres mécanismes de fonctionnement, mais il leur manque l’essentiel à savoir : l’intention. Même les logiciels d’intelligence artificielle travaillent au départ avec une intention donnée par des êtres vivants, ils ne vont pas chercher par curiosité personnelle ou par intentionnalité.
Par contre c’est efficace et dangereux, c’est un outil essentiel pour notre surveillance et pour l’anéantissement de notre liberté
Ne glorifions pas l’intelligence artificielle mais nous devons nous en méfier fortement même si on lui dénie ce concept d’intelligence.
L’intention, dites-vous… d’autres disent que ce qui lui manque, à l’IA, c’est l’intuition.
Pour l’intention je pense qu’il suffit de lui dire dès le départ ce qu’ON veut. Par exemple une cité idéale… Et je me dis qu’elle devrait faire le reste. Seulement ON risque alors de se retrouver dans le Meilleur des mondes d’Huxley. Mais heureusement je pense qu’ON doit pouvoir aussi (et en même temps) lui dire ce qu’ON ne veut (surtout) pas. Et là ON risque de se retrouver dans ce genre de scénario raconté par RAPPORTERRE 4 MARS 2023 À 20:32 (voir article “L’intelligence artificielle, LA solution ?”)
Pour l’intuition je ne sais pas. C’est quoi l’intuition ? Elle est-elle seulement biologique ?
Quoi qu’il en soit je suis d’accord avec vous, ne glorifions pas l’intelligence artificielle.
D’ailleurs ON devrait l’appeler connerie artificielle (CA).
L’IA ne semble pas inspirer grand monde… c’est bizarre, non ? La Technique et le Progrès, qui progresse, pour des siècles et des siècles amen, non plus. Jacques Ellul, Bernard Charbonneau, Ivan Illich, Lewis Mumford … encore moins. C’est triste quand même, non ?
ON doit se dire que ce n’est pas intéressant, pas prioritaire … ou un truc comme ça.
Et que réfléchir à ça est une perte de temps. L’intelligence artificielle = perte de temps 🙂
– Le développement de l’intelligence artificielle : risque ou opportunité ?
( vie-publique.fr 23 août 2023 )
1) L’ État des lieux : Elle est là, et elle avance à vitesse grand V. Faut faire avec …
2) : Risques identifiés : impacts sur le travail et l’emploi, risque de dépendance et de plateformisation, risque de domination économique des GAFAM … (Rapport Villani de 2018)
3. Stratégies de l’État : Rapports, plans (rantanplan), milliards d’euros, et blablabla.
Ainsi «construire la confiance, servir la performance […] l’IA de confiance répondant à des normes de transparence et de confidentialité ; l’IA au service de la transition écologique » et patati et patata.
4. Politique de l’IA au niveau européen : Idem, «un plan coordonné … une catégorisation des systèmes d’IA en fonction de leur niveau de risque» …
( à suivre )
Pour résumer, vous pouvez dormir tranquille. Les risques sont identifiés, ON a pensé à tout.
C’est comme avec le Nucléaire, ON maîtrise. ON vous demande juste de nous faire confiance, en attendant. Le Bien Commun avant tout ! Et en même temps la Performance.
Le Business et le Pognon quoi.
Confiance… en l’IA ? Déjà de quoi cette catégorisation (taxonomie) des systèmes d’IA en fonction de leur niveau de risque (un peu, beaucoup, passionnément, à la folie…) nous protège t-elle ? Parmi ces risques, identifiés, RIEN sur les dommages sur nos cerveaux ! NADA !
Dans son livre «L’homme neuronal», le neurobiologiste Jean-Pierre Changeux explique que toute zone du cerveau qui n’est pas sollicitée finit par disparaître.
– « L’intelligence artificielle nous rendra encore plus idiots. » (Biosphère)
Oui, c’est tout à fait ça. Comme si nous avions besoin de ça, misère misère !
– Is Google Making Us Stupid? (Nicholas Carr – The Atlantic – juillet 2008 )
Cet article a fait couler beaucoup d’encre, une page Wikipedia lui est consacrée, il a été publié dans Le MONDE du 05 juin 2009 (Est-ce que Google nous rend idiot ?)
La même question s’est posée récemment au sujet du Smartphone, et d’Internet. Depuis longtemps déjà au sujet des écrans, en général (Télévision etc.)
Au sujet aussi de la Bagnole, de la Publicité et j’en passe. Et aujourd’hui :
– Est-ce que l’intelligence artificielle nous rend idiot? ( Linkedin 29 déc 2023 )
Et là encore ON nous dit que ça dépend… des usages qu’ON en fait. Ce qui veut dire que d’un côté c’est très bien… et là les technolâtres ne tarieront pas d’exemples.
Et de l’autre ON nous dit qu’il faut pas trop en abuser…
Il ne reste donc plus qu’à espérer que l’IA parviendra à trouver toute seule la juste mesure pour s’autoréguler. Et pourquoi pas s’autodétruire …