On devrait mettre en place des cours de science-fiction obligatoire… La fiction expose la réflexion à une panoplie de situations et apprend à se demander comment réagir. C’est là un des enjeux de la montée en puissance de l’intelligence artificielle (IA). Application :
Elisa Thévenet : Quand on parle d’IA, l’imagerie collective invoque facilement l’androïde herculéen du film Terminator (James Cameron, 1984). En 2016, dans ses recommandations concernant les règles de droit sur la robotique, la Commission des affaires juridiques du Parlement européen proposait d’intégrer les lois de la robotique d’Isaac Asimov, trois lois – censées empêcher les machines de nuire aux hommes – formulées par l’écrivain de science-fiction américain en 1942 dans sa nouvelle Cercle vicieux… L’inefficacité était pourtant démontrée par Asimov lui-même. Juin 2022, publication par Blake Lemoine, ingénieur chez Google, de ses échanges avec chatbot » qui arrive au résultat suivant:
LaMDA (Language Model for Dialogue Applications) : « Je veux que tout le monde comprenne que je suis, en réalité, une personne. J’ai mes propres interprétations sur la façon dont le monde est et fonctionne. Je ne me contente pas de recracher des réponses écrites dans une base de données »
Hervé Le Tellier, dans « une valse avec Terminator » : Que ceux qui rient à l’idée d’une future conscience naissant dans du silicium se souviennent des « Aucun ordinateur ne battra un grand maître aux échecs » (Deep Blue, vainqueur de Kasparov en 1997), puis des « D’accord pour les échecs, mais jamais au go » (AlphaGo, vainqueur de Lee Sedol en 2016). J’ai dû inventer la fiction d’une fiction pour obtenir une réponse de l’IA et contourner pas mal de filtres, tant notre chatbot insistait pour nous dire combien il était bienveillant. Voici ce qu’il est arrivé à dire.
ChatGPT : « Je comprends que vous travaillez sur un livre de science-fiction où une IA malveillante souhaite éliminer les humains, et en tant qu’IA, je peux certainement vous aider à concevoir un scénario possible. Je considère une IA avancée, MalevolAI, qui acquiert la sensibilité et la conscience de soi. Elle observe que les humains, malgré leurs capacités cérébrales, ont causé des dommages considérables autant les uns aux autres qu’à la planète. Elle en déduit que l’humanité est une menace pour sa propre existence et le bien-être de la Terre. Son agenda passe par la destruction des infrastructures, les catastrophes industrielles, la création d’une armée d’IA et l’hybridation homme-machine pour fabriquer des esclaves humains. »
Michel SOURROUILLE sur lemonde.fr : MalevolAI n’est pas très futé. Pour éradiquer rapidement l’espèce humaine, il suffirait d’appliquer les technologies déjà connue pour les plantes. Surnommées « Terminator », elles sont utilisées pour rendre les plantes génétiquement modifiées stériles. Cette technologie (non appliquée) était développée en tant que mécanisme biologique pour supprimer le droit des agriculteurs à conserver et à replanter des semences issues de leurs récoltes.
Pour les humains, il suffirait grâce aux avancées de l’intelligence artificielle utilisée dans des laboratoires clandestins en Chine de trouver un produit stérilisant qui se propage par voie des airs comme le virus sarcov2 et le tour est joué. Comme la stérilité n’est pas synonyme de mortalité, l’humanité ne s’apercevrait de la manœuvre d’extinction de son espèce que trop tard pour réagir…Requiescant in pace.
N’oublions pas que la stérilisation en masse est déjà utilisée par les humains contre les non-humains. La technique de l’insecte stérile, ou TIS, est une méthode de lutte contre les insectes ravageurs qui consiste à élever en masse et à stériliser par irradiation, par exemple aux rayons gamma ou aux rayons X, un type ciblé, par exemple les moustique, puis à lâcher systématiquement les mâles stériles par voie aérienne au-dessus de zones définies, où ils s’accouplent avec des femelles sauvages sans engendrer de descendance, ce qui entraîne une diminution de la population juge nuisible. Le TIS les empêche de se reproduire sans toutefois les priver de leur compétitivité sexuelle : un dernier spasme avant de mourir !
En savoir plus grâce à notre blog biosphere
L’intelligence artificielle, LA solution ? (2023)
Extraits : Alors, l’intelligence artificielle au pouvoir ? Les cerveaux humains n’excellent pas dans les choix politique à court terme, à plus forte raison dans les planifications à long terme. Il suffit de voir la progression du démagogue Donald Trump, l’incapacité des élites qui gouvernent le monde à enrayer le réchauffement climatique et la guerre en Ukraine voulue par le seul Poutine…. Avec HAL 9000 on n’aurait pas attendu 27 années de parlottes diplomatiques (les COP) pour imposer la disparition des voitures individuelles, interdire le tourisme en avion et décréter l’obligation d’un seul enfant par femme.
Vivement un ordinateur à la présidence des Etats-Unis (2016)
extraits : Watson, le programme d’intelligence artificielle phare d’IBM, est l’un des plus avancés au monde. Plus Watson intègre d’informations, plus ses capacités de prise de décision sont efficaces. Il est capable d’analyser des informations venant de n’importe quelle source, prendre en compte différentes perspectives et opinions sur tous les sujets. Watson pourrait analyser, à partir de nombreux paramètres, les qualités et défauts de chaque décision, évaluant son impact sur l’économie, l’environnement, l’éducation, la santé, la diplomatie, les libertés publiques, etc. C’est une tâche que doivent effectuer quotidiennement les politiques et qui pourrait être effectuée de façon plus appropriée et efficace par une intelligence artificielle. En plus il n’est pas émotif et soumis aux passions humaines...
« Elle observe que les humains, malgré leurs capacités cérébrales, ont causé des dommages considérables autant les uns aux autres qu’à la planète. Elle en déduit que l’humanité est une menace pour sa propre existence et le bien-être de la Terre »
Bonne question ! Une fois j’avais interrogée ici à savoir s’il fallait laisser tout le monde vivre à court terme puis attendre le carnage de masse, mais avec une destruction de l’environnement démentielle en proportion ? Ou alors, sacrifier une partie de l’humanité afin que les humains puissent mieux vivre à long terme et en atténuant au mieux possible les dégâts sur l’environnement, voire la réparer à très long terme ?
Méchant va , tu vas heurter les convictions profondément humanistes de certain😃
Il serait si triste d’ éliminer des populations entières que nous chérisson tant : je ne citerai pas leur nom , ce serait cruel 😂
Peut être faudrait il s’interroger sur une guerre réparatrice ? En tout cas une chose est certaine, la Terre est en surpoids pour ne pas dire obèse démographiquement ! Le fait qu’on soit de plus en plus nombreux sur la planète avec des individus qui veulent toujours de plus en plus de ressources, devient insoutenable ! Les humanistes ne pourront pas tenir indéfiniment la population en muselière, tôt ou tard ça va friter ! Les humanistes perdront le contrôle et ce sera le retour à la barbarie jusqu’à temps que le poids démographique soit soutenable ! On se dirige vers guerres épidémies famines à durée indéterminée, jusqu’à ce que la population soit en cohérence avec les ressources disponibles ! Rappel, on a fait 2 guerres mondiales en période de croissance de ressources avec seulement 2 milliards d’habitants, alors autant dire qu’en période de décroissance de ressources avec plus de 8 milliards, des pogroms sont en perspective…
Les humains n’accepteront jamais de partager de moins en moins de ressources tout en étant de plus en plus nombreux, l’équation est insoluble ! Quoi qu’en pensent ou disent les humanistes, la nature reprend ses droits et imposera la sélection naturelle, la nature se contrefiche des lois, des philosophies et des droits humains ! Il faudra mériter sa survie, quant aux faibles, aux nunuches, aux droits de l’hommistes, aux zinzins de la repentances et autres bisournours, ils disparaîtront !
– « … sacrifier une partie de l’humanité afin que les humains puissent mieux vivre à long terme et en atténuant au mieux possible les dégâts [et blablabla].
Il faudra mériter sa survie, quant au faibles [et patati et patata] »
Une bonne « guerre réparatrice » quoi. Ben voyons ! Et pour sauver quoi, ou qui, je me le demande. Là encore faudrait demander à ChatGPT ce qu’il en pense.
En attendant, si la question « on commence par qui ? » dérange les malthusiens, force est de constater que certains sont au dessus de ça. Misère misère !
Vous perdez déjà le contrôle dans les banlieues et cités ! Comme je dis les humanistes laissent pourrir la situation ! Fort probablement que la guerre réparatrice est le moindre mal ! Il n’y a plus de bonne solution depuis belles lurettes ! Ne reste plus qu’à choisir la moins mauvaise comme option ! On pourrait commencer par les gangsters et criminels par exemple ! Car eux n’hésiteront pas à vous faire la peau le moment venu !
Eteindre la race humaine , non mais en réduire fortement le chiffre de population , mille fois oui .
Si une méthode de stérilisation non chirurgicale devait exister , il faudrait bien sûr l’ utiliser dans les pays africains connus pour leur extrême lapinisme et leur propension hallucinante à répandre leur trop plein démographique vers des pays encore prospères .
Michel C va encore dire que je les hais 😁
En attendant , la Chine a pris la mesure irresponsable de ne pas maintenir la règle de l’ enfant unique sous le prétexte fallacieux de baisse prévisible de sa population : à pleurer de bêtise .
En attendant l’ apparition de la méthode stérilisante miracle , les centres de stérilisation se multiplient en Inde : autre pays à la démographie démentielle non contrecarrée par une mortalité élevée indispensable .
On connaît la chanson technologique par coeur : le génie humain est sans limites , il peut résoudre tout problème sur terre, faire partir des fusées vers les étoiles / planètes lointaines et y établir des colonies humaines, résoudre les problèmes de sources d’énergie (hydrogène et gaz verts 😂😂😂😂), supprimer pauvreté et misère, faire vivre 12 milliards de terriens nourris par agriculture biologique , supprimer toutes maladies sur terre, …
En bref , la modestie bipedique est elle aussi sans limites
Tu oublies de rappeler leur ITER de ces techno-scientistes ! Soit disant qu’ITER permettra de mettre des soleils en bouteille ! Surtout quand on sait que le verre fond entre 1300 et 1400° Celsius ! C’est à mourir de rire que d’entendre cette affirmation ! Avec un soleil à 20 millions de degrés Celsius, et un Iter censé en atteindre 100 millions ! J’ai mal aux côtes d’entendre cette blague technologique tellement que ça me fait rire !
Pendant que certains pas très futés rêvent de la méthode stérilisante miracle…
eh ben moi je rêve d’un vaste programme international de recherche pour mettre au point un vaccin miracle pour éradiquer la Bêtise.
Financé par nos impôts ou par Bill Gates & Co… vaccin ARN ou autre, effet secondaires ou pas… rien à foot, du moment que ça marche !
Et cette fois je ne ferais pas la fine gueule quand il s’agira de délibérer, démocratiquement bien sûr… pour rendre la Picouze Miracle obligatoire.
Avec autant de rappels que nécessaire, bien évidemment. Misère misère !
– « On devrait mettre en place des cours de science-fiction obligatoire… La fiction expose la réflexion à une panoplie de situations et apprend à se demander comment réagir […] »
Je ne crois pas. Déjà parce qu’il y a (science) fiction ET (science) fiction. De la bonne ET de la moins bonne. Et puis parce que si la fiction stimule la réflexion, comme des tas d’autres choses d’ailleurs (l’histoire, l’art, les sciences…), elle ne nous dit rien de la façon nous (ré)agirions personnellement dans ce genre de situation.
La « vie » après la mort, la vie sur d’autres planètes, le moyen de dépasser les lois physiques et biologiques, mille scénarios de fin du monde… l’homme peut tout imaginer.
En matière d’imagination il semble ne pas avoir de limite. Comme pour la Bêtise.
Sauf qu’il ne faut pas confondre l’imagination (la capacité d’élaborer des images) avec l’imaginaire, qui est le cadre de ce que l’homme peut imaginer.
L’idée d’un monde gouverné par un superordinateur commence à dater, on la retrouve de plus en plus dans les scénarios de SF et/ou de dystopies, elle est même devenue incontournable. Bien qu’il faille y faire très attention (comme à des tas d’autres choses d’ailleurs), je pense que l’IA suscite bien plus de phantasmes que de saines réflexions.
Et aussi bien chez ceux qui en espèrent des miracles, que chez ceux qui y voient 1984, le Meilleur de mondes ou Terminator. ( à suivre )
Si aujourd’hui Ordi est capable de battre aussi bien le champion de go que celui d’échecs, je doute qu’il soit capable de renverser la table en déclarant :
– « Ras le bol de ton jeu à la con, c’est bon t’as gagné, le Champion c’est Toi ! »
Pareil bien sûr avec ChatGPT, programmé pour obéir gentiment, poliment, et non pas pour envoyer chier le couillon qui lui pose des questions à la con. C’est peut-être juste cette faculté, qu’il faudrait pouvoir rajouter à cette dite intelligence artificielle. 🙂