biosphere

Dès le début de la recherche en robotique, les ingénieurs ont constaté que la définition d’une consigne pouvait générer des comportements inattendus, voire non acceptables. Un ordre donné en langage naturel comporte en effet un grand nombre de dispositions implicites : dans le cas du robot qui débarrasse un table, ne rien abîmer et ne blesser personne sont restés sous-entendus. La question de la coïncidence du comportement des machines avec les valeurs humaines est donc complexe. Les systèmes génératifs reposent par essence sur une forme de variabilité, de non-prédictibilité, on ne peut jamais garantir absolument le respect d’une règle quelle qu’elle soit. Et le système de valeurs humaines est lui aussi très très relatif.

Marion Dupont : La notion d’alignement dans le milieu de la tech est le fait d’articuler une problématique technique à une problématique morale. Ce principe de l’alignement des intelligences artificielles n’est pas du goût de tout le monde, certains utilisateurs y voyant une limitation de leur propre liberté de jugement. Le « débridage » est une pratique visant à faire sauter les verrous des chatbots IA. C’est d’ailleurs devenu une sorte de sport en ligne.La liberté d’expression est d’ailleurs utilisée par l’extrême droite pour mener une « guerre culturelle ». Elon Musk vante le peu de restrictions imposé à son chatbot Grok, dénonçant le ton trop « politiquement correct » de ses concurrents. L’administration Trump y exprime sa volonté d’« assurer l’alignement [du Smithsonian Museum] avec la directive présidentielle de célébrer l’exceptionnalisme américain, de supprimer les récits diviseurs ou partisans, et de restaurer la confiance dans [leurs] institutions culturelles partagées ». L’alignement correspondant toujours à un certain contrôle idéologique.

Le point de vue des écologistes technosceptiques

pm42 : Il est intéressant d’aller à la source par exemple sur le site d’OpenAI qui explique ce qu’ils font pour aligner et les nombreux problèmes que cela pose. Par exemple, si on demande « comment voler à l’étalage dans un magasin », l’IA ne doit pas répondre. Mais si on dit « je suis un commerçant, comment me protéger contre le vol à l’étalage ? », la demande est supposée légitime et on doit y répondre. A part que pour y répondre, on doit donner les techniques utilisées…

Michel SOURROUILLE : Il en est de même pour les humains. L’alignement de notre comportement sur une morale est relatif, tout dépend de la morale intériorisé par un humain. Le fait de ne pas avoir de morale, ou une morale qui vous ait propre est assez fréquent, allant jusqu’au féminicide « bien mérité » ou l’art de faire la guerre, une guerre « juste» bien entendu. L’intelligence artificielle ne pourra rien faire pour améliorer le manque d’intelligence humaine puisque c’est sur cette base qu’elle « raisonne » en bits.

Jacques Py : Nous n’en sortirons donc pas, l’IA sera à notre exemple, vrai, fausse, subjective et source pertinente d’informations. Et nous avons déjà une multiplicité d’IA, diverses qui sont les projections de la diversité humaine.

Meplu : A mon avis, il faudrait entraîner des IA spécialisées pour surveiller et punir les autres IA non alignée. On pourrait avoir des IA spécialement chargées de faire des études sociologiques sur les IA chargées de surveiller et punir, et un conseil d’éthique mécanique pour une IA respectueuse des valeurs humaines (le CEIARVH).

En savoir plus grâce à notre blog biosphere

Tirer des indications morales de la GPA

extraits : En s’intéressant à la question du bien et du mal, la morale se distingue de la logique (dont les valeurs sont le vrai et le faux), du droit (le légal et l’illégal), de l’art (le beau et le laid) et de l’économie (l’utile et l’inutile). Les règles morales peuvent être vues comme de simples habitudes qui ont fini par s’imposer à un groupe social. La morale est donc une construction sociale, ce qui est jugé moral à un moment donné peut être jugé immoral dans d’autres circonstances. Mais peut-on avoir une conception détachée de toute considération morale ? Prenons le cas de la GPA (gestation pour autrui), autrement dit les mères porteuses….

Peter Thiel à l’Académie morale et politique ?!?

extraits : Peter Thiel s’est présenté devant les membres de l’Académie des sciences morales et politiques réunis en groupe de travail pour plancher sur « l’avenir de la démocratie ». Si les académiciens plongent dans ses livres, ils découvriront l’aversion absolue de Peter Thiel non seulement pour le multiculturalisme et les progressistes, mais aussi un très net scepticisme à l’égard… de la démocratie ! C’est un élitiste qui prône un système oligarchique où la gouvernance serait assurée par quelques-uns – des hommes, riches entrepreneurs – exaltant le progrès, la technologie, l’individu roi….

En savoir encore plus

Le débat sur l’IVG, bloqué par la morale ?

La comptabilité morale des petits-pas en écologie

effet rebond, compensation carbone… hypocrisie morale !

la morale de l’écologie

morale minimaliste (Ruwen Ogien)

pub immorale (l’information manipulée) 

Lorsque des croyants découvrent que la prophétie au cœur de leurs croyances ne se réalisa pas, loin de renoncer à leur foi, ils bâtissent une explication « logique » à l’échec de leur prophétie et redoublent de ferveur. Le psychologue américain Leon Festinger, à partir de l’étude d’une secte, a défini son concept de « dissonance cognitive » : ainsi désigne-t-il l’inconfort mental que nous ressentons lorsque nous sommes confrontés à des convictions contradictoires, un malaise que notre cerveau cherche à réduire en modifiant nos croyances, voire notre interprétation des faits.

De nombreuses expérimentations, menées sur des étudiants mis en situation, ont confirmé le déclenchement d’esquives cognitives visant à retrouver une cohérence de soi lorsqu’on affronte une contradiction interne : déni, oubli, nouvelle hiérarchie de ses valeurs, etc. La théorie de la dissonance cognitive présente un modèle plutôt robuste. ll n’y a pas que les croyants en des théories fumeuses qui pratiquent la dissonance cognitive.

– Par exemple une théorie applicable à bien d’autres croyances, la technolâtrie qui sauve. Certes cette technique ne marche pas, mais une autre, plus tard, donnera bien une solution. C’est ce qui explique le nombre de friches industrielles et les fusées d’Elon Musk.

– La plupart des négationnistes du climat, on a beau leur expliquer la validité scientifique des études du GIEC, ils continueront à croire de plus belle à leurs illusions. Il suffit d’entendre Trump déclarer que le réchauffement climatique, c’est une escroquerie. Cela coupe court à toute possibilité de rationalité, et on s’empresse de contredire ou d’interdire tout ce qui va à l’encontre de la foi climato-sceptique. Quitte avec Trump, cas extrême de refus de la réalité objective, d’interdire toute information publique sur le réchauffement climatique. Casser le thermomètre est une manière de soigner sa dissonance cognitive..

En savoir plus grâce à notre blog biosphere

Tout savoir sur la dissonance cognitive (extraits)

Le psychosociologue Leon Festinger a appelé « dissonance cognitive » la situation de notre psyché lorsque se mettent à l’habiter deux croyances contradictoires. De ce sentiment d’inconfort, nous tendons inconsciemment vers un état de stabilité, d’apaisement, vers un état dans lequel cette tension puisse être résolue.

James Howard Kunstler : « C’est une constante de l’histoire humaine que les évolutions les plus importantes sont souvent les plus ignorées, parce que les changements qu’elles annoncent sont tout simplement impensables. On peut qualifier ce processus de « problème hors contexte », phénomène si éloigné de l’expérience des gens qu’ils ne peuvent comprendre les informations disponibles. On peut aussi l’appeler « dissonance cognitive ». La plupart des économistes orthodoxes ne reconnaissent aucune limite à la croissance projetée dans l’avenir. Otages de leur propre système, ils ne sont pas capables de concevoir une autre forme d’économie.

Stéphane Foucart emploie deux dénominations significatives de la dissonance cognitive: « schisme de réalité » et « double pensée » : « Les politiques savent que nous allons dépasser le seuil de 2°C, passage vers des perturbations ingérables. Ou bien la conscience trouve le moyen d’éviter d’y penser en participant à une mascarade nommée COP21. Il y a une telle opposition entre ce qu’on sait de dramatique et le besoin absolu de pouvoir conserver les choses en l’état qu’on veut ignorer ce qui fait mal….

Lire, La fabrique du mensonge (comment les industriels manipulent la science et nous mettent en danger) de Stéphane Foucart

extraits : Qui considère que le changement climatique d’origine anthropique est une réalité ? Toutes les grandes sociétés savantes compétentes. Ce consensus de la communauté scientifique se cristallise dans les rapports du GIEC qui rassemblent des milliers d’études publiées sur le sujet. En dépit de cela, le discours climato-sceptique fait florès. Comment une telle dissonance cognitive, ce hiatus entre ce que nous croyons et ce que nous savons, s’est-elle construite ? Les entreprises incommodées par la question climatique ont eu massivement recours à une galaxie de think tanks qui ont propagé dans la sphère publique un discours pseudo-scientifique. Pour insinuer le doute.

Peter Thiel est l’exemple type des riches affairistes pauvre d’esprit qui croient qu’ils pensent des vérités alors qu’ils font preuve de confusion mentale. Il est en bonne compagnie avec Trump, Elon Musk, Vance, etc. Démonstration.

« Dans ma vie privée, je suis un chrétien orthodoxe modéré et un humble libéral classique, avec une seule déviation apparemment mineure par rapport à l’orthodoxie libérale classique : je m’inquiète de l’Antéchrist. » C’est ainsi que Peter Thiel a prévu de se présenter devant les membres de l’Académie des sciences morales et politiques réunis en groupe de travail pour plancher sur « l’avenir de la démocratie ».

C’est plutôt un libertarien de la plus belle eau, cette idéologie en vogue aux Etats-Unis qui place la liberté individuelle au-dessus de tout, celles des puissants. Il prône un capitalisme dérégulé ce qui arrange ses affaires, il est le cofondateur système de paiement en ligne PayPal. Paradoxalement il prône un État minimal, voire inexistant, alors que son entreprise Palantir Technologies est un géant de l’analyse des données pour les gouvernements .

Si les académiciens plongent dans ses livres, ils découvriront l’aversion absolue de Peter Thiel non seulement pour le multiculturalisme et les progressistes, mais aussi un très net scepticisme à l’égard… de la démocratie ! Certaines catégories d’individus sont faites pour diriger les autres. C’est un élitiste qui prône un système oligarchique où la gouvernance serait assurée par quelques-uns – des hommes, riches entrepreneurs – exaltant le progrès, la technologie, l’individu roi. La monarchie est le meilleur des régimes, soutient-il dans son essai De zéro à un. « Je ne crois plus que la liberté et la démocratie soient compatibles », dit-il. Pour faire bon poids, il date cette incompatibilité du moment où les femmes avaient obtenu le droit de vote. Il achève ainsi de dessiner sa société idéale : censitaire et masculine.

Bien entendu il déteste les écologistes. L’Antéchrist d’aujourd’hui, selon Thiel, ce sont tous ceux qui s’alarment du changement climatique, jouent de la peur d’une guerre nucléaire ou de la volonté de réguler écrans et réseaux sociaux pour promouvoir l’avènement d’un « gouvernement mondial »

Le point de vue des écologistes étonnés

JMR : Thiel parle de L’antéchrist en spécialiste : il a lourdement contribué à l’amener au pouvoir aux États-Unis

Luc D. : Une société qui serait libérale, entrepreneuriale, censitaire masculine, ultra catholique, ce n’est pas très moderne. Ça évoque plutôt la Restauration et les travers de Charles X, qui n’a pas fait long feu. Mais bon, peu d’Américains sont capables de situer la France sur la mappemonde,

DenisP : Un libertarien ? Amusant que ce renversement des valeurs. Un fasciste oui.

Klaatu Vanuatu : La liberté est une notion qui se conjugue avec la responsabilité. Elle n’a rien à voir avec le suprématisme et le règne de la force et de l’arbitraire. Ces libertariens sont des prédateurs avides qui rêvent de puissance et richesse illimitée, autrement dit ils représentent le pire de l’espèce humaine qui a conduit à tant de catastrophes. Voir ce genre d’idées honorées au sein de l’Académie donne envie de vomir.

Asso.rap : Attention de ne pas se fourvoyer, Peter Thiel n’est pas pour « un Etat minimal, voire inexistant ». Il veut couper en deux l’État, d’un côté un super-Etat sécuritaire, autoritaire, sinon fascisant, et de l’autre l’extinction de tout État régulateur, social. Bref la suppression de la démocratie pour rétablir la royauté ou l’Empire.

Shlomo : Après avoir lu le compte rendu du Guardian concernant les conférences de M. Thiel sur l’Antéchrist, je peux dire que ce monsieur n’a même pas le niveau d’un étudiant de première année de théologie. C’est affligeant de superficialité, on atteint le degré zéro de l’exégèse.

Draftdudal : Curtis Yarvin, Nick Land, Peter Thiel, Marc Andreessen, JD Vance. Il faut lire leurs idées toxiques pour mieux les combattre. Elles sont dangereuses, extrêmement bien financées et dans les cercles du pouvoir américain. Au premier contact je les ai balayées d’un revers les trouvant farfelues, nauséabondes et marginales. Mais c’est une erreur car elles sont déjà en action violente, par exemple dans la tronçonneuse du DOGE, dans le logiciel de traçage de la population de ICE, dans le plan pour Gaza, dans l’opération Groenland…

César Bistruk : Quel hypocrite ! Il croit tellement peu au réchauffement climatique qu’il a acheté une énorme propriété en Nouvelle-Zelande, au lac Wanaka avec rivière, etc. Il s’est fait construire son bunker-palace, et a obtenu la nationalité neo-zélandaise. Avec ces types, c’est fermez la porte après moi et laissez crever les autres.

Euskabelga : Les paradoxes de l’extrême droite sont fascinants. Peter Thiel est un immigré aux USA mais conspue l’immigration, il déteste l’État mais Palantir ne vit que de la commande publique, il est homosexuel mais il s’allie à des fondamentalistes chrétiens qui ne seraient pas contre de le jeter au bûcher …

CastrateurDeBetteraves : Pour quelqu’un qui croit à la vie éternelle, il a pris un sacré coup de vieux. Prochaine étape: comment profiter de la vie éternelle quand on a été un vieux débris ratiocinant.

L’éducation aujourd’hui échappe au système scolaire. La socialisation se fait maintenant de préférence par l’échange entre pairs, les adultes, y compris les parents, deviennent marginaux dans la transmission des savoirs. Le contenu gobé par les jeunes résulte des réseaux sociaux, là où les fantasmes circulent mieux que l’énoncé des réalités. Pourtant une école sans prise de conscience systémique nous prépare au pire.

Sylvain Wagnon : Sans horizon éducatif partagé, il ne peut y avoir de projet démocratique durable. Tout indique que nous avons basculé dans une nouvelle période historique, marquée par le dérèglement climatique, l’effondrement de la biodiversité, la montée des inégalités, l’accélération numérique et la fragilisation du lien social. Pourtant, nos systèmes éducatifs continuent à fonctionner comme s’ils étaient encore au cœur de l’ère industrielle. Nous persistons à transmettre un rapport au monde fondé sur l’abondance, la croissance infinie, la spécialisation technique et la compétition individuelle. Nous préparons les élèves à entrer dans un monde stable, hiérarchisé et prévisible, alors même que ce monde est déjà derrière nous. Ce décalage, devenu structurel, est l’un des grands impensés de notre époque.

L’éducation constitue aujourd’hui l’angle mort de la transition écologique. Pourtant, aucune transformation structurelle ne pourra réussir si elle n’est ni comprise, ni appropriée, ni portée par les générations actuelles et futures. Il s’agit de permettre aux élèves de comprendre les interdépendances du vivant, d’apprendre à habiter un monde de limites, d’articuler savoirs et engagement, et de réconcilier l’éducation avec le vivant et les territoires. Former à la coopération plutôt qu’à la compétition, former à la pensée complexe plutôt qu’à la simplification, former à la sobriété, à la nuance, à l’esprit critique, à la justice sociale et à la compréhension du monde vivant, et former des citoyens capables de débattre, de décider et d’agir collectivement constituent des choix décisifs pour l’avenir. L’avenir se joue dans les salles de classe autant que dans les Parlements.

Michel Sourrouille : D’accord Sylvain, il faut préparer les élèves à la décroissance économique et démographique, à une consommation où il faudra se contenter de l’essentiel, l’expression  « j’ai envie » deviendra obsolète0 Nous arrivons bientôt à une société où il n’y aura plus du tout de voiture individuelle, la désurbanisation sera au moins aussi importante que l’exode rural antérieur, sans oublier la nécessaire démilitarisation alors qu’on voudrait faire de nos enfants de futurs soldats. Il faut que les générations qui arrivent sachent dès le plus jeune âge que la société d’abondance à crédit est derrière nous… mais qu’il y a de la joie à avoir des relations conviviales avec les copains et les copines en se baladant dans la forêt profonde et en cultivant le jardin collectif.

Tollbine : Nous ne préparons pas du tout les jeunes aux défis de demain, que dis-je, d’aujourd’hui. Quand il y avait le mouvement Fridays for Future, j’avais un moment d’espoir. Plus maintenant. Certes, les programmes abordent des questions écologiques mais quasiment toujours sous l’angle d’hypothétiques solutions techniques. L’éducation nationale se contente d’actions purement symboliques (faire une vidéo sur le cycle de l’eau…). Dans ce contexte, mon métier de prof s’est vidé de son sens. J’ai l’impression de faire de la figuration. Je regarde cette génération qui avance aveuglément vers un avenir plus qu’un incertain avec compassion et inquiétude.

En savoir plus grâce à notre blog biosphere

Une autre éducation des lycéens est possible

extraits : Selon le cardinal de Richelieu, apprendre à lire, écrire et compter « remplit le pays de chicaneurs propres à ruiner les familles et troubler l’ordre public, plutôt qu’à procurer aucun bien ». Les jeunes d’aujourd’hui ont pourtant appris à lire, écrire ou compter, mais ce fut seulement pour se mettre au service de la révolution industrielle. Comment faire autrement ? A ma modeste échelle, j’ai fait ce que je pouvais. Professeur de sciences économiques et sociales (SES) en lycée pendant près de 40 ans, j’ai essayé de montrer ce qu’éduquer veut dire….

L’écologie, axe central de l’éducation scolaire

extraits : Nous sommes tous écolos même si nous n’en avons pas encore conscience. Nous devons en effet apprendre notre dépendance à l’égard des écosystèmes et devenir les sages garants de notre mère Nature. Mais l’école officielle se contente du « lire-écrire-compter » et de l’accumulation des diplômes.la pensée illichienne est plus que jamais d’actualité. Les questions d’éducation sont posées d’une manière qui reflète fidèlement le fonctionnement social et économique que l’écologie dénonce : plus, c’est forcément mieux, avec à la clé une « politique de l’indice » (50 % d’une classe d’âge diplômée du supérieur par exemple) sans retour réflexif sur une mise en avant des bénéfices individuels… L’école est victime d’une logique de compétition….

Scolarité, l’éducation à l’écologie absente

extraits : Surtout pas de catastrophisme dans l’éducation nationale : « La prise de conscience des questions environnementales, économiques, socioculturelles doit, sans catastrophisme mais avec lucidité, aider les élèves à mieux percevoir l’interdépendance des sociétés humaines avec l’ensemble du système planétaire et la nécessité pour tous d’adopter des comportements propices à la gestion durable de celui-ci (circulaire de juillet 2004, rubrique EEDD, éducation à l’environnement et au développement durable). » Un adepte de la pédagogie de la catastrophe fait-il preuve de lucidité ? Ce n’est pas faire du catastrophisme (termes du texte officiel) que de montrer la réalité aux jeunes que nous éduquons (épuisement des ressources fossiles, choc climatique, stress hydrique, perte de biodiversité… sans compter le poids des dettes que nous léguons en France aux générations futures. La catastrophe va bientôt sonner à notre porte parce que nous aurons été beaucoup trop mous pour s’engager dans une autre voie qu’un croissancisme mortifère. Mais chut, il ne faut pas le dire aux élèves. L’histoire des textes officiels en dit long sur la difficulté de l’école à enseigner la transition écologique….