Même si on est athée, la condamnation par le pape Léon XIV de l’omniprésence des risques de « l’intelligence artificielle » mérite d’être connu de tous et toutes, d’autant plus que cela s’adresse aussi à plus de 1,3 milliard de baptisés catholiques.
Dommage que les catholiques ne soient pas des militants qui mettent en œuvre ce que dit le pape… On l’a déjà vu pour l’encyclique du pape François sur le climat, les catholiques prennent encore leur voiture thermique et même l’avion !
Résumé de l’encyclique Magnifica Humanitas quant à l’intelligence artificielle
43. Avec Laudato si’, François propose la première grande analyse systématique de la crise environnementale dans une Encyclique sociale, en montrant qu’il ne s’agit pas d’une question sectorielle, mais de l’aspect écologique de la crise socio-économique contemporaine. Dans cette optique, reviennent au premier plan la destination universelle des biens, la critique d’un paradigme technocratique prétendant tout réduire à un objet de domination.
67. Dans un contexte où la richesse des nations dépend de plus en plus des connaissances et des technologies, quand ces biens restent concentrés entre les mains de quelques-uns, il se crée un déséquilibre contredisant la destination universelle des biens et alimentant le fossé entre les inclus et les exclus.
76. Tout comme l’environnement naturel, l’“écosystème numérique” peut être préservé ou exploité, partagé ou monopolisé. La solidarité exige que les choix en matière de données, d’algorithmes, de plateformes et d’intelligence artificielle tiennent compte non seulement de l’avantage immédiat de certains, mais aussi de l’impact sur l’ensemble des peuples comme sur les générations à venir.
85. Les innovations technologiques – notamment l’intelligence artificielle – ne sont pas neutres : elles peuvent favoriser la participation et la justice, ou bien aggraver les inégalités, le contrôle et l’exclusion. C’est pourquoi elles doivent être évaluées à l’aune d’une question décisive : contribuent-elles réellement à faire grandir les personnes et les peuples en humanité et en fraternité, dans le respect de la Maison commune et des générations futures ?
LE PARADIGME TECHNOCRATIQUE ET LE POUVOIR NUMÉRIQUE
92. Dans l’Encyclique Laudato si’, le Pape François dénonçait l’affirmation croissante d’un paradigme technocratique dans le monde globalisé : la tendance à laisser la logique de l’efficacité, du contrôle et du profit régir à elle seule les choix personnels, sociaux et économiques. La technique n’est pas un simple instrument, elle finit par déterminer ce qui compte et ce qui peut être écarté, réduisant la création à un objet d’exploitation et les personnes à des rouages d’un système qu’il faut rendre toujours plus performant.
93. Les innovations peuvent devenir une aide précieuse pour le développement humain intégral et pour la sauvegarde de notre Maison commune. Mais en raison de leur puissance, elles peuvent agir comme un accélérateur du paradigme technocratique et nécessitent un nouveau cadre spirituel, éthique et politique. Plus puissant ne signifie pas nécessairement meilleur. En ce sens, les paroles de Romano Guardini restent d’actualité : « L’homme moderne n’a pas reçu l’éducation nécessaire pour faire un bon usage de son pouvoir ».
95. Dans le contexte numérique, le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n’appartient pas aux États, mais à de grands acteurs économiques et technologiques qui, dans les faits, fixent les conditions d’accès, les règles de visibilité et les possibilités de participation. Lorsqu’un pouvoir d’une telle ampleur se concentre entre quelques mains, il tend à devenir opaque et à échapper au contrôle public, et augmente le risque d’un développement faussé qui engendre de nouvelles dépendances, des exclusions, des manipulations et des inégalités.
L’INTELLIGENCE ARTIFICIELLE
97. Je me limiterai à rappeler quelques éléments essentiels pour un discernement moral et social qui préserve le primat de la personne, afin que ce soit toujours l’intelligence humaine, avec sa conscience et sa liberté, qui guide les innovations techniques et en établisse avec responsabilité l’usage et les limites.
98. Il convient de formuler deux remarques préliminaires : la première est que toute affirmation concernant l’IA risque de devenir rapidement obsolète, compte tenu de la vitesse impressionnante à laquelle ces systèmes évoluent. La seconde est que nous tous, y compris ceux qui les conçoivent, en savons peu sur leur fonctionnement réel. Les intelligences artificielles modernes sont en effet davantage “cultivées ” que “construites” : les développeurs n’en conçoivent pas directement chaque détail, mais créent une architecture sur laquelle l’IA “se développe”. En conséquence, des aspects scientifiques fondamentaux – tels que les représentations internes et les processus computationnels de ces systèmes – restent pour l’instant inconnus.
99. Il n’est pas possible de donner une définition univoque et complète de l’IA. Ce que nous pouvons affirmer, c’est qu’il faut éviter l’erreur consistant à assimiler cette intelligence à l’intelligence humaine. Ces systèmes imitent certaines fonctions de l’intelligence humaine. Ce faisant, ils la surpassent souvent en termes de vitesse et d’ampleur de calcul, offrant des avantages concrets dans de nombreux domaines. Et pourtant, cette puissance reste exclusivement liée au traitement des données : les prétendues intelligences artificielles ne vivent pas d’expérience, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. Même lorsque ces outils sont présentés comme capables d’“apprendre”, leur manière de le faire diffère de celle de l’être humain. Il ne s’agit pas de l’expérience de celui qui se laisse façonner par la vie et grandit au fil du temps à travers ses choix, ses erreurs, le pardon et la fidélité ; il s’agit plutôt d’une adaptation statistique à partir de données.
100. La rapidité et la simplicité avec lesquelles il est possible d’obtenir des indications, des élaborations complexes, des contenus médiatiques et des formes d’assistance concrète simplifient nos vies, mais peuvent aussi nous habituer à trop déléguer et à rechercher des réponses immédiates, affaiblissant notre jugement personnel et notre créativité. L’imitation artificielle d’une communication humaine positive – paroles de conseil, d’empathie, d’amitié, d’amour – peut s’avérer gratifiante et même utile, mais chez des utilisateurs peu avertis, elle peut induire en erreur et donner l’illusion d’être en relation avec un sujet personnel authentique. Le risque n’est alors pas tant qu’une personne croie parler à une autre personne, mais qu’elle perde le désir même de rechercher véritablement l’autre.
101. Une adoption rapide et sans discernement nous expose à divers risques, notamment celui de sous-estimer son impact environnemental. Les systèmes d’IA actuels nécessitent de grandes quantités d’énergie et d’eau, ils ont un impact significatif sur les émissions de dioxyde de carbone et consomment des ressources de manière intensive. Avec l’augmentation de la complexité, notamment dans les grands modèles linguistiques, les besoins en puissance de calcul et en capacité de stockage augmentent également, s’appuyant sur un ensemble de machines, de câbles, de centres de données et d’infrastructures énergivores. C’est pourquoi il est essentiel de développer des solutions technologiques plus durables afin de réduire l’impact sur l’environnement et de prendre soin de notre Maison commune.
102. L’utilisation de l’IA n’est jamais un fait purement technique. Il peut y avoir des utilisations manifestement inhumaines, comme la manipulation de l’information ou la violation de la vie privée, mais il peut aussi y avoir un danger moins évident, lorsque les systèmes d’IA, se présentant comme neutres et objectifs, reflètent et renforcent les stéréotypes ou les positions idéologiques de ceux qui les ont conçus et formés.
103. Confier, dans les faits, à un algorithme le pouvoir de sélectionner qui mérite et qui ne mérite pas sans que personne n’assume plus le poids de cette décision, revient à lui confier la tâche de redéfinir les limites des possibilités humaines.
104. Il en découle une conséquence simple mais incontournable : nous ne pouvons pas considérer l’IA comme moralement neutre. En réalité, tout dispositif technique implique des choix et des priorités : ce qu’il mesure, ce qu’il ignore, ce qu’il optimise, et la manière dont il classe les personnes et les situations.
106. Appeler à la prudence, à des contrôles rigoureux et parfois même à un ralentissement dans l’adoption de l’IA ne signifie pas être contre le progrès, mais faire preuve d’une attention responsable envers la famille humaine.
107. Nous ne pouvons pas nous contenter d’invoquer la moralisation de la machine, ce qu’on appelle “l’alignement” de l’IA sur les valeurs humaines, sans avoir le courage de poser une condition supplémentaire : la possibilité de débattre du code éthique à utiliser, en le soumettant à des critères de justice sociale partagés.
108. En effet, comme c’est le cas pour toute grande avancée technologique, l’IA tend surtout à renforcer le pouvoir de ceux qui disposent déjà de ressources économiques, de compétences et de l’accès aux données. La propriété des données ne peut être confiée uniquement à des acteurs privés, mais doit être réglementée. Elles sont le fruit de la contribution de nombreux acteurs et ne peuvent être vendues ou confiées à quelques-uns. Une créativité capable de les gérer comme un bien commun ou collectif est nécessaire,
110. Je voudrais enfin employer un mot qui me tient à cœur : “désarmer”. Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive. C’est la course à l’algorithme le plus performant et à la banque de données la plus vaste dans le but de consolider un avantage géopolitique ou commercial sur tous les autres. Désarmer, c’est rompre cette équivalence entre la puissance technique et le droit de gouverner. Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain. Cela signifie la soustraire aux monopoles, la rendre discutable, contestable, et donc habitable, en la restituant à la pluralité des cultures humaines et des formes de vie.
La limite, le cœur, la grandeur de l’être humain
118. Notre rapport à la vie semble aujourd’hui en crise. Tout ce qui apparaît comme une “limite” – incapacité, maladie, vieillesse, souffrance, vulnérabilité – tend à être perçu avant tout comme un défaut à corriger, plutôt qu’un espace où l’humain mûrit et s’ouvre à la relation. Or, nous devons nous rappeler que l’humain ne s’épanouit pas malgré la limite, mais souvent à travers la limite.
127. L’expression “plus qu’humain” n’appartient pas seulement au langage des promesses techniques. Depuis des siècles, la tradition chrétienne affirme que l’être humain n’est pas enfermé dans les limites de sa propre nature, mais qu’il est appelé à se transcender : non pas pour fuir la réalité ou par mépris des limites, mais pour s’épanouir dans l’amour.
129. L’humanisme chrétien ne rejette pas la science et la technique, mais les inscrit “les pieds sur terre” dans une vocation plus élevée. En fin de compte, la question décisive reste celle posée par saint Jean-Paul II : l’IA rend-elle « la vie humaine sur la terre “plus humaine” à tout point de vue ? La rend [-elle] plus “digne de l’homme” ? ». Si la réponse est oui, alors nous pouvons y reconnaître une opportunité sur le modèle de la renaissance de Jérusalem racontée dans le livre de Néhémie. Si, au contraire, la puissance grandit tandis que le cœur s’assèche et que les liens se rompent, alors nous sommes face à une nouvelle forme de Babel : une construction grandiose, mais inhumaine.
132. Les plateformes numériques et les systèmes d’IA pourraient favoriser le débat et la participation, ils sont souvent utilisés pour construire des récits déformés et brouiller les frontières entre le vrai et le faux, en mélangeant données et opinions. La désinformation n’est pas née avec l’IA, mais elle trouve aujourd’hui en elle un puissant multiplicateur. La possibilité de manipuler des contenus, des images et des vidéos expose les citoyens à des perspectives partielles ou trompeuses. Seule la recherche partagée de la vérité des faits, considérée comme un bien commun, peut fonder une communication juste.
134. La recherche de la vérité est un élément essentiel de la démocratie, qui est elle-même un instrument de participation au bien commun.
136. Ceux qui contrôlent les plateformes numériques et les moyens de communication ont une capacité remarquable pour influencer l’imaginaire collectif et présenter comme désirable une certaine vision de la réalité. C’est un pouvoir qui doit être constamment éclairé par la recherche de la vérité et le respect de la dignité humaine, afin que la culture qui se développe sur internet ne devienne pas un instrument de distraction excessive, d’uniformisation et de domination, mais un espace où puissent s’épanouir la liberté intérieure et la pensée critique.
37. La vérité est un bien commun, et non la propriété de ceux qui détiennent le pouvoir ou la visibilité. Il faut donc promouvoir une écologie de la communication : établir des normes qui rendent plus transparentes les logiques selon lesquelles les contenus sont sélectionnés et amplifiés, journalisme sérieux et des lieux de débat où comptent davantage l’argumentation et la vérification que la réaction immédiate ; du côté de l’école, la croissance du besoin d’une nouvelle conscience éducative et la formation à l’utilisation correcte et critique des outils numériques, de l’IA pour former à la fois à la capacité de relier et de fusionner les connaissances, à appréhender la complexité, ainsi qu’aux techniques de vérification des faits.
139. À une époque où la vérité est souvent soumise aux intérêts et aux stratégies de communication, le monde de l’éducation revêt une importance cruciale. Mais l’omniprésence des médias numériques engendre une culture de l’immédiateté et de l’hyperstimulation, qui alimente la fatigue et l’apathie face à l’effort nécessaire pour rechercher la vérité.
140. Au contraire, les processus éducatifs ont besoin de temps de croissance, d’une confrontation avec la réalité au-delà des apparences et d’un cheminement patient. La question est fondamentale, car toute technologie éduque ceux qui l’utilisent. Éduquer à l’utilisation de l’IA implique donc d’éduquer à décider quand et pourquoi ne pas l’utiliser.
Texte intégral : https://static.bayard.io/la-croix.com/cue/download/Lettre-encyclique-MAGNIFICA-HUMANITAS-du-Saint-Pere-Leon-XIV.pdf
en savoir plus grâce à notre blog biosphere
Quelques extraits de la Lettre encyclique MAGNIFICA HUMANITAS du Saint-Père LÉON XIV pour promouvoir la paix
La lettre encyclique MAGNIFICA HUMANITAS
