Robert Francis Prevost devenu pape s’est placé dans les pas de son prédécesseur Léon XIII, dont l’encyclique, Rerum novarum, de 1891 marqua l’entrée de l’Eglise catholique dans l’arène sociale. Le choix par Léon XIV de la date anniversaire de Rerum novarum, le 25 mai, pour signer Magnifica humanitas (« Magnifique humanité »), est lourd de sens. Consacrée à l’intelligence artificielle (IA), c’est sa première encyclique : les « algorithmes opaques » contrôlés par des firmes privées menacent de faire apparaître de « nouvelles formes de déshumanisation ».
Mais l’encyclique « Magnifica humanitas » est aussi une critique de la guerre automatisée et de la doctrine de la « guerre juste ». En résumé :
IA, paix et humanité, le retentissant avertissement du pape
éditorial du MONDE : « Désarmer » l’IA ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain. Cela passe moins par des choix techniques que par la soumission de l’utilisation des données à « un contrôle public » et l’affirmation du « rôle irremplaçable de la personne ». Léon XIV prend également position dans un domaine où l’intelligence artificielle fait peser un autre risque de déshumanisation, celui de la guerre. La présence à Rome, à la conférence de presse de lancement de l’encyclique, de l’un des fondateurs de la firme californienne Anthropic, qui s’est heurté au Pentagone du fait de son refus d’utiliser l’IA pour rendre les armes autonomes, le confirme : le pape américano-péruvien est déterminé à rappeler au monde ses obligations morales, même en désavouant l’administration Trump.
Face au vice-président, J. D. Vance, converti récemment au catholicisme, Léon XIV réaffirme « le dépassement de la théorie de la “guerre juste” ». C’est parce que le monde s’engage dans une spirale mortifère banalisant une « culture violente de la puissance » que l’intelligence artificielle doit, selon le pape, faire l’objet de ce qu’exècre le plus la Maison Blanche, une régulation internationale. Qu’il faille une autorité religieuse pour rappeler avec force des principes humanitaires, qui devraient être défendus par tous les régimes démocratiques, n’a rien de rassurant.
Le pape Léon XIV appelle à « désarmer l’intelligence artificielle », il n’y a pas de guerre juste
Sarah Bellouezzane : Adressé à tous, sans mention d’aucun pays, le message du pape regrette la « construction d’un monde en état de guerre permanente ». Pour sa conférence de presse, le Vatican a convié Christopher Olah, cofondateur d’Anthropic, l’entreprise à l’origine du logiciel Claude. La start-up s’était illustrée en février par sa volonté de brider les armes tournant sur son modèle, les empêchant de tuer sans intervention humaine. Une restriction qui avait provoqué l’ire du président américain, Donald Trump, et enclenché une bataille judiciaire entre l’entreprise et l’administration américaine. Cette position a su séduire le Vatican, qui, en invitant Anthropic, lui appose l’étiquette d’entreprise responsable.
La question des armes gérées par IA est l’une des nombreuses préoccupations, morales, économiques, sociales et religieuses, que le pape soulève. Il faut « soustraire l’IA à la logique de la compétition armée, qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive », et empêcher « la technologie de dominer l’humain » affirme le pape.
Aux Américains, en particulier au vice-président catholique J. D. Vance, qui a invoqué le concept de « guerre juste » pour justifier l’attaque en Iran, le pape déclare : « Aujourd’hui, plus que jamais, il est important de réaffirmer le dépassement de la théorie de la “guerre juste” trop souvent invoquée pour justifier n’importe quelle guerre, sous réserve du droit à la légitime défense dans son sens le plus strict. » Reliant ce contexte à l’utilisation de l’IA, le pape estime qu’il « n’est pas acceptable de confier à des systèmes artificiels des décisions mortelles » : « La décision de recourir à la force létale (…) doit rester sous un contrôle humain effectif, conscient et responsable. Enfin, il est nécessaire d’établir des règles communes, y compris au niveau international, qui freinent la course aux armements technologiques et assurent une protection particulière aux civils comme aux infrastructures essentielles à leur survie. »
Ces dernières semaines, Léon XIV n’avait pas été avare de critiques contre la politique belliqueuse des Etats-Unis et la guerre qu’ils ont déclenchée, avec Israël, contre l’Iran, en février. Des appels à la paix et une condamnation de la justification religieuse des conflits qui ont poussé Donald Trump à s’en prendre au pape sur son réseau, Truth Social, le qualifiant de « faible sur le crime ». En réponse, Léon XIV avait déclaré, début avril, dans l’avion qui le menait en Afrique : « Je n’ai peur ni de l’administration Trump ni de dire le message de l’Evangile. »
Léon XIV ne se borne pas à dire qu’un autre monde est possible, il nous invite à bâtir cet autre monde
Alberto Melloni : C’est un refus clair de la théorie de la « guerre juste » (paragraphe 192) qui coexiste avec l’idée que la « force létale » doit rester sous le contrôle de l’humain, et ne pas être confiée à un agent moral artificiel (paragraphe 200). Alors qu’aucune encyclique contemporaine ne prend pour point de départ un acte du pape précédent, Magnifica humanitas développe ainsi plusieurs aspects du message délivré par le pape François lors de la Journée internationale de la paix de 2024. A cela se mêlent des réflexions sur l’IA, réflexions que le pape sait provisoires, compte tenu de l’oubli rapide qui accompagne les encycliques pontificales – notamment la condamnation de la possession des armes atomiques dans l’encyclique Fratelli tutti du pape François (2020).
Léon XIV n’invoque pas les sentiments, mais la pensée. Une pensée exigeant pour demain un engagement qui n’existe pas aujourd’hui. C’est en soi un programme.
Nos démocraties réagissent davantage qu’elles n’agissent. Elles courent derrière les événements. Elles gèrent des urgences successives. Elles peinent à inscrire leurs décisions dans le temps long. La politique semble parfois condamnée à commenter les transformations du monde plutôt qu’à les orienter. Derrière les débats technologiques sur l’IA, Léon XIV s’inquiète d’un monde où le rapport de force tend à devenir l’argument ultime, où la puissance est de plus en plus souvent présentée comme une vertu en soi. Là où prospère la logique du « moi d’abord », Léon XIV rappelle inlassablement que les sociétés humaines sont interdépendantes. Là où certains célèbrent le rapport de force, il réhabilite le droit. Là où l’on cherche des adversaires à désigner, il oppose la concorde comme horizon politique.
Je vous rappelle ma parole selon les Évangiles : « Remets ton épée à sa place… car tous ceux qui prennent l’épée périront par l’épée » [Mt 26,52].
Au début de l’histoire du christianisme, alors que l’Église était minoritaire et persécutée, aucun théologien ne s’aventurait à justifier la violence. Mais quand l’Église est devenue officielle et installée, la théologie de la « guerre juste » s’est développée à partir du Ve siècle. Or, dans l’histoire politico-religieuse de l’humanité, une telle guerre n’a jamais vraiment existé : il s’agissait plutôt de trouver des arguments sacrés pour défendre des guerres nationalistes ; l’Église, perdant sa vocation prophétique et universaliste, bénissait les guerres de son pays, de son royaume ou de son empire. C’est par exemple le « Gott mit uns » des Allemands pendant la Première Guerre mondiale. J’ai été trahi !
N’en déplaise à trous ceux qui pensent que le boulot d’un pape est de s’occuper de nos âmes, et point barre, Léon a raison de dénoncer tout ça.
– « Léon XIV n’invoque pas les sentiments, mais la pensée. Une pensée exigeant pour demain un engagement qui n’existe pas aujourd’hui. C’est en soi un programme. »
Il appelle à « soustraire l’IA à la logique de la compétition armée, qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive », à « désarmer l’intelligence artificielle », à « désarmer les mots » etc.
Autrement dit il appelle à la décolonisation des imaginaires. Oui, c’est tout un programme ! Et si Léon était candidat l’an prochain… promis juré craché je voterais pour lui.
Que ce soit pour concevoir des armes dites intelligentes, ou pour prendre des décisions (stratégies), l’utilisation de l’IA dans le domaine de la Guerre est une folie encore pire que la Bombe Atomique. Le comble c’est que nous avons maintenant les deux. De plus en plus de gens qui ont travaillé dans ce domaine (qui savent donc de quoi ils parlent) nous préviennent des risques énormes de ce genre d’applications. Vu la vitesse où les choses avancent, certains nous donnent trois ans maximum avant une grosse catastrophe.
Léon appelle donc à « établir des règles communes, y compris au niveau international, qui freinent la course aux armements technologiques et assurent une protection particulière aux civils comme aux infrastructures essentielles à leur survie. »
Sauf qu’avec un tel état d’esprit généralisé, mondialisé… je ne vois pas comment ce serait possible. Il suffit seulement de voir les «avancées» sur la non prolifération des armes nucléaires. Il ne nous reste donc plus qu’à croiser les doigts. Ou alors prier…
Je n’ai toujours pas compris ce que vous entendiez par décoloniser les imaginaires, malgré la millième occurrence de cette expression dans vos propos.
Pour être franc je ne vois pas la différence entre les décoloniser et les recoloniser par les idéologies qui vous sont sympathiques.
Personnellement, je milite en faveur des idées que je crois être justes et en ce sens je suis un colonisateur d’imaginaires, mais je l’assume, ça s’appelle avoir cœur à convaincre.
Monsieur Barthès, je trouve quand même dommage, pour ne pas dire grave, que vous en soyez toujours là. Je me demande donc si vous avez lu ce bouquin :
– Décoloniser les imaginaires – La Pensée créative contre l’économie de l’absurde (Serge Latouche 2005)
Pensez aussi à Deleuze et Derrida. La déconstruction.
Pensez aux Dé, dont Biosphère nous parle souvent.
Vous dites avoir un cœur à convaincre… alors que moi je ne cherche absolument pas à convaincre qui que ce soit. Et surtout pas persuader, entourlouper, endormir, endoctriner etc. Je laisse ça aux politicards et aux marchands (de salades). Une question de mots, de définitions, probablement. Très importants les mots ! Pour moi une conviction est une affaire strictement personnelle, je l’ai expliqué mille fois.