Written by 1. Le défi de la tour de Babel
L’encyclique Magnifica Humanitas, publiée le 15 mai dernier par le pape américain Robert Prevost, alias Léon XIV, est un texte de 245 pages divisé en cinq chapitres, auxquels s’ajoutent une introduction et une conclusion1. Il s’agit d’un texte très vaste et complexe qui s’inscrit explicitement dans le sillage de la Rerum Novarum du pape Léon XIII et vise à approfondir les thèmes de la doctrine sociale de l’Église, en projetant cette doctrine vers l’avenir et en l’actualisant à partir du défi posé aujourd’hui à l’humanité par l’intelligence artificielle, le paradigme technocratique et les idéologies du transhumanisme et du posthumanisme. La table des matières des cinq chapitres qui structurent le texte de cette encyclique fournit d’ailleurs une carte essentielle du vaste territoire exploré par un pape qui semble vouloir recueillir et chérir, à travers un juste équilibre entre l’exigence de continuité et celle d’innovation, le double héritage de ses prédécesseurs immédiats : l’héritage théologique du pape Ratzinger et l’héritage pastoral du pape Bergoglio : Introduction ; chapitre 1 : Une pensée dynamique fidèle à l’Évangile ; chapitre 2 : Fondements et principes de la doctrine sociale de l’Église ; chapitre 3 : Technique et domination – La grandeur de la personne humaine face aux promesses de l’IA ; chapitre 4 : Préserver l’humain dans la transformation – Vérité, travail, liberté ; 5) La culture de la puissance et la civilisation de l’amour ; Conclusion.
Comme il n’est pas possible de résumer le contenu du document pontifical sans risquer de sacrifier l’unité logique de la synthèse à laquelle l’auteur a constamment tendu, il convient au moins de réaffirmer, en les tirant de l’index analytique des paragraphes, les principes clés de la doctrine sociale de l’Église, tels qu’ils ont été énoncés par Léon XIV : l’être humain à l’image du Dieu trinitaire ; l’égale dignité de tous les êtres humains ; la très haute valeur des droits de l’homme ; les principes de la doctrine sociale ; le principe du bien commun ; le principe de la destination universelle des biens ; le principe de subsidiarité ; le principe de solidarité ; le principe de justice sociale ; le développement humain intégral.
L’« incipit » de la Magnifica Humanitas énonce d’emblée, dès le premier paragraphe, une alternative sans équivoque : «La magnifique humanité créée par Dieu se trouve aujourd’hui face à un choix décisif : ériger une nouvelle tour de Babel ou bâtir la cité où Dieu et l’humanité habitent ensemble. Chaque génération reçoit en héritage la tâche de façonner son époque : de faire mûrir l’histoire en un lieu où la dignité de chaque personne est préservée, la justice promue et la fraternité rendue possible. Mais sur chaque époque pèse le risque de construire un monde inhumain et plus injuste.» Et déjà ici, les deux métaphores tirées du texte biblique (la tour de Babel et la reconstruction de Jérusalem2) mettent en évidence la racine théologique de la formation d’un pape issu de l’Ordre augustinien, où il a également occupé le poste de supérieur général. Essayons donc de suivre, parmi les différentes pistes qui s’entrecroisent dans le texte de Léon, celle qui en représente la plus grande nouveauté, à savoir l’analyse de l’intelligence artificielle et l’argumentation développée à propos de sa régulation juridico-institutionnelle par un État capable d’intervenir (non pas en aval de l’initiative des puissants acteurs privés qui détiennent les clés de l’IA, mais) en amont, en fixant des règles et des normes permettant de contrôler et, à la limite, d’empêcher l’utilisation de cette technologie à des fins de profit et de pouvoir.
2. Qu’est-ce que l’intelligence artificielle : deux réponses convergentes
Pour Léon XIV, il n’est pas possible de formuler une définition univoque et complète de l’IA : elle désigne (cf. paragraphe 99) des systèmes capables d’imiter certaines fonctions de l’intelligence humaine par le traitement des données, sans toutefois posséder d’expérience, de corps, de conscience morale, de compréhension authentique ou de croissance intérieure : «Il n’est pas possible de donner une définition univoque et complète de l’IA», dont les systèmes «imitent certaines fonctions de l’intelligence humaine», même si leur puissance «reste liée exclusivement au traitement des données», «ne vivent pas d’expérience», «ne possèdent pas de corps», «n’ont pas non plus de conscience morale» et «ne comprennent pas ce qu’ils produisent».
L’IA est certes considérée comme un outil technique, bien qu’elle ne doive pas être pensée comme « simplement un outil » neutre et isolé. Dans le cadre d’un commentaire sur le texte de l’encyclique, on pourrait résumer le débat sur la nature de l’IA par le dilemme suivant : l’IA est un outil (et ceux qui affirment le contraire se trompent), mais ce n’est pas seulement un outil (et ceux qui affirment le contraire se trompent). Pour sa part, le pape Prevost met en avant deux aspects : l’IA reste un outil, c’est-à-dire un dispositif technique, car elle fonctionne à l’aide de données et de calculs, mais elle n’est ni un sujet personnel ni une véritable intelligence comparable à celle de l’être humain. Cependant, bien qu’elle soit un outil, l’IA devient un élément d’un environnement socio-technique plus large, car elle s’immisce dans les infrastructures numériques, les processus décisionnels, l’imaginaire collectif et les relations sociales.
Suivant ce raisonnement, au paragraphe 4, Léon XIV souligne que la numérisation, l’IA et la robotique transforment le monde et ont un impact profond sur la vie quotidienne, les processus décisionnels et l’imaginaire collectif. De plus, au paragraphe 96, en traitant du pouvoir des «infrastructures numériques et des algorithmes», il revendique le droit/devoir de vérifier si celles-ci favorisent la participation, la responsabilité, la protection des personnes vulnérables et le bien commun. Et au paragraphe 9, la technologie est décrite, à la lumière d’un réalisme dialectique surprenant, comme quelque chose qui peut «soigner, connecter, éduquer, prendre soin de la Maison commune», mais aussi «diviser, rejeter, générer de nouvelles injustices», le pape soulignant avec force que la technologie n’est jamais neutre, car «elle prend le visage de ceux qui la conçoivent, la financent, la réglementent, l’utilisent».
À ce stade, il est intéressant, dans la perspective d’une vision réaliste de l’IA et des similitudes que l’on peut y déceler, de comparer la manière dont le thème de l’IA est traité dans Magnifica Humanitas, donc à la lumière d’une sensibilité religieuse et sociologique, et la manière dont ce même thème est traité, à la lumière d’une approche laïque et rigoureusement scientifique, dans la « Lettre ouverte à la société » rédigée par un groupe d’universitaires du secteur informatique.
Ces derniers soulignent tout d’abord que ces dernières années, avec l’arrivée et la diffusion explosive des systèmes génératifs, les technologies informatiques communément appelées « intelligence artificielle » ont fait une entrée en force dans le débat public, au point que l’on en est venu à parler de révolution, de machines qui « pensent », de conscience artificielle, de remplacement des personnes. Les auteurs de cet important document issu de la communauté scientifique italienne observent toutefois qu’une question simple reste souvent sans réponse : que sont réellement ces systèmes, et où en sommes-nous réellement ?
La question qu’ils posent est la même que celle dont part Léon XIV dans les paragraphes de l’encyclique que nous venons d’évoquer : qu’est-ce que l’intelligence artificielle ? Et voici la réponse : l’intelligence artificielle a pour objectif de simuler la pensée humaine, tant celle fondée sur le raisonnement (déductif) que celle fondée sur les données (inductif). Dans le passé, on a surtout travaillé avec la première approche car on ne disposait ni des quantités de données ni de la puissance de calcul disponibles aujourd’hui. Une autre question s’ensuit, qui permet de préciser la nature spécifique des systèmes actuels : qu’est-ce qu’un système d’« intelligence artificielle générative » ?
Les systèmes d’intelligence artificielle générative, poursuit le document, sont des modèles mathématiques et statistiques entraînés sur d’énormes quantités de données. Leur fonctionnement, dans son essence, est simple : ils apprennent à partir des données à faire des prévisions. Ils peuvent estimer quel mot est le plus probable dans une phrase, quelle image correspond à une description ou quelle réponse est compatible avec une question. Ils fonctionnent parce qu’il existe dans les données d’entraînement des régularités que le modèle parvient à identifier à très grande échelle. Des résultats techniques impressionnants et inattendus ont été obtenus dans diverses tâches cognitives, mais ils ne sont pas synonymes de compréhension au sens humain du terme. Il devient donc de plus en plus important d’en bien connaître les limites et le potentiel.
Une autre question fondamentale se pose : les systèmes d’intelligence artificielle générative « comprennent-ils » ? Chez les êtres humains, répondent ces enseignants et chercheurs en informatique, la compréhension implique l’expérience du monde et la capacité de vérifier les informations. Les systèmes d’intelligence artificielle générative peuvent rédiger des textes convaincants, résoudre des exercices ou mener des conversations complexes. Cela ne signifie toutefois pas qu’ils comprennent ce qu’ils disent : il ne s’agit que d’un calcul de probabilité. Lorsqu’ils semblent raisonner, ils combinent des schémas appris à partir des données. Lorsqu’ils semblent savoir quelque chose, ils produisent le « résultat » statistiquement le plus cohérent avec le contexte, sans avoir d’accès direct au monde ni de mécanismes autonomes de vérification. En substance, ces systèmes fonctionnent très bien lorsque le problème est similaire à des situations déjà présentes dans les données d’entraînement et lorsqu’il existe de nombreux exemples dont ils peuvent s’inspirer, tandis qu’ils deviennent plus fragiles lorsque les informations changent rapidement, lorsque le sujet est controversé ou lorsque le thème diffère significativement des données connues. Dans ces situations, ils peuvent produire des réponses fluides, c’est-à-dire apparemment cohérentes et correctes, mais erronées. Le problème n’est pas qu’ils se trompent parfois : le problème est que ces systèmes produisent des réponses plausibles sans disposer d’un mécanisme interne pour en vérifier la véracité. Après avoir observé que le débat public évoque souvent l’« AGI » (Artificial General Intelligence), c’est-à-dire de systèmes capables de comprendre et de raisonner de manière globale et autonome comme un être humain, le document clarifie la nature ontologique de l’AGI, en soulignant que les systèmes actuels ne présentent pas ces caractéristiques, car s’il est vrai qu’ils sont très puissants pour réorganiser les informations déjà présentes dans les données, ils ne construisent pas de modèles du monde au sens où le font les êtres humains. L’augmentation des données et de la puissance de calcul améliore les performances, mais ne change pas la nature du mécanisme de base, qui reste principalement fondé sur des prévisions statistiques à grande échelle, même si les représentations internes qui émergent pendant l’entraînement peuvent être très complexes.
La conclusion est que le risque ne réside pas dans cette technologie en soi, mais dans la manière dont nous l’interprétons. Si l’on considère la fluidité linguistique comme une preuve de connaissance ou si l’on délègue le jugement sans comprendre le fonctionnement de l’outil, on risque en effet de confondre cohérence et fiabilité. De cette manière, le critère par lequel nous reconnaissons ce qu’est la connaissance peut changer, souvent sans que nous nous en rendions compte3. Et une fois encore, ce qui est commun aux deux prises de position, celle du pape et celle des universitaires, c’est la conclusion, c’est-à-dire la réponse à la question cruciale « que faire ? » : la véritable priorité est de former les gens à comprendre ces technologies, car savoir comment elles fonctionnent, quelles sont leurs limites et comment elles peuvent être utilisées de manière responsable est aujourd’hui une compétence fondamentale pour tous les citoyens. C’est pourquoi la communauté universitaire de l’informatique est invitée par les chercheurs en question à contribuer activement à un travail de clarification et de formation animé par la conscience que le fait d’expliquer avec précision ce que ces technologies sont réellement, et ce qu’elles ne sont pas, est un travail d’alphabétisation qui fait partie intégrante du travail des chercheurs et des enseignants.
3. Paradigme technocratique, transhumanisme et IA
L’encyclique, dans son troisième chapitre intitulé Technique et domination. La grandeur de la personne humaine face aux promesses de l’IA, inscrit cette dernière dans le cadre idéologique et culturel du paradigme technocratique. L’IA est l’une des technologies qui s’inscrivent dans ce cadre, tout comme le binôme « transhumanisme/posthumanisme » représente les constructions idéologiques qui étendent ce cadre jusqu’à englober l’idée de dépasser ou de transcender l’humain. Le paradigme technocratique est décrit comme la tendance à laisser «l’efficacité, le contrôle et le profit» régir de manière exclusive les choix personnels, sociaux et économiques. Lorsque la technique devient un critère, observe le pape Prevost, elle établit «ce qui compte et ce qui peut être écarté», réduisant les personnes à des rouages d’un système toujours plus performant. C’est précisément le point de départ d’un récit idéologique déviant (cf. paragraphe 92) : la technique n’est plus seulement un moyen, mais devient une mesure de la valeur, et l’IA se transforme en facteur de renforcement de cette logique. Léon XIV soutient, sur la base d’une conception manifestement spiritualiste (dont l’importance, toutefois, ne doit pas être sous-estimée en tant que prise de distance par rapport à une adhésion plate et acritique à un mythe social répandu), que le paradigme technocratique, sous l’effet de la diffusion de l’intelligence artificielle, s’est étendu jusqu’à englober également les sciences cognitives, la nanotechnologie, la robotique et la biotechnologie. Ces innovations, selon le pape, peuvent contribuer au développement humain intégral, mais elles peuvent aussi agir comme un « accélérateur du paradigme technocratique », si elles ne sont pas guidées par un cadre spirituel, éthique et politique (cf. paragraphe 93).
En conclusion, le transhumanisme et le posthumanisme sont présentés comme des récits idéologico-culturels qui interprètent le progrès comme un dépassement de l’humain. Le transhumanisme imagine que l’amélioration de l’être humain se réalise à travers les technologies, les dispositifs, les algorithmes et la biomédecine ; le posthumanisme, dans ses versions les plus radicales, envisage l’hybridation entre l’être humain, la machine et l’environnement jusqu’à un nouveau stade évolutif (cf. paragraphes 115-116). Le point critique, pour Léon XIV, n’est pas l’usage de la technique en soi. Le problème surgit, selon l’interprétation formulée par le pape, lorsque l’être humain est traité comme un matériau à perfectionner ou à dépasser. Dans ce cas, il devient plus facile de considérer certaines personnes comme « moins utiles, moins désirables, moins dignes » et de justifier des sacrifices au nom de l’optimisation ou du progrès (cf. paragraphe 117), alors que le risque est que la personne ne soit plus reconnue dans sa dignité intégrale, mais évaluée en fonction de ses performances, de son efficacité, de son contrôle et de son aptitude à être « optimisée ».
4. Une variante de l’économie sociale de marché : le capitalisme de la régulation
Le texte de l’encyclique, qui aborde toute une série de thèmes et de problèmes que nous ne pouvons ici qu’évoquer, est d’une grande richesse : l’éducation, l’école, le travail, la guerre et la paix, le changement des équilibres géopolitiques, la crise du multilatéralisme, les catégories philosophiques et morales à utiliser dans l’interprétation des événements et des valeurs (la distinction entre les différentes significations du concept de « dignité » au paragraphe 52 est, par exemple, particulièrement intéressante).
Un thème crucial mérite toutefois d’être repris en conclusion : si et comment réglementer l’IA (et les technologies en général). Et il est significatif qu’un pape américain identifie le contraste entre le modèle nord-américain, qui considère toute intervention réglementaire comme une ingérence indue dans la sphère privée et une atteinte à la liberté d’entreprise et d’innovation, et un modèle partiellement alternatif centré, au moins hypothétiquement et de manière optimiste selon l’approche postulatoire du pontife, sur la synthèse entre les valeurs de liberté et d’innovation et les valeurs démocratiques, la justice sociale et l’équité. Or, selon Léon XIV, l’IA doit certes être réglementée, mais la réglementation seule ne suffit pas. Le pape met résolument l’accent, sans craindre de paraître utopiste compte tenu de l’inversion qu’il postule du rapport de cause à effet qui s’interpose entre l’économie et la politique, sur le rôle de la politique et des gouvernements, auxquels incombe la tâche d’empêcher que l’IA ne soit régie uniquement par le marché, par les monopoles technologiques ou par des logiques de nature technocratique.
La politique doit donc orienter l’innovation vers le bien commun, la justice, la dignité humaine, la participation et la protection des plus fragiles.
Le premier objectif est explicité au paragraphe 5 : Léon XIV affirme qu’il est nécessaire d’adopter des « instruments normatifs adéquats » pour protéger la justice et contenir les effets de distorsion du pouvoir technologique. Il ajoute toutefois que la question ne se limite pas à la réglementation, car il faut également se demander qui détient le pouvoir technologique et à quelles fins il l’oriente. Dans le même paragraphe, il observe qu’aujourd’hui, les principaux moteurs de l’innovation sont représentés par des entreprises privées transnationales, plus puissantes que de nombreux gouvernements, et qu’en raison de l’opacité inhérente à son caractère privé, le pouvoir technologique est plus difficile à connaître, à gouverner et à orienter vers le bien commun.
La deuxième exigence décisive est formulée au paragraphe 106, où il est clairement affirmé qu’il ne suffit pas d’invoquer l’éthique de manière générique. Il faut «des cadres juridiques adéquats, une surveillance indépendante, l’éducation des utilisateurs, une politique qui n’abdique pas sa mission». Si la politique renonce à sa mission, le changement n’est en effet régi que par des logiques de nature technocratique et par ceux qui détiennent les données, les infrastructures et les capacités de calcul. Le paragraphe 107 précise en outre qu’il ne suffit pas de demander une IA « alignée » sur les valeurs humaines si ces valeurs sont décidées par une poignée de personnes. Il faut au contraire une politique capable de protéger les espaces de participation, de ralentir lorsque tout s’accélère et de permettre aux communautés de discuter des critères éthiques intégrés dans les systèmes.
Au paragraphe 108, il aborde la question de la réglementation : l’utilisation de l’IA, surtout lorsqu’elle concerne les biens publics et les droits fondamentaux, doit s’accompagner de critères clairs et de contrôles effectifs. De plus, la propriété des données «ne peut être confiée uniquement à des particuliers, mais doit être réglementée», car les données sont le fruit de la contribution de nombreux individus et ne peuvent être vendues ou concentrées entre les mains d’une poignée de personnes. L’orientation étatiste qui caractérise l’attitude de Léon XIV, bien que tempérée par la référence au principe de solidarité et au pluralisme associatif, constitue une nouveauté importante dans la manière dont il aborde la question de la réglementation. Cette nouveauté, que l’on pourrait qualifier en quelque sorte de rooseveltienne, ressort avec force au paragraphe 163, où le Souverain Pontife affirme qu’à l’ère de l’IA et de la robotique, on ne peut se fier à la seule «main invisible» du marché, car la politique a pour tâche d’orienter les dynamiques économico-technologiques vers le bien commun, en promouvant un travail digne, l’inclusion sociale et la répartition équitable des bénéfices de l’innovation.
En conclusion, Léon XIV met en avant le rôle de la politique et affirme et réaffirme, avec le style posé et courageux qui lui est propre (comme on l’a vu lors de l’âpre confrontation avec le président de son pays natal au sujet de la guerre contre l’Iran), un principe de véritable démocratie qui fait de lui, sur les traces de son prédécesseur, une voix discordante face au chœur belliciste et politiquement réactionnaire des représentants gouvernementaux de nombreux pays. En nous rappelant que la politique ne doit pas se limiter à courir après la technologie une fois qu’elle a été introduite ; que l’IA doit être réglementée et gouvernée démocratiquement, ainsi qu’orientée vers la dignité humaine, et donc rendue contestable et contrôlable par les chercheurs et les citoyens, qui ont le droit/devoir de participer à la définition de ses conditions, de ses limites et de ses fins :
tout cela fait de lui, outre un adversaire respectable sur le terrain des principes, un allié politique précieux sur le terrain de la lutte contre la guerre, pour une paix indissociable de la justice dans les relations internationales et de la solidarité militante avec les peuples qui s’opposent à la domination impérialiste et qui luttent pour leur libération.
Eros Barone
1 Voir sur Internet à l’adresse suivante : https://www.vatican.va/content/leo-xiv/it/encyclicals/documents/20260515-magnifica-humanitas.html.
2 Cf. Genèse, ch. 11, vv. 1-9 et Néhémie, ch. 2-6)
3 Concernant l’erreur qui consiste à identifier le critère de la vérité à celui de la cohérence, je me permets de renvoyer le lecteur à l’un de mes travaux intitulé Galileo, Roberto e la verità, disponible sur Internet à l’adresse suivante : https://www.sinistrainrete.info/libri/15876-galileo-roberto-e-la-verita.html.