Léon XIV, Tolkien et l'intelligence artificielle

Il y a beaucoup de choses à dire sur le fait que Léon XIV cite Tolkien dans son encyclique en le présentant comme un « auteur catholique ». Il est maintenant bien connu que l'auteur du Seigneur des Anneaux était un catholique pieux et engagé, pour autant il est probable qu'il aurait désapprouvé ce qualificatif tant il insistait sur le fait que son oeuvre, bien que profondément travaillée par sa foi ne saurait s'y réduire. C'est pourquoi son entrée, aujourd'hui, dans le magistère de l'Eglise mérite que l'on s'y arrête.

Si on s'arrête sur la citation seulement, il y aurait sans doute beaucoup de manières de dire plus simplement exactement la même chose, sans avoir besoin de convoquer cette phrase un peu alambiquée. L'idée est très simple : lutter contre le mal passe par le fait de faire les petites choses qui sont à notre portée dans le temps et le lieu où nous sommes. On pense à la fable du colibri luttant contre l'incendie de la forêt avec ses toutes petites forces. Il n'a aucune chance d'arrêter l'incendie seul, mais si chacun fait sa part avec les moyens qu'il a à sa disposition, alors le feu reculera et sera éteint.

Le fait de convoquer Tolkien n'est donc pas un accident, ni simplement la meilleure citation qu'il avait sous la main. Il le fait pour entrer en dialogue avec le monde de l'IA, parce que Tolkien est une icône « geek » omniprésente dans la pop culture qui est celle des ingénieurs de la Silicon Valley. Il s'agit de mobiliser une référence connue, appréciée et faisant autorité chez ceux à qui le texte s'adresse. C'est une manière de construire un pont par une référence commune.

Citons, par exemple, l'entreprise Palantir, dont le nom est emprunté directement au Seigneur des Anneaux et que Peter Thiel a choisi pour sa société de surveillance et d'analyse de données. Et notons au passage l'ironie de ce choix : convoquer Tolkien face aux ingénieurs de Palantir, c'est leur retourner leur propre référence culturelle pour leur signifier qu'ils risquent de se trouver du mauvais côté de l'histoire.

Car si les palantíri, ces pierres de vision permettant de communiquer entre elles, sont à l'origine des instruments magnifiques conçus pour permettre aux hommes de bonne volonté de voir loin et de se coordonner pour le bien, Sauron les a corrompues, les rendant incapables d'accomplir leur rôle réel : au lieu d'ouvrir le regard, elles le capturent, le manipulent, et soumettent celui qui s'en sert à la volonté du Seigneur des Ténèbres. L'analogie avec l'IA concentrée entre les mains de quelques puissances s'impose d'elle-même.

C'est toute l'utilité de convoquer Tolkien dans un texte qui veut inviter à un usage vraiment humain de la technologie, au service d'un authentique développement humain. Car Tolkien est aussi très critique du paradigme technocratique que le pape dénonce. Ayant combattu dans les tranchées de la Somme et vécu la Seconde Guerre mondiale, il a vu la puissance de l'industrie humaine mise au service de la domination et de la mort.

Le personnage de Saruman, magicien déchu qui transforme les forêts du monde en usines de production d'esclaves et de soldats, représente cela. Il est décrit ainsi par Sylvebarbe, le gardien des forêts : « Il complote pour devenir une Puissance. Il a un esprit de métal et de rouages ; et il ne se soucie pas des choses qui poussent, sauf dans la mesure où elles lui servent sur le moment. » Notons que cette parole ne vient pas du héros ou du sage mais de l'arbre qui souffre, une créature ancienne et enracinée qui parle depuis sa propre vulnérabilité. Ce sont les petits, les fragiles, les enracinés qui voient le mieux ce qui se perd.

Il faut encore ajouter que Tolkien est un auteur qui aspire au réenchantement du monde. Toute son œuvre est traversée d'une forme de nostalgie d'une beauté perdue mais qui se laisse entrevoir à celui qui sait où la chercher. C'est le rôle, dans notre monde, du conte, de la poésie, de ce qu'il appelle la Fantasy. Le conte de fée est le témoignage de la densité spirituelle et esthétique du monde. Il est bien plus vrai que n'importe quelle technologie parce qu'il donne accès aux profondeurs du réel.

Bien plus, la fantasy participe de la grandeur de l'homme car la véritable création est pour lui « sub-création », c'est-à-dire imitation et prolongement de l'acte divin qui appelle le monde à l'existence. L'irruption de l'IA dans ce monde de la création menace cette capacité. L'homme expérimente sa dignité d'enfant de Dieu lorsqu'il raconte des histoires.

Cette sub-création s'éclaire d'autant mieux par son contraire. Chez Tolkien, en bonne métaphysique à la suite d'Augustin et de Boèce, le mal n'a pas d'existence propre : c'est une privation du bien, une corruption de ce qui était bon. Le mal ne crée jamais : il corrompt. Morgoth ne crée pas les Orques, il déforme les Elfes. Sauron ne forge pas une puissance nouvelle, il parasite celle des autres. Un mal toujours parasitaire : il imite, tord, réduit. Saruman qui fabrique ses armées n'ajoute rien au monde. Il y soustrait.

Si l'IA est un formidable outil dont l'encyclique reconnaît le génie, le mérite et l'utilité, elle est aussi soumise à cette puissance corruptrice. Et le mal est d'autant plus fort que ce qu'il corrompt est puissant. C'est à cette prudence que Tolkien renvoie. C'est pourquoi il est juste de terminer par cette autre citation de Gandalf, qui explique pourquoi il refuse de s'emparer de l'Anneau :

« Avec ce pouvoir, j'en aurais un trop grand et trop terrible. Et sur moi l'Anneau gagnerait un pouvoir encore plus grand et plus mortel. Ne me tentez pas ! Car je ne souhaite pas devenir semblable au Seigneur Ténébreux lui-même. Pourtant le chemin de l'Anneau vers mon cœur passe par la pitié, la pitié pour la faiblesse et le désir de la force pour faire le bien. Ne me tentez pas ! Je n'ose le prendre. »

Ce que Gandalf redoute n'est pas sa malveillance mais précisément sa bonté. C'est par désir de faire le bien qu'il deviendrait un tyran. La puissance ne corrompt pas en attisant les mauvais penchants : elle corrompt en amplifiant les bons jusqu'à l'écrasement de tout le reste. Par son éloge de la limite, c'est à cette prudence que le pape nous invite.