À 11h30, heure de Rome, ce matin, dans la salle du Synode du Vatican, le Pape Léon XIV a officiellement lancé sa première encyclique, Magnifica Humanitas (latin pour 'Humanité Magnifique'). Partageant la scène avec lui se trouvait Christopher Olah, cofondateur et responsable de la recherche sur l'interprétabilité chez Anthropic. La dernière fois que le Vatican a fait quelque chose de semblable remonte à 1891.
Une apparition conjointe historique
L'estrade comptait six participants : trois cardinaux (Víctor Manuel Fernández, Michael Czerny, Pietro Parolin), deux théologiennes (Anna Rowlands de l'Université de Durham et Léocadie Lushombo de l'Université de Santa Clara) et Christopher Olah d'Anthropic. Le Pape lui-même a prononcé le discours d'ouverture et la bénédiction finale – ce qui brise la tradition, car les encycliques sont généralement présentées par des cardinaux sans la présence du Pape.
L'encyclique a été signée le 15 mai, exactement le 135e anniversaire de la signature de Rerum Novarum par le Pape Léon XIII, qui traitait de l'impact de la Révolution industrielle sur le travail et est considérée comme le fondement de la doctrine sociale catholique moderne. En choisissant cette date, le Pape actuel a établi un parallèle clair : l'IA au XXIe siècle est comme l'industrialisation au XIXe siècle.
America Magazine a cité Charles C. Camosy : 'Le chef de l'Église catholique et l'un des chercheurs et leaders en IA les plus importants au monde, sur la même scène, présentant le même document. Cela ne s'est jamais produit auparavant.'
Ce que dit le document
Bien que le texte complet de Magnifica Humanitas n'ait pas encore été publié, trois points clés sont ressortis des aperçus :
- L'IA ne peut pas remplacer la responsabilité morale. Le Pape a précédemment souligné que l'IA ne doit pas permettre aux humains de se soustraire à leurs responsabilités. En d'autres termes, lorsqu'une machine prend une décision, un humain doit toujours la signer.
- Les armes autonomes sont une ligne rouge. L'Église poursuit sa doctrine traditionnelle de 'guerre juste' – supprimer la 'supervision humaine significative' sur les décisions de vie ou de mort franchit une ligne rouge. Cela vise directement les drones autonomes létaux développés par les militaires du monde entier.
- L'efficacité n'est pas le seul critère. Dans des domaines comme la médecine, l'éducation et l'art, il existe des 'biens internes aux pratiques' que l'IA, si elle ne recherche que l'efficacité, évincerait. Le message du Pape : vous pouvez utiliser l'IA pour accélérer le diagnostic, mais la conversation entre le médecin et le patient ne peut pas être sautée.
Pourquoi Olah, pas Altman ?
Le Vatican a invité Christopher Olah, pas Sam Altman d'OpenAI ni Demis Hassabis de DeepMind. Olah dirige la recherche sur l'interprétabilité chez Anthropic, se concentrant sur la compréhension de ce que pensent les grands modèles, quels neurones gèrent quelles fonctions et à quoi ressemblent les signaux internes lorsqu'un modèle ment. C'est la branche la plus dure et la moins rentable commercialement de la recherche en sécurité de l'IA.
Anthropic, depuis sa création, s'est positionné comme priorisant la sécurité – un ajustement naturel avec le message de l'Église. Le Vatican a choisi Olah non pas de l'entreprise avec le plus d'argent, mais de celle dont l'approche est la plus alignée.
Contexte : En février, l'administration Trump a ciblé Anthropic pour avoir restreint l'utilisation militaire de ses modèles, ce qui a conduit Anthropic à poursuivre l'administration. L'affaire est toujours en cours. L'invitation du Vatican aujourd'hui est opportune.
Ce que cela signifie
Une encyclique est la forme la plus élevée d'enseignement papal. Elle guide les jugements éthiques de 1,4 milliard de catholiques dans le monde et influence les politiques des universités, hôpitaux et écoles catholiques.
Effets en cascade attendus :
- Les hôpitaux catholiques mondiaux réexamineront les limites éthiques des outils de diagnostic par IA.
- Les écoles gérées par l'Église émettront des directives d'utilisation de l'IA, limitant peut-être l'utilisation de ChatGPT par les élèves.
- Les fabricants d'armes feront face à plus d'opposition en Europe concernant les armes autonomes.
- Les relations publiques des entreprises d'IA citeront à plusieurs reprises la rhétorique 'human in the loop'.
Les déclarations de l'Église ne sont pas des lois, mais l'Église joue le long terme. La Rerum Novarum de 1891 a influencé les cadres politiques des partis sociaux-démocrates européens tout au long du XXe siècle – le droit du travail, l'assurance sociale, les droits syndicaux étaient tous dans son champ d'action.
On ne sait pas si Magnifica Humanitas jouera un rôle d'ancrage similaire à l'ère de l'IA. Mais en donnant une place à un chercheur d'une entreprise d'IA, l'Église a envoyé un signal : elle a l'intention de s'engager, pas seulement d'observer.
Au cours des six prochains mois, les départements de relations publiques des entreprises d'IA seront probablement occupés.
Sources : CocoLoop, Pope Leo XIV to launch his first encyclical, a document on artificial intelligence, with Anthropic's co-founder (PBS NewsHour); Pope Leo's encyclical comes just in time: AI is raising questions only religion can answer (America Magazine); Pope Leo will publish first encyclical, Magnifica Humanitas, on AI (America Magazine Vatican Dispatch)