A las 11:30 a.m., hora de Roma, de esta mañana, en el Salón del Sínodo del Vaticano, el Papa León XIV lanzó oficialmente su primera encíclica, Magnifica Humanitas (latín para 'Humanidad Magnífica'). Compartiendo el escenario con él estaba Christopher Olah, cofundador y jefe de investigación de interpretabilidad de Anthropic. La última vez que el Vaticano hizo algo así fue en 1891.
Una aparición conjunta histórica
El estrado contó con seis asistentes: tres cardenales (Víctor Manuel Fernández, Michael Czerny, Pietro Parolin), dos teólogas (Anna Rowlands de la Universidad de Durham y Léocadie Lushombo de la Universidad de Santa Clara) y Christopher Olah de Anthropic. El propio Papa pronunció el discurso de apertura y la bendición final, lo que rompe la tradición, ya que las encíclicas suelen ser presentadas por cardenales sin la presencia del Papa.
La encíclica fue firmada el 15 de mayo, exactamente el 135 aniversario de la firma de la Rerum Novarum por el Papa León XIII, que abordó el impacto de la Revolución Industrial en el trabajo y se considera el fundamento de la doctrina social católica moderna. Al elegir esta fecha, el actual Papa trazó un paralelo claro: la IA en el siglo XXI es como la industrialización en el siglo XIX.
America Magazine citó a Charles C. Camosy: 'La cabeza de la Iglesia Católica y uno de los investigadores y líderes de IA más importantes del mundo, en el mismo escenario, presentando el mismo documento. Esto nunca había sucedido antes.'
Qué dice el documento
Aunque el texto completo de Magnifica Humanitas aún no se ha publicado, tres puntos clave han surgido de los avances:
- La IA no puede reemplazar la responsabilidad moral. El Papa ha enfatizado anteriormente que la IA no debe permitir que los humanos eludan la responsabilidad. En otras palabras, cuando una máquina toma una decisión, un humano aún debe firmarla.
- Las armas autónomas son una línea roja. La Iglesia continúa su doctrina tradicional de 'guerra justa': eliminar la 'supervisión humana significativa' sobre las decisiones de vida o muerte cruza una línea roja. Esto apunta directamente a los drones autónomos letales que están desarrollando los militares de todo el mundo.
- La eficiencia no es el único estándar. En campos como la medicina, la educación y el arte, existen 'bienes internos a las prácticas' que la IA, si solo se enfoca en la eficiencia, desplazaría. El mensaje del Papa: puedes usar IA para acelerar el diagnóstico, pero la conversación entre el médico y el paciente no se puede omitir.
¿Por qué Olah, no Altman?
El Vaticano invitó a Christopher Olah, no a Sam Altman de OpenAI ni a Demis Hassabis de DeepMind. Olah dirige la investigación de interpretabilidad en Anthropic, centrada en comprender qué piensan los grandes modelos, qué neuronas manejan qué funciones y cómo son las señales internas cuando un modelo miente. Esta es la rama más dura y menos rentable comercialmente de la investigación de seguridad de la IA.
Anthropic, desde su fundación, se ha posicionado como priorizando la seguridad, un ajuste natural con el mensaje de la Iglesia. El Vaticano eligió a Olah no de la empresa con más dinero, sino de la que tiene el enfoque más alineado.
Contexto: En febrero, la administración Trump atacó a Anthropic por restringir el uso militar de sus modelos, lo que llevó a Anthropic a demandar al gobierno. El caso aún está en curso. La invitación del Vaticano de hoy es oportuna.
Qué significa esto
Una encíclica es la forma más alta de enseñanza papal. Guía los juicios éticos de 1.400 millones de católicos en todo el mundo e influye en las políticas de universidades, hospitales y escuelas católicas.
Efectos en cadena esperados:
- Hospitales católicos globales reexaminarán los límites éticos de las herramientas de diagnóstico de IA.
- Escuelas administradas por la Iglesia emitirán pautas de uso de IA, posiblemente restringiendo el uso de ChatGPT por parte de los estudiantes.
- Fabricantes de armas enfrentarán más oposición en Europa sobre armas autónomas.
- Relaciones públicas de empresas de IA citarán repetidamente la retórica de 'human in the loop'.
Los pronunciamientos de la Iglesia no son ley, pero la Iglesia juega a largo plazo. La Rerum Novarum de 1891 influyó en los marcos políticos de los partidos socialdemócratas europeos durante todo el siglo XX: leyes laborales, seguro social, derechos sindicales estaban todos en su alcance.
Si Magnifica Humanitas desempeñará un papel de anclaje similar en la era de la IA es desconocido. Pero al dar un asiento a un investigador de una empresa de IA, la Iglesia ha enviado una señal: tiene la intención de involucrarse, no solo observar.
En los próximos seis meses, los departamentos de relaciones públicas de las empresas de IA probablemente estarán ocupados.
Fuentes: CocoLoop, Pope Leo XIV to launch his first encyclical, a document on artificial intelligence, with Anthropic's co-founder (PBS NewsHour); Pope Leo's encyclical comes just in time: AI is raising questions only religion can answer (America Magazine); Pope Leo will publish first encyclical, Magnifica Humanitas, on AI (America Magazine Vatican Dispatch)