로마 시간 오늘 오전 11시 30분, 바티칸 시노드 홀에서 교황 레오 14세가 첫 회칙 Magnifica Humanitas(라틴어로 '장엄한 인간성')를 공식 발표했다. 함께 무대에 오른 사람은 Anthropic의 공동 창립자이자 해석 가능성 연구 책임자인 Christopher Olah였다. 바티칸이 이런 일을 한 것은 1891년 이후 처음이다.
135년 만의 동석
연단에는 6명의 참석자가 있었다: 3명의 추기경(Víctor Manuel Fernández, Michael Czerny, Pietro Parolin), 2명의 여성 신학자(더럼 대학의 Anna Rowlands, 산타클라라 대학의 Léocadie Lushombo), 그리고 Anthropic의 Christopher Olah였다. 교황이 직접 개회사와 축복을 했는데, 이는 관례를 깬 것이다. 보통 회칙 발표 시 교황은 참석하지 않고 추기경이 대독한다.
회칙 서명일은 5월 15일로, 교황 레오 13세가 Rerum Novarum(새로운 것)에 서명한 지 135주년이 되는 날이다. 당시 회칙은 산업 혁명이 노동자에게 미친 영향을 다루었으며, 현대 가톨릭 사회 교리의 출발점으로 간주된다. 현 교황은 이 날짜를 선택함으로써 AI가 21세기에 산업 혁명이 19세기에 그랬던 것과 같다는 평행선을 분명히 그렸다.
America Magazine은 Charles C. Camosy의 말을 인용했다: '가톨릭 교회의 수장과 세계에서 가장 영향력 있는 AI 연구자 중 한 명이 같은 무대에 서서 같은 문서를 발표하다니. 이는 전례 없는 일이다.'
문서의 내용
Magnifica Humanitas의 전문은 오늘 오후에 공식 발표되지만, 사전에 알려진 부분에서 세 가지 핵심 사항이 드러났다.
- AI는 도덕적 책임을 대체할 수 없다. 교황은 이전에도 AI가 인간의 책임을 회피하게 해서는 안 된다고 강조했다. 즉, 기계가 결정을 내릴 때 그 뒤에는 인간이 서명해야 한다.
- 자율 무기는 넘지 말아야 할 선. 교회는 전통적인 '정의로운 전쟁' 교리를 이어받아, 생사 결정에 대한 '의미 있는 인간의 감독'을 박탈하는 것은 선을 넘는 것이라고 본다. 이는 각국 군대가 개발 중인 살인급 자율 드론을 직접 겨냥한 것이다.
- 효율성이 유일한 기준은 아니다. 의료, 교육, 예술 등의 분야에는 '실천에 내재된 선'이 있으며, AI가 효율성만 추구하면 이를 압도할 수 있다. 교황의 메시지는 AI로 진단 속도를 높일 수 있지만 의사와 환자 간의 대화는 생략할 수 없다는 것이다.
왜 Altman이 아니라 Olah인가?
바티칸이 초청한 사람은 OpenAI의 Sam Altman도, DeepMind의 Demis Hassabis도 아닌 Anthropic의 Christopher Olah였다. Olah는 Anthropic에서 해석 가능성 연구를 이끌며 대규모 모델의 내부에서 무슨 일이 일어나는지, 어떤 뉴런이 어떤 기능을 담당하는지, 모델이 거짓말을 할 때 내부 신호가 어떻게 나타나는지 규명한다. 이는 AI 안전 연구 중에서도 가장 하드코어하고 상업적 수익이 가장 적은 분야다.
Anthropic은 설립 초기부터 안전을 최우선으로 하는 입장을 취해왔으며, 이는 교회의 메시지와 자연스럽게 맞아떨어진다. 바티칸은 가장 자금이 많은 기업이 아니라 가장 노선이 맞는 기업을 선택한 것이다.
배경: 올해 2월, 트럼프 행정부는 Anthropic이 군대의 모델 사용을 제한한다는 이유로 회사를 압박했고, Anthropic은 이후 행정부를 고소했다. 이 소송은 진행 중이다. 오늘 바티칸의 초청은 시점이 미묘하다.
이것이 의미하는 바
회칙은 교황 교도 문서 중 가장 높은 등급이다. 회칙이 나오면 전 세계 14억 가톨릭 신자가 윤리 판단의 기준으로 삼고, 가톨릭 대학, 병원, 학교의 정책도 이에 맞춰 조정된다.
예상되는 연쇄 반응:
- 전 세계 가톨릭 병원은 AI 진단 도구의 윤리적 경계를 재검토할 것이다.
- 교회 운영 학교는 AI 사용 규정을 마련하고 학생의 ChatGPT 사용을 제한할 가능성이 있다.
- 무기 제조업체는 유럽에서 자율 무기에 대한 반대가 더 거세질 것이다.
- AI 기업 홍보는 '인간이 루프 안에 있다'는 수사를 반복해서 인용할 것이다.
교회의 발언은 법률이 아니지만, 교회는 느리게 움직이면서 오래 영향력을 행사하는 존재다. 1891년의 Rerum Novarum은 20세기 유럽 사회민주당의 정책 프레임워크에 영향을 미쳤다—노동법, 사회보험, 노동조합 권리가 모두 그 범위 안에 있었다.
Magnifica Humanitas가 AI 시대에 같은 닻 역할을 할 수 있을지는 아무도 모른다. 그러나 교황 옆자리를 AI 기업 연구원에게 내준 것은 교회가 개입할 의사가 있으며, 방관하지 않겠다는 신호를 보낸 것이다.
앞으로 6개월간 AI 기업의 홍보 부서는 바빠질 것으로 보인다.
출처: CocoLoop, Pope Leo XIV to launch his first encyclical, a document on artificial intelligence, with Anthropic's co-founder (PBS NewsHour); Pope Leo's encyclical comes just in time: AI is raising questions only religion can answer (America Magazine); Pope Leo will publish first encyclical, Magnifica Humanitas, on AI (America Magazine Vatican Dispatch)