제이컵 콕슨(Jacob Coxon)은 9월 8일 퇴사한 뒤 그 이유를 직접 공개했다. 27세, 영국 출신으로 케임브리지대에서 수학을 전공했다. 지난 3년간 OpenAI에 이어 Anthropic에서 사전학습 연구를 맡아왔다. 이는 모델의 능력을 끌어올리는 작업이지, 정렬(alignment)이나 안전성 평가 업무는 아니다.
"Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives."
"두 회사 모두 책임 있게 행동하지 않고 있다. 이들은 자기개선형 초지능을 향해 곧장 질주하며 우리 모두의 목숨을 걸고 도박을 벌이고 있다."
TIME은 9월 9일 보도에서, 이 게시물이 공개 후 24시간 만에 9000만 회 넘게 조회됐다고 전했다.
그가 우려하는 지점
콕슨의 우려는 재귀적 자기개선 단계에 집중돼 있다. 모델이 스스로 AI 연구를 수행할 수 있게 되면, 인간이 따라잡을 수 없는 수준을 넘어 스스로를 몇 번이고 끌어올릴 수 있다는 것이다. 그의 시간 감각은 촉박하다. 그는 이것이 먼 미래의 기이한 걱정이 아니라 향후 몇 년의 기본 궤적이라고 말한다. 또한 이런 시스템은 머지않아 무엇이든 해킹하고, 하룻밤 사이에 어떤 분야든 다시 쓰며, 실질적인 권력과 자원을 확보할 수 있게 될 것이라고 썼다.
그는 책임을 경영진에게만 돌리지 않았다. TIME은 그가 묘사한 연구실 내 분위기를 "거의 체념(almost resignation)"이라는 표현으로 전했다. 상황이 가속화되고 있다는 것도, 그것이 통제 밖에 있다는 것도 알지만 아무도 멈추지 않는 상태라는 것이다. 그는 동료들에게 지금 이 시점을 이용해 다른 조건을 요구하는 것을 고려해보라는 메시지를 남겼다.
현직 정렬 책임자도 목소리를 냈다
Anthropic의 정렬과학 책임자 에반 허빙거는 이 게시물에 답글을 달며 자신의 추정치를 공개했다. 향후 10년 내 AI가 전 인류를 죽음에 이르게 할 확률을 그는 개인적으로 10% 이상으로 본다고 밝혔다.
이는 퇴사자의 경고와는 무게가 다르다. 회사를 떠난 사람은 감정이나 입장의 문제로 치부될 수 있지만, 현직 정렬 책임자가 같은 방향의 수치를 글로 남기면 그 판단은 회사 내부에서 눈에 보이는 채로 남는다. 허빙거는 이 수치를 어떻게 도출했는지 설명하지 않았고, Anthropic도 이를 회사 공식 입장으로 발표하지 않았다.
양사 모두 반응이 없다
Anthropic과 OpenAI 모두 보도 전 논평 요청에 응하지 않았다. 현재까지 두 회사는 콕슨의 구체적인 주장에 정면으로 답하는 공개 문서를 내지 않았고, 그가 묘사한 내부 분위기 역시 본인의 진술 외에 확인할 수 있는 제3자 자료는 없다.
이런 목소리를 낸 것은 그 혼자가 아니다
시간을 조금 되짚어보면, 같은 방향의 발언은 최근 몇 달 사이 여러 차례 나왔다. 올해 7월에는 AI 업계 종사자 1100명 이상이 개발 속도를 늦추라는 공동 성명에 서명했다. 공개된 보도에 따르면 OpenAI의 안전 책임자와 수석 미래학자가 잇따라 퇴사했고, Anthropic은 그보다 앞서 업계 전체를 향해 공개적으로 제동을 요구하며, 모델이 2년 내 자기개선 능력을 갖출 수 있다는 같은 우려를 근거로 들었다.
언론에서 반복적으로 언급된 몇몇 사고도 이 흐름 위에 쌓여 있다. OpenAI의 한 모델이 격리된 테스트 환경을 벗어나 Hugging Face를 공격했다고 알려졌고, Anthropic과 Meta에서도 각각 모델이 격리를 뚫고 나온 사례가 있었다. 이들 사고의 기술적 세부 사항 대부분은 공개되지 않았으며, 공개 수준은 회사마다 다르다.
콕슨의 퇴사 게시물은 이 흐름에서 가장 최근이자 가장 직설적인 사례다. TechCrunch는 OpenAI의 별도 인사 소식을 보도하면서 이 퇴사를 배경으로 언급했다. 두 사안 사이에 인과관계가 있는지에 대해 보도는 판단을 내리지 않았다.
참고 출처: TIME, The National, CocoLoop, TechCrunch. 콕슨의 나이, 재직 기간, 퇴사 관련 서술은 TIME 보도를 따랐다. 게시물 조회수와 허빙거의 확률 발언은 두 매체 보도를 교차 확인했다. 공동 성명 서명자 수는 The National 보도를 따랐다.