4월 26일 일요일, OpenAI는 'Our principles'라는 문서를 발표하며 민주화, 권한 부여, 보편적 번영, 회복탄력성, 적응성이라는 다섯 가지 원칙을 제시했습니다.
이는 OpenAI가 2018년 헌장 이후 가장 높은 수준의 정책 문서입니다. Sam Altman이 X에 공유한 버전은 그럴듯하게 읽히지만, 이 다섯 가지 원칙을 OpenAI가 지난 6개월간 해온 일들과 하나씩 대조해 보면 매우 흥미로운 현상이 드러납니다. 이 문서는 미래 방향을 설정하는 것이 아니라, 지난 6개월간의 논란을 불러일으킨 결정들에 정당성을 부여하고 있습니다.
첫 번째 원칙: 민주화
원문은 "모든 사람을 위한 AI 접근"과 "민주적 프로세스"를 언급합니다. 하지만 The Decoder의 해석은 정곡을 찔렀습니다. 이 원칙의 숨은 뜻은 Anthropic을 겨냥한 것입니다.
Anthropic은 최근 Claude를 미 국방부 일부 부서에 무제한으로 개방하는 것을 거부했다가 많은 소송에 휘말렸습니다. OpenAI의 이 원칙은 "AI 접근은 보편화되어야 한다"는 점을 가치관으로 격상시켜, 조건을 달거나 사용자를 제한하는 세력은 반민주적이라는 메시지를 암묵적으로 전달합니다.
두 번째 원칙: 권한 부여
긍정적으로 들립니다. 사용자를 신뢰하고 광범위한 자율성을 부여한다는 내용입니다. 하지만 핵심은 뒷부분에 있습니다. "피해가 불확실한 경우 신중함을 유지한다"는 것입니다.
이것이 의미하는 바는 무엇일까요? OpenAI가 무엇을 "피해가 불확실한" 것으로 간주할지 판단할 권리를 보유한다는 뜻입니다. 이는 분산화가 아니라, 판단 권한을 회사에 남겨두되 '사용자 자유'라는 이름으로 포장한 것입니다.
세 번째 원칙: 보편적 번영 (가장 논란이 큰 원칙)
Altman 자신도 이 원칙이 "약간 이상해 보인다"고 인정했습니다. OpenAI는 전 세계적으로 컴퓨팅 파워를 사들이고 데이터센터를 건설 중이며, 최근 1220억 달러라는 엄청난 자금 조달을 완료했습니다. 외부에서 보기에 이러한 움직임은 '보편적 혜택'이라기보다 '독점의 전주곡'에 가깝습니다.
따라서 이 원칙의 기능은 인프라 군비 경쟁에 서사(내러티브)를 제공하는 것입니다. 논리 체인은 이렇습니다. 모든 사람이 AI 혜택을 누리게 하려면 → AI 추론 비용이 폭락해야 한다 → 따라서 막대한 컴퓨팅 인프라가 필요하다 → 지금 쓰고 있는 수백억 달러는 미래의 보편적 번영을 위한 것이다.
교묘하지만 명백한 허점이 있습니다. The Decoder의 비판은 정확합니다. Altman은 권력 분배를 두 가지 선택지 중 하나로 제시합니다. 즉, 몇몇 기업에 집중시키거나 모든 사용자에게 분산시키는 것입니다. 여러 경쟁 공급업체 간에 분산시키는 가능성을 완전히 건너뛰었습니다.
이러한 이분법을 통해 OpenAI는 중앙집권적 공급자로서의 지위를 유지하면서도 '분산화'를 주장할 수 있습니다.
네 번째 원칙: 회복탄력성
구체적인 시나리오로 "생물무기 및 사이버 공격 방어"가 언급되었습니다. 공교롭게도 이 분야들은 OpenAI의 최근 논란 대상이 된 몇몇 계약과 일치합니다. 국방부 계약은 방금 캘리포니아주의 프론티어 AI 안전 법안의 표적이 되었습니다. 이 원칙은 그러한 정부 협력을 즉각 합리화합니다. 돈을 벌기 위해서가 아니라 '집단적 회복탄력성'을 위해서라는 것입니다.
다섯 번째 원칙: 적응성
이 원칙이 가장 솔직하고 가장 경계심을 불러일으킵니다. Altman은 원칙 간에 충돌이 발생할 수 있으며(예: 권한 부여 대 회복탄력성), 회사는 언제든지 조정할 권리를 보유한다고 명확히 밝혔습니다.
풀어 말하면, 위의 네 가지 원칙은 절대적이지 않으며, 미래에 상업적 이익과 원칙이 충돌할 경우 OpenAI는 이를 재정의할 수 있다는 뜻입니다.
인상 깊은 한 마디
Altman의 원문 중에는 무게감 있는 문장이 있습니다.
"우리는 우리가 하는 일의 중요성에 상응하는 엄청난 감시를 받아야 마땅합니다."
겸손하게 들리지만, '적응성' 원칙과 결합하면 그 실제 기능은 비판을 미리 인정한 다음, 방향을 수정할 권리를 보유하는 것입니다.
Hacker News의 반응은 전형적인 태도를 보여줍니다
커뮤니티의 많은 사람들은 2018년 헌장도 당시에는 훌륭하게 작성되었으며, 핵심 약속이 포함되어 있었다고 지적합니다. "가치에 부합하고 안전을 중시하는 프로젝트가 AGI에 접근할 경우, OpenAI는 경쟁을 중단하고 지원을 제공할 것을 약속합니다."라는 약속이었습니다.
그 약속은 여전히 헌장에 남아 있지만, 7년 동안 아무도 언급하지 않았습니다.
새로운 다섯 가지 원칙도 같은 운명을 걸을까요? Altman의 "비즈니스 결정은 재조정을 필요로 할 수 있다"는 말을 고려하면, 대답은 아마 '그렇다'일 것입니다.
정말 주목할 만한 점
중요한 것은 이 다섯 가지 원칙 자체가 얼마나 심오한가가 아닙니다. OpenAI가 스스로 정당성 서사(legitimacy narrative)를 적극적으로 구축하기 시작했다는 점입니다. 자신이 단지 제품만 만들면 된다고 생각하는 회사는 이런 문서를 작성하지 않습니다. 이 원칙들은 회사가 '기술 기업'에서 '준공공 인프라 제공자'로 스스로를 재정의하는 신호로 보입니다.
다음으로 주목할 점은 무엇일까요? 미국 연방 AI 법안과 캘리포니아 프론티어 법안의 최종 버전에서 OpenAI가 이 다섯 가지 원칙을 통해 얼마나 많은 정책적 양보를 얻어낼 수 있을지입니다. 이것이 바로 이 문서가 실제로 싸우려는 전쟁터입니다.
출처: Our principles (OpenAI); CocoLoop, OpenAI Posts Five Principles for AGI, Updates 2018 Charter (Implicator.ai); Sam Altman outlines five principles that double as justification for OpenAI's business decisions (The Decoder)