미국 동부시간 9월 29일, 트럼프 대통령은 백악관 이스트룸에서 구글, Anthropic, 메타, OpenAI, xAI, 엔비디아의 수장들과 인공지능 관련 협약에 서명한 뒤 이 문서를 트루스 소셜에 게시했다. 문서의 정식 명칭은 '백악관 초지능 협약: 프런티어 초지능 책임에 관한 공동서약'이며, 본문은 단 한 장뿐이었다.
이날 행사에는 일론 머스크, 마크 저커버그, 다리오 아모데이, 젠슨 황, 그렉 브록먼, 순다르 피차이가 참석했고, 마이크로소프트의 사티아 나델라와 AMD의 리사 수도 자리했다. 피차이는 이후 소셜미디어를 통해 구글이 이 협약에 서명했다고 확인했다.
한 장짜리 문서에 담긴 내용
협약은 서명 기업에 4단계 통제 체계 구축을 요구한다. 1단계는 모델 학습과 배포 과정에서 사이버 공격, 생물·화학 위협, 시스템 무단 접근 같은 위험 능력을 지속적으로 추적하는 내부 모니터링이다. 2단계는 이러한 통제가 의도대로 작동하는지 검증하고 발견된 문제를 처리하는 전담 내부 팀이다. 3단계는 독립적인 외부 감사 또는 평가기관이며, 4단계는 앞선 세 단계를 감독하는 이사회 산하 독립위원회다.
문서는 '공동서약'이자 '원칙 선언'으로 규정돼 있다. 구속력에 대한 질문에 트럼프는 이렇게 답했다.
"도덕적으로는 구속력이 있다고 생각한다."
그는 이 문서를 "거의 헌법과 같다"고도 표현했다. 마이크 존슨 하원의장은 더 직설적으로, 이 협약이 기업에는 자율적인 것이며 업계가 "스스로 규율할 것"이라고 말했다. 문서 말미에는 향후 이러한 절차를 법률이나 규정으로 명문화하는 것이 "필요해질 수 있다"는 문구가 남아 있다.
같은 날 트럼프는 연방정부 공식 문서에서 '인공지능' 대신 '초지능'(Super Intelligence)이라는 용어를 쓰도록 하는 행정명령에도 서명했으며, 관련 정의는 60일 내에 마련하도록 했다.
비판은 '적혀 있지 않은 부분'에 집중
영국 테크 매체 더 레지스터는 문서를 조목조목 검토한 뒤, 무엇이 '견고한' 통제인지에 대한 정의가 없고 감사 주기도, 평가 일정도 정해져 있지 않다고 지적했다. 민주당의 마크 워너 상원의원은 의무적인 시험·평가·사고 보고를 법제화하라고 의회에 요구하면서, 대통령이 한 일은 그저 "이름을 바꾸고 기업이 알아서 하도록 맡긴 것"뿐이라고 비판했다.
외부 감사 결과를 정부에 제출해야 하는지, 혹은 일반에 공개해야 하는지에 대해 백악관은 아직 밝히지 않았다.
2023년부터 오늘까지의 시도들
이 협약을 시간순으로 놓고 보면, 미국의 프런티어 모델 관리는 줄곧 '자율'이라는 선 근처에 머물러 있었다.
2023년 7월, 바이든 행정부는 아마존, Anthropic, 구글, Inflection, 메타, 마이크로소프트, OpenAI 등 7개 기업을 불러 모아 출시 전 안전성 테스트, AI 생성 콘텐츠에 워터마크 삽입 등을 포함한 일련의 자율적 서약에 서명하게 했다. 이때도 벌칙 조항은 없었다.
올해 5월, 트럼프는 대형 모델의 시장 출시 전 심사를 의무화하는 행정명령에 서명할 예정이었고 OpenAI, Anthropic, 구글의 관계자들도 현장에 나왔지만, 그는 마지막 순간에 "일부 내용이 마음에 들지 않는다"며 서명을 취소했다. 결국 6월 2일 서명된 버전은 방향을 바꿔, 기업이 출시 30일 전에 자율적으로 모델을 연방정부에 제출해 테스트받을 수 있도록 하는 내용이 됐다.
이번 변화의 핵심은 '정부에 보여주는' 방식에서 '기업이 내부에 체계를 만들고 제3자가 검증하는' 방식으로 옮겨갔다는 점이며, 이사회도 관여하게 됐다는 점이다. 서명한 6개 기업은 미국의 주요 폐쇄형(비공개) 모델 기업과 최대 반도체 공급업체를 아우른다. 마이크로소프트와 AMD도 현장에 있었지만, 현재까지의 공개 보도에는 이들이 서명 명단에 포함돼 있지 않다. 이 4단계 체계가 각 기업에서 실제로 어떻게 작동할지는 첫 외부 감사 결과가 나와야 알 수 있으며, 협약은 그 시점을 제시하지 않았다.
참고 출처: CBS News, CocoLoop, The Register, Washington Examiner 게재 협약 전문, 연합조보(聯合早報), 순다르 피차이 소셜미디어 게시물; 서명 기업 명단과 4단계 통제 조항은 협약 원문을 기준으로 한다.