개빈 뉴섬 캘리포니아 주지사는 9월 18일 전문가단을 소집해 두 달 안에 주가 AI 안전 관련 법을 어떻게 보완해야 하는지에 대한 지침을 내놓도록 요구하는 행정명령에 서명했다.
이번 행정명령이 제시한 검토 방향은 세 가지다. 프런티어 AI 기업들이 정기적으로 독립적인 제3자 안전 감사를 받도록 요구하는 것, AI 에이전트의 이상 행동인 '폭주 사고'를 의무적으로 보고하도록 하는 것, 그리고 가장 최전선의 모델에 비상 정지 장치인 '킬스위치'를 탑재하도록 하는 것이다. 이 세 가지는 현재 모두 검토 대상일 뿐, 이미 발효된 의무 사항은 아니다.
이번 행정명령이 실제로 하는 일
이 문서의 효력 범위는 분명히 해둘 필요가 있다. 새로운 규제 준수 요건을 만드는 것이 아니라, 절차를 시작하는 것이다. 누구를 소집할지, 기한을 언제로 할지, 의제를 어떻게 정할지를 정하는 데 그친다. 구속력 있는 규정은 전문가단이 이후 추진하는 입법에서 나오거나, 기존 법적 틀 아래에서의 행정 규칙 제정에서 나와야 한다. 두 달이라는 기한은 지침이 11월 중순 이전에 나와야 한다는 뜻이다.
뉴섬 주지사는 영상 연설에서 “캘리포니아는 할 수 있는 모든 것을 하겠지만, 나라 전체가 움직여야 한다. 워싱턴 D.C.도 제 역할을 해야 한다”고 말했다. 그는 이번 행정명령을 안전 체계를 세우는 토대로 규정했다. 주지사실은 더 직설적으로, 연방정부가 의미 있는 AI 감독과 책임 체계를 마련하는 데 “완전히 실패했다”고 밝혔다.
"We will not sit idle—we will accelerate substantive, responsible AI regulation before it is too late."
“우리는 가만히 있지 않을 것이다. 너무 늦기 전에 실질적이고 책임 있는 AI 규제를 가속화하겠다.”
캘리포니아가 올해 밟아온 단계들
시야를 넓혀 보면 이번 조치는 고립된 사건이 아니다. 캘리포니아주는 9월 초 이미 제3자 AI 감사 기관의 틀을 마련하는 법에 서명한 바 있다. 이번 행정명령이 검토하는 독립 감사 의무화는 그 법의 연장선에 있다. 더 거슬러 올라가면, 프런티어 모델 안전성 공개를 둘러싼 주 차원의 입법 논쟁은 이미 2년째 이어지고 있으며, 그 사이 부결된 법안도 있고 적용 범위를 축소한 뒤에야 통과된 법안도 있다.
순서는 명확하다. 먼저 감사 기관의 자격 요건 틀을 만들고, 그다음 감사를 의무화할지 검토한다. 먼저 공개를 요구하고, 그다음 보고와 정지 방안을 논의한다. 각 단계는 이전 단계에서 조금씩만 앞으로 나아갈 뿐, 곧바로 최종 형태로 건너뛰는 단계는 없다. 이런 속도 조절은 기업에는 적응할 시간을 주고, 반대 측에는 조항별로 저지할 기회를 준다.
간과할 수 없는 시한도 있다. 뉴섬 주지사의 임기는 내년 1월 4일 끝난다. 두 달의 기한은 그의 임기 안에 들어오지만, 지침이 나온 뒤의 입법 추진은 후임 주지사의 몫이 될 가능성이 크다. 행정명령이 법으로 이어질지는 서명한 사람만으로 결정되는 것이 아니다.
연방 노선과의 뚜렷한 대비
이 배경에는 연방 차원의 공백이 있다. 트럼프 대통령은 규제 강화 요구를 거부하며 AI 안전 우려를 “사기”라고 불렀고, 의회 역시 2026년 중간선거 전에 전국 단위의 AI 입법을 추진할 가능성은 낮다. 캘리포니아는 정반대 입장에 서 있으며, 뉴섬 주지사실은 같은 날 백악관과 의회의 무대응을 공개적으로 비판했다.
캘리포니아에는 그럴 만한 근거가 있다. 프런티어 AI 기업 대부분이 이 주에 본사를 두고 있어, 주법은 서버를 옮겨 피할 수 있는 역외 관할이 아니라 직접적인 구속력을 갖는다. 지난 몇 년간 데이터 프라이버시나 배출 기준 분야에서도 캘리포니아의 기준이 사실상 전국 표준이 되는 일이 반복됐다.
다만 이번에 만들려는 것은 프라이버시 규정보다 까다롭다. 정기적인 제3자 감사는 외부인이 모델 평가 과정에 들어온다는 뜻이고, 폭주 사고 보고는 기업이 자사 시스템의 이상 징후를 스스로 내놓아야 한다는 뜻이며, 킬스위치는 배포 아키텍처 자체를 건드린다. 세 가지 중 어느 하나라도 실현되면 연구소 차원의 힘겨루기를 부를 수밖에 없다.
두 달 동안 지켜볼 세 가지
두 달의 기간 동안 지켜볼 지점은 세 가지다. 전문가단이 누구로 구성되는지, '폭주 사고'의 정의가 얼마나 세밀하게 쓰이는지, 그리고 킬스위치가 의무 요건으로 등장할지 권고 사항에 그칠지다.
현재로서는 이 세 가지 모두 답이 없다. 행정명령이 내놓은 것은 의제 목록과 일정표이지 결론이 아니다. 11월 중순 전에 그 지침이 실제로 나올지, 어떤 내용을 담을지가 이 사안에서 다음으로 검증할 수 있는 지점이다.
참고 출처: 캘리포니아 주지사실 발표, 성도일보, CocoLoop, 신랑재경. 행정명령의 세 가지 검토 방향과 두 달 기한, 뉴섬 주지사의 발언은 주지사실 발표 내용에 맞춰 대조했다.