미국 버니 샌더스 상원의원이 '인공 초지능 금지법'을 발의하겠다고 밝혔다. 비슷한 시기 영국 노동당 하원의원 알렉스 소벨도 목표가 유사한 법안을 하원에 제출했다. 타임(Time)은 9월 8일 이 두 사안을 하나의 기사로 함께 다뤘다.
샌더스 법안의 핵심 조항은 두 가지다. 인간보다 똑똑한 AI 시스템 개발을 금지하는 것과, 새로운 안전 규칙이 마련되기 전까지 다른 첨단 AI 연구를 중단시키는 것이다. 법안은 또한 미국 정부가 전 세계적으로 초지능 개발을 금지하는 국제 조약을 추진하도록 요구한다. 발의 시점은 '앞으로 몇 주 내'로 명시됐다.
영국 법안은 기준선을 다른 곳에 긋는다
소벨 의원은 '인간보다 똑똑하다'는 개념을 정의하지 않았다. 대신 초지능을 국가 권력을 빼앗을 수 있는 시스템으로 정의하고, 그 '전 단계'가 될 수 있는 시스템을 정부가 감시하고 제한할 수 있도록 했다. 그는 이것이 G7 의회 중 초지능 금지를 추진하는 첫 번째 법안이라고 말했다.
두 법안의 공통점은 자국 정부가 앞장서서 국제 조약을 협상하도록 요구한다는 점이다. 차이는 접근 방식에 있다. 미국 법안은 능력 자체를 직접 금지하는 반면, 영국 법안은 그 능력에 이르는 경로를 금지하고 판단은 행정부에 맡긴다.
10분 규칙
소벨 의원이 택한 절차는 '10분 규칙 법안'이다. 하원에서 의원에게 10분간 동의 취지를 설명할 시간을 준 뒤 1차 독회로 넘어가는 발의 방식이다. 10분 규칙 법안 대다수는 여기서 멈추며, 이후 토론 시간을 얻는 경우는 드물다. 보도에서도 1차 독회를 넘어서는 경우가 거의 없다고 규정한다.
샌더스 쪽 사정도 비슷하다. 그는 무소속 상원의원으로, 법안이 상원 절차를 통과하려면 초당적 지지가 필요하지만, 첨단 AI 연구를 중단시키는 조항은 현재 양당의 산업 정책 방향과 모두 맞지 않는다. 타임의 평가는 두 법안 모두 법률이 될 가능성이 낮다는 것이다.
그런데도 왜 발의하나
보도가 제시하는 이유는 논의의 입장을 확실히 해두는 것이다. UC버클리의 스튜어트 러셀은 기사에서 AI가 금융, 통신, 전력망 등을 협조적으로 파괴하거나 인류가 통제력을 돌이킬 수 없이 잃는 식으로 '체르노빌급 재앙'을 일으킬 상당한 확률이 있다고 말했다. 전 오픈AI 직원 대니얼 코코타일로의 말은 더 짧다. 샌프란시스코 쪽 상황이 정말로 미쳐 돌아가고 있다는 것이다.
올해 전체 입법 흐름에 놓고 보면 위치가 분명해진다. 올해 미국 각 주에서 발의된 AI 관련 법안은 1500건이 넘으며, 대부분 구체적인 상황을 겨냥한다. 미성년자 대상 AI 대화 상대, 딥페이크, 알고리즘 가격 책정, 채용 심사 등이다. 반면 연방 차원의 269쪽짜리 법안은 각 주의 입법권을 3년간 동결하려는 것으로, 방향이 정반대다. EU AI법은 이미 시행 중이며, 고위험 조항 적용은 16개월 연기됐다.
이 세 부류의 입법은 이미 가동 중인 시스템을 다루기 때문에 규제 대상이 명확하고, 조항별로 협상할 여지도 있다. 벌금 규모, 무엇을 고위험으로 볼지, 유예 기간을 얼마나 줄지 모두 논의 가능하다. 샌더스와 소벨의 법안이 다루는 건 아직 존재하지 않는 시스템으로, 등장하기 전에 문을 닫아걸자는 요구다. 전자는 업계가 조항 단위로 뜯어고칠 수 있지만, 후자는 통째로 받아들이거나 통째로 부결시키는 수밖에 없다. 입법 난이도의 차이는 표현 방식이 아니라 구체적인 규제 대상이 있는지 여부에서 갈린다.
영국 법안에는 실무적인 문제가 하나 더 있다. '전 단계' 시스템을 누가, 어떤 기준으로 판정할지는 공개된 설명에 나와 있지 않다. 실제로 집행하려면 아직 학습이 끝나지 않은 모델의 능력을 정부가 미리 예측해야 하는데, 기존 평가 체계조차 이미 출시된 모델의 능력 경계를 두고도 여전히 논쟁 중이다.
'인간보다 똑똑하다'는 기준을 어떻게 측정할지에 대해서도 두 법안의 공개된 설명 어디에도 나와 있지 않다. 두 법안 모두 법안 원문은 아직 공개되지 않았으며, 현재로서는 보도 내용으로만 확인할 수 있다.
참고 출처: 타임 보도 전문, CocoLoop, 영국 하원 10분 규칙 법안 절차 설명; 법안 조항, 발언, 통과 전망에 대한 판단은 타임 원문을 따랐으며 두 법안 원문은 아직 공개되지 않았다.