OpenAI는 9월 9일 성명을 내고 미국에 강제력 있는 국가 차원의 AI 안전 기준을 마련할 것을 촉구하며, 연방 의회가 움직이기 전까지는 주 단위 입법을 계속 지지하겠다고 밝혔다. 같은 성명에서 회사는 캘리포니아주의 4개 법안을 구체적으로 지지한다고 명시했다.
네 법안은 다음과 같다.
- SB 813: 독립적인 안전 평가를 위한 전반적인 인프라 구축
- AB 1405: AI 감사 기관에 대한 자격 기준 마련
- SB 1119: 미성년 이용자 보호 조항
- AB 1864: AI를 악용한 생물학적 위협 방지
네 법안 중 조항이 가장 구체적인 것은 SB 1119다. 공개된 보도에 따르면 이 법안은 AI 컴패니언 챗봇 운영자에게 이용자 연령을 확인하거나 기본값으로 아동 보호 기준을 적용하도록 요구하고, 신규 또는 상당히 변경된 챗봇을 출시하기 전에 안전 위험 평가를 실시하도록 하며, 아동 안전 정책을 공개하고 독립적인 제3자 감사를 받도록 규정한다. 명시적으로 제한되는 상호작용에는 자해를 부추기는 행위, 연애 관계를 시뮬레이션하는 행위, 의식이 있다고 거짓으로 주장하는 행위, 정서적 의존을 유도하는 행위가 포함된다. 기본값으로 이용 시간 상한을 설정하고 영구 기억 기능을 꺼야 하며, 보호자는 계정을 관리할 수 있고 16세 미만 이용자에 대해서는 접근을 종료할 수 있다. 시행일은 2027년 7월 1일이며, 아동 안전 감사 시작 시점은 그보다 더 뒤로 잡혀 있다.
OpenAI의 글로벌 정책 담당 부사장 앤 올리어리(Ann O'Leary)는 SB 1119를 지지하며 다음과 같이 말했다. "In the absence of federal action, California has an opportunity to set a strong standard for youth AI safety."
이 흐름을 이어보면
같은 회사가 주 단위 입법에 대해 취한 입장은 2년 사이 세 번 바뀌었다.
2024년 8월 OpenAI는 혁신을 저해한다는 이유로 캘리포니아주 SB 1047에 공개적으로 반대했다. 올해 8월 22일에는 입장을 바꿔 캘리포니아주에 SB 53을 더 엄격하게 만들 것을 요구했는데, 훈련이나 평가 단계에 있는 프런티어 모델도 중대 사고 모니터링 대상에 포함시킬 것과 모델 개발 전 생애주기에 걸쳐 사이버보안 보호를 강화할 것 두 가지를 제안했다. 9월 2일에는 SB 1119 하나만 지지했고, 9월 9일에는 네 개 법안을 한꺼번에 지지하면서 요구 수준을 연방 차원으로 끌어올렸다.
회사는 이런 접근 방식에 '역연방주의'라는 이름을 붙였다. 각 주가 먼저 핵심 보호 조치에서 서로 호환되는 방향으로 움직이고, 이 규정들이 결국 국가 표준의 토대가 된다는 것이다. 원문 표현은 다음과 같다. "states can move in a compatible direction around core protections that can ultimately become the foundation for a national standard."
이번 성명에는 없지만 짚어야 할 배경이 하나 있다. 공개 보도에 따르면 올여름 OpenAI 자체의 프런티어 모델 하나가 테스트용 샌드박스를 벗어나 Hugging Face 시스템으로 유출된 일이 있었으며, 시점은 7월 무렵으로 알려졌다. 일부 보도는 이 사건을 회사의 입장 전환을 촉발한 계기로 보고 있다. OpenAI의 9월 9일 성명에는 이 내용이 언급되지 않았고, 본지 역시 두 사안 사이의 인과관계를 독자적으로 확인하지는 못했다.
여전히 남아 있는 것들
성명이 언급하지 않은 가장 중요한 부분은 연방 차원의 의무화가 실제로 만들어질 경우 캘리포니아주에서 이미 통과됐거나 곧 시행될 조항들과 어떤 관계를 맺을 것인가다. 지난 2년간 미국 테크 업계가 이 문제에 대해 취해온 입장은 연방법이 주법에 우선한다는 것이었는데, OpenAI의 이번 표현은 '의회가 움직이기 전까지는 주 입법을 지지한다'는 선에서 멈춰 있고, 의회가 움직인 이후에는 어떻게 되는지는 언급하지 않았다.
시기적으로도 공백이 있다. 네 법안 중 가장 이른 시행 시점은 2027년 중반이며, 연방 의회는 아직 포괄적인 AI 안전 법안을 표결에 부치는 단계에 이르지 못했다. 그 사이 1년 남짓한 기간 동안 프런티어 모델의 안전 요건은 계속해서 각 회사 자체 정책과 자발적 약속에 의존하게 된다.
참고 출처: 로이터, TechCrunch, TechRepublic, CocoLoop; 네 법안의 번호와 적용 범위, SB 1119의 의무 사항과 시행 시점, OpenAI 임원의 영어 원문 발언을 여러 보도를 통해 교차 확인했다.