3월 27일, 뉴욕주 캐시 호컬 주지사가 RAISE Act의 최종 개정판에 공식 서명하여 이 법을 확정된 형태로 제정했다.
이는 미국 최초로 대규모 AI 모델 개발자를 대상으로 하는 주 차원의 AI 안전법이다. 발효일: 2027년 1월 1일.
초안도, 논의 문서도 아닌 법률이다.
누구를, 무엇을 규제하는가
먼저 적용 범위부터 살펴보자. RAISE Act의 대상은 "프런티어 모델" 개발자이며, 다음 조건 중 하나라도 충족하면 규제 범위에 포함된다:
- 연간 수익이 5억 달러를 초과하는 AI 개발자
- 뉴욕주에서 "프런티어 모델"을 개발하거나 운영하는 기업
"프런티어 모델"은 연방 정의를 참조하여 정의된다: 사이버 공격 지원, 생물 무기 개발, 대규모 인프라 파괴 등 심각한 현실 피해를 초래할 수 있는 대규모 AI 시스템.
Anthropic, OpenAI, Google DeepMind, Meta — 이들 기업 모두 규제 범위 내에 있다.
구체적인 요구 사항은 세 가지다:
첫째, 서면 안전 프로토콜을 수립하고 공개한다. 주요 피해 위험을 완화하기 위한 구체적인 조치, 사이버 보안 보호 메커니즘, 모델에 "불합리한 피해 위험"이 있는지 평가하는 테스트 절차를 포함하는 공식 문서를 공개해야 한다.
둘째, 사이버 보안 방어 메커니즘을 구축한다. 구호가 아니라 구체적이고 실행 가능한 기술적 조치가 요구된다.
셋째, 안전 사고를 72시간 이내에 보고한다. "안전 사고" 발생 후 72시간 이내에 뉴욕주 법무장관 및 관련 기관에 보고해야 한다.
벌금은 얼마인가
- 첫 위반: 최대 벌금 100만 달러
- 반복 위반: 최대 벌금 300만 달러
Anthropic이나 OpenAI에게 300만 달러는 큰 금액이 아니다. 그러나 이 법은 선례를 세운다: AI 기업이 안전 규정 준수 문제로 주 정부로부터 처벌을 받을 수 있다는 것이다.
연방 정부는 반대 방향으로 당기고 있다
흥미롭게도, 각 주가 경쟁적으로 입법을 추진하는 동시에 연방 차원에서는 반대 방향으로 움직이고 있다.
올해 1월, 법무부는 AI 소송 특별 태스크포스(AI Litigation Task Force)를 설립했다. 그 임무 중 하나는 "주간 상거래에 위헌적으로 간섭하는" 주 차원의 AI 규정에 이의를 제기하는 것이다. 다시 말해, 연방 정부는 상업 조항을 사용하여 언제든지 주 차원의 규제를 억제할 수 있는 카드를 스스로 남겨둔 것이다.
이는 우연이 아니다 — 정책 입장이다. 트럼프 행정부의 AI에 대한 기본 태도는 "업계가 스스로 운영되도록 두고, 규제로 혁신을 질식시키지 말라"는 것이다. 그러나 뉴욕, 캘리포니아 등 주들은 반대 방향으로 힘을 쏟고 있다.
이 갈등은 현재 명확한 결말이 없다. RAISE Act가 2027년까지 완전히 집행될 수 있을지는 연방 차원의 움직임에 달려 있다.
캘리포니아는 무엇을 하고 있는가
비교를 위해, 캘리포니아주는 올해 1월 AI 안전법을 시행했지만 훨씬 보수적이다 — 주로 AI 안전 문제를 신고하는 직원에게 법적 보호(내부고발자 보호)를 제공하며, 개발자에게 직접적인 규정 준수 요구 사항을 부과하지는 않는다.
캘리포니아주는 작년에 SB 1047을 거의 통과시킬 뻔했다. 이는 급진적인 버전으로, AI 기업이 모델을 출시하기 전에 강제 안전 평가를 완료하도록 요구하는 것이었다. 그러나 뉴섬 주지사는 "규제 경계가 너무 모호하다"는 이유로 최종적으로 거부권을 행사했다.
RAISE Act는 현재까지 가장 멀리 나간 법이다. 내부고발자를 보호하는 것이 아니라 개발자에게 직접 규정 준수 의무를 부과한다.
2026년, 각 주는 이미 600개 이상의 AI 관련 법안을 제출했으며, 그 숫자는 계속 증가하고 있다.
2027년 1월까지 기업은 무엇을 해야 하는가
일정은 명확하다:
- 법률 확정: 2026년 3월 27일
- 발효일: 2027년 1월 1일
- 현재로부터 약 8.5개월 후
준비해야 할 사항:
| 요구 사항 | 내용 |
|---|---|
| 서면 안전 프로토콜 | 수립 및 공개 공시 |
| 사이버 보안 방어 | 구체적이고 실행 가능한 기술적 조치 |
| 사고 보고 절차 | 72시간 이내에 뉴욕주 법무장관에게 통지 |
"안전 프로토콜의 공개 공시" 요구 사항은 새로운 것이다. 이는 대규모 모델 기업의 AI 안전 메커니즘이 어느 정도 외부에서 가시화됨을 의미한다 — 적어도 문서 수준에서는. 안전 평가를 항상 내부 프로세스로 취급해 온 기업에게는 새로운 요구 사항이다.
연방 정부가 개입할까? 시도할 가능성이 높다. 그러나 그 전까지는 뉴욕의 규칙이 법률에 명시되어 있다.
출처: Governor Hochul Signs Nation-Leading Legislation to Require AI Frameworks for AI Frontier Models (뉴욕주지사실); New York Finalizes RAISE Act for Frontier AI Models; Law Takes Effect January 1, CocoLoop, 2027 (Wiley Rein / JDSupra); U.S. Tech Legislative & Regulatory Update – First Quarter 2026 (Global Policy Watch); New York Governor Signs Sweeping AI Safety Law: What Businesses Can Do in 2026 to Prepare For a New Era (Fisher Phillips)