양자 컴퓨터에는 엔지니어들을 골치 아프게 하는 오래된 문제가 있다. 바로 교정(캘리브레이션)이다. 양자 처리 장치(QPU)를 일정 시간 가동하면 큐비트 간의 결맞음(코히런스)이 표류하여 재조정이 필요하다. 수동 교정은 경험이 풍부한 팀이 있어도 며칠에서 일주일까지 걸릴 수 있다.
엔비디아는 4월 14일 이 문제에 대한 새로운 해결책을 내놓았다. 엔비디아 이징(NVIDIA Ising)은 Apache 2.0 라이선스로 무료 제공되는 세계 최초의 오픈소스 양자 AI 모델군이다.
두 가지 모델, 두 가지 문제 해결
이징은 단일 모델이 아니라 두 가지 구성 요소로 이루어져 있다.
이징 캘리브레이션(350억 파라미터)
양자 프로세서의 측정 결과를 '읽도록' 설계된 비전-언어 모델이다. 큐비트 상태 데이터는 일반 데이터로 표현하기 어렵지만, 이미지와 텍스트를 결합한 표현이 놀랍도록 효과적이다.
- 모델 입력: 큐비트의 다양한 측정 데이터(초전도, 양자점, 이온, 중성 원자 등 플랫폼 지원)
- 모델 출력: 교정 작업 제안 및 자동 실행
- 효과: 교정 시간을 며칠에서 몇 시간으로 단축
새로 도입된 QCalEval 벤치마크에서 이징 캘리브레이션의 성능은 다음과 같다.
- Gemini 3.1 Pro보다 3.27% 높음
- Claude Opus 4.6보다 9.68% 높음
- GPT-5.4보다 14.5% 높음
이 전문 영역에서 오픈소스 모델이 가장 강력한 세 가지 클로즈드소스 플래그십 모델을 모두 앞질렀다.
이징 디코딩(두 가지 3D CNN)
양자 컴퓨터는 본질적으로 오류가 발생하기 쉬우며, 양자 오류 정정(QEC)은 이러한 오류를 실시간으로 감지하고 수정하는 메커니즘이다. 이징 디코딩은 빠른 버전과 정밀 버전 두 가지를 제공한다.
| 버전 | 파라미터 수 | 속도 향상 | 정밀도 향상 |
|---|---|---|---|
| 빠른 버전 | 약 91.2만 | 2.5배 | 1.11배 |
| 정밀 버전 | 약 179만 | 2.25배 | 1.53배 |
비교 기준은 현재 업계 표준 디코더인 pyMatching이다. 속도와 정밀도 모두에서 앞서는 것은 상당한 의미가 있다.
13개 큐비트, 오류율 0.3% 조건에서의 실제 테스트 결과, 각 디코딩 라운드에 소요된 시간은 단 2.33마이크로초(FP16 정밀도)였다.
엔비디아가 이것을 하는 이유
양자 컴퓨터 시장은 아직 작으며 엔비디아의 주력 사업이 아니다. 그러나 몇 가지 전략적 논리가 작용하고 있다.
GPU는 양자 컴퓨터에 가장 적합한 클래식 컴퓨팅 파트너다. 양자 오류 정정, 양자 회로 시뮬레이션, 양자 알고리즘 최적화는 모두 기존 컴퓨팅 하드웨어에서 실행된다. 엔비디아의 CUDA-Q 플랫폼은 GPU+QPU 하이브리드 컴퓨팅 프레임워크이며, 이징이 여기에 직접 통합되었다. 오픈소스 모델이어도 생태계는 엔비디아의 것이다.
내결함성 양자 컴퓨팅(FTQC) 시장에 선제적으로 대응한다. 양자 컴퓨터가 진정으로 실용화되려면 내결함성은 반드시 넘어야 할 장벽이다. 디코더는 가장 기본적인 기반 구성 요소이며, 지금 오픈소스로 공개함으로써 시장이 성숙해졌을 때 선점 효과를 얻을 수 있다. 이는 과거 CUDA가 GPU 컴퓨팅 생태계에 했던 역할과 같다.
학술 파트너 네트워크를 확장한다. 하버드 공과대학, 페르미 국립 가속기 연구소, 로렌스 버클리 국립 연구소, 영국 국립 물리 연구소, IQM 퀀텀 컴퓨터스 — 이 기관들은 양자 컴퓨팅 연구의 핵심 노드다. 이징은 엔비디아를 이 공급망에 편입시킨다.
주식 시장의 연쇄 반응
CNBC는 4월 16일 이징 발표 이후 양자 컴퓨팅 관련주가 일제히 상승했으며, IonQ는 하루 만에 20% 이상 급등했다고 보도했다.
이 상승폭은 시장이 신호를 읽었음을 보여준다. IonQ는 엔비디아의 양자 프로세서 파트너 중 하나이며, 이징은 IonQ의 이온 트랩 양자 하드웨어를 지원한다. 즉, 엔비디아가 최소한 교정과 디코딩이라는 두 가지 핵심 역량에서 이온 트랩 방식을 공개적으로 지지한 셈이다.
'양자+AI' 조합이 구체적인 제품으로 현실화되기 시작했으며, 더 이상 PPT에만 머물러 있지 않다.
주목할 만한 세부 사항
이징이라는 이름은 상전이와 자성을 설명하는 통계역학 모델인 물리학의 이징 모델(Ising model)에서 유래했다. 양자 컴퓨터의 교정 문제는 수학적으로 이와 대응 관계가 있어, 이름이 임의로 지어진 것이 아니다.
엔비디아는 이 기술 방향에 마케팅용 화려한 이름이 아닌, 진지한 물리학 이름을 부여했다.
양자 컴퓨터가 언제 진정으로 상용화될지 정확한 일정을 제시할 수 있는 사람은 아무도 없다. 그러나 그날이 온다면, 양자 오류 정정은 반드시 해결해야 할 인프라 문제다. 엔비디아는 여기에 말뚝을 박았고, 그것을 오픈소스로 공개했다.
출처: NVIDIA Launches Ising, the World's First Open AI Models to Accelerate the Path to Useful Quantum Computers (NVIDIA Newsroom); NVIDIA Ising Introduces AI-Powered Workflows to Build Fault-Tolerant Quantum Systems (NVIDIA Technical Blog); CocoLoop; Quantum stocks on pace for a massive week after Nvidia debuts AI models to boost the tech (CNBC)