알리바바, 자체 AI가 자체 칩 드라이버 작성…10배 성능 향상

5월 20일 항저우에서 열린 원치 컨퍼런스에서 알리바바는 칩, 모델, 서버 랙 등 세 가지 신제품을 공개했다. 하지만 가장 주목받은 것은 35시간에 걸친 데모였다.

상식을 깨는 데모

알리바바는 새로 출시한 Qwen3.7-Max 모델을 새 Zhenwu M890 칩에서 실행하며 믿기 어려운 작업을 부여했다. 바로 칩의 저수준 커널 드라이버를 스스로 작성해 Extend Attention 연산자를 처음부터 최적화하는 것이었다. 이 칩에 대한 외부 문서는 전혀 없었다.

35시간 후 결과는 다음과 같다:

  • 도구 호출: 1,158회
  • 커널 평가: 432회
  • 아키텍처 재설계: 5회
  • 최종 속도 향상(기하 평균): 10배

쉽게 말해, 모델이 한 번도 본 적 없는 칩에서 드라이버 작성 방법을 처음부터 찾아내 성능을 10배로 끌어올린 것이다. 이런 작업은 보통 칩 제조사의 엔지니어 팀이 1~2개월 걸린다.

Zhenwu M890 칩 사양

주요 사양:

  • HBM3 메모리: 144GB (이전 세대 Zhenwu 810E보다 50% 증가)
  • 상호 연결 대역폭: 800GB/s
  • 전체 연산 성능: 이전 세대의 3배

144GB 메모리는 Nvidia H200(141GB)과 B200(192GB) 사이에 위치하며, 대규모 모델 추론 및 긴 컨텍스트와 여러 단계가 필요한 에이전트 워크로드에 적합하다.

알리바바는 또한 56만 개의 Zhenwu 칩을 400곳 이상의 고객사에 출하했으며 20개 업종을 포괄한다고 밝혔다. 데모 단계가 아니라 실제 운영 중이다.

Qwen3.7-Max 모델

주요 특징:

  1. 컨텍스트 윈도우 100만 토큰(이전 Qwen3.6-Max-Preview의 25.6만에서 확대)
  2. 장시간 작업 및 코드에 최적화
  3. Zhenwu M890과 공동 설계

100만 토큰은 업계 최장은 아니지만, 에이전트 작업에 충분하며 수시간에서 수십 시간 실행 중 컨텍스트를 잃지 않기 위한 입장권이다.

이번 발표가 중요한 이유

세 가지 요소가 겹친다:

첫째, 알리바바는 자체 칩, 모델, 랙(Panjiu AL128)을 모두 갖춰 훈련부터 추론까지 풀스택을 제공한다.

둘째, 모델이 자체 드라이버를 작성하는 데모는 칩의 성능과 모델의 지능을 동시에 보여주는 현명한 선택이다. 또한 알리바바 칩 부서의 저수준 엔지니어 채용 비용 부담을 줄여준다.

셋째, 56만 개 출하 실적은 PPT 칩이 아님을 증명한다.

이 세 가지를 종합하면 알리바바가 중국판 Nvidia+OpenAI를 구축하고 있음을 알 수 있다. 자체 자금과 고객 기반으로 칩, 모델, 통합 솔루션을 제공한다.

Nvidia와의 실제 격차

Zhenwu M890Nvidia H200Nvidia B200
메모리144GB HBM3141GB HBM3e192GB HBM3e
상호 연결800GB/sNVLink 900GB/sNVLink 1.8TB/s
생태계CUDA 대체 구축 중CUDACUDA

하드웨어 사양은 H200에 뒤지지 않지만, 소프트웨어 생태계 격차는 여전하다. Qwen3.7-Max의 자체 커널 작성 능력이 그 격차를 메우는 데 도움이 될 수 있다. 모델이 슈퍼 컴파일러 역할을 하며 필요한 드라이버를 생성한다. 완전한 해결책은 아니지만, 중국 기업이 CUDA를 우회할 수 있는 잠재적 방법을 제시한다.

주목할 점

두 가지:

첫째, 알리바바 클라우드가 올해 하반기에 Zhenwu 연산력을 외부 고객에게 얼마나 개방할지. 56만 개 중 대부분이 내부 사용이면 자체 소비용이고, 30% 이상이 외부에 개방되면 중국 클라우드 시장 구도가 재편될 수 있다.

둘째, Qwen3.7-Max의 드라이버 작성 능력이 다른 칩으로 확장될 수 있는지. 모델이 모든 칩에 적응할 수 있다면 '칩 제조사는 자체 LLM 팀을 보유해야 한다'는 업계 상식이 생기고, 그 반대도 성립할 것이다.

알리바바는 두 축 모두에서 입지를 확보했다.

출처: Alibaba unveils Zhenwu M890 chip and Qwen3.7-Max LLM (Let's Data Science), Qwen3.7-Max Wrote Its Own Chip's Software in 35-Hour Run (TechTimes), Alibaba reveals more powerful Zhenwu AI chip, CocoLoop, new LLM (CNBC), Alibaba Bets Big on AI Agents With New Zhenwu M890 Processor (SQ Magazine)