AMD, APU에 192GB 메모리 탑재…로컬에서 300B LLM 실행 가능

192GB. 이것이 AMD 차세대 Ryzen AI Max 400 단일 칩 APU의 통합 메모리 상한선이다.

즉——PC에 APU 하나만 장착하면 300B 이상 파라미터의 대규모 언어 모델을 로컬에서 실행할 수 있다. x86에서는 처음 있는 일이다.

칩 이름: Gorgon Halo

코드명 'Gorgon Halo', 정식 명칭 Ryzen AI Max 400 시리즈는 작년 Strix Halo(Ryzen AI Max 300)의 소폭 업그레이드 버전이다.

주요 사양:

  • CPU: 16 Zen 5 코어 / 32 스레드, 최대 5.2GHz(전 세대 5.1GHz)
  • GPU: 40 RDNA 3.5 CU, 최대 3.0GHz(전 세대 2.9GHz)
  • NPU: XDNA 2, 55 TOPS(전 세대 50 TOPS)
  • 최대 통합 메모리: 192GB(전 세대 128GB)
  • VRAM 사용 가능: 160GB(전 세대 96GB)

주요 업그레이드는 마지막 두 줄——메모리 상한선이 64GB 증가한 점이다. CPU, GPU, NPU는 아키텍처 변경 없이 클록만 소폭 향상되었다. 원래는 '미세 조정' 칩이었지만, 메모리 증대로 상황이 완전히 바뀌었다.

192GB가 분수령인 이유

300B 파라미터 모델을 4비트 양자화하면 약 150GB의 VRAM을 사용한다. KV 캐시와 시스템 오버헤드를 더하면 160GB의 사용 가능 VRAM이 딱 맞는다.

이전에는 x86 클라이언트에서 300B 모델을 실행하는 것이 거의 불가능했다:

  • MacBook Pro M4 Max: 최대 128GB 통합 메모리——70B에는 충분하지만 300B에는 미달
  • RTX 5090 / 5080 구성: 단일 카드 24~32GB, 100GB 이상을 위해 3~4개 카드 필요, 가격 1만 달러 이상
  • Ryzen AI Max 300: 128GB 상한, M4 Max와 동급

Gorgon Halo의 192GB는 '300B LLM을 로컬에서 실행한다'는 과제를 '서버를 조립해야 한다'에서 '노트북 하나면 된다'로 바꾼 첫 사례다.

쉽게 말해: DeepSeek V4 Pro 1.6T는 여전히 무리지만, Llama 3.3 405B, Qwen3.6-Max 27B, GLM-5.1 중간급 모델은 이 칩 하나로 모두 커버된다.

AMD의 진짜 속내: 게임이 아닌 AI 에이전트

이 칩은 게이밍 노트북이 아닌 AI 에이전트 워크로드를 겨냥한다.

에이전트 워크로드를 실행할 때, 장시간 실행되는 에이전트는 대규모 모델 가중치를 로컬 메모리에 몇 시간 동안 유지할 수 있다. 클라우드 API 추론 호출 비용은 초 단위로 누적된다. 로컬에서 실행 가능한 장치가 있다면 전문 사용자(개발자, 연구자, 기업 엔지니어링 팀)에게 ROI가 충분히 나온다.

구체적인 시나리오:

  • Claude Code / Codex의 오프라인 대안: 개발자가 로컬에서 70B~300B 모델을 실행하여 데이터 유출 없이 코드 완성
  • 기업 민감 데이터 분석: 법무, 의료, 금융 업계는 클라우드 모델을 사용할 수 없어 로컬 LLM이 유일한 해결책
  • 장시간 실행 에이전트: 연구자가 자동 문헌 검토 에이전트를 8시간 실행하면 클라우드 API 비용이 예산을 초과

XDNA 2 NPU는 55 TOPS를 제공하며 '소형 모델 상주' 용도로 설계되었다——7B 모델이 일상 작업을 처리하고 300B 메인 모델이 필요 시 호출되는 계층형 아키텍처다.

다소 불편한 세부 사항

OEM 출하 시기는 2026년 3분기——ASUS, HP, Lenovo 세 업체가 우선 공급한다. 즉, 실제로 이 칩을 구매할 수 있는 가장 빠른 시기는 7월이다.

또한 192GB 구성은 저렴하지 않다. Strix Halo 풀 구성은 현재 약 3,000달러에 판매되며, Gorgon Halo 풀 구성은 4,000달러 이상으로 예상된다. 전체 시스템을 포함하면 300B 모델을 실행할 수 있는 노트북은 5,000~6,000달러 범위에 이를 것이다.

쉽게 말해: 이 칩은 일반 소비자용이 아니다. 이전에 H100이나 RTX 6000 Ada를 구매해야 했던 소규모 팀, 연구자, 독립 개발자를 위한 제품이다.

하지만 그 그룹에게 5,000달러 노트북으로 300B 모델을 실행할 수 있다는 것은 3만 달러짜리 H100 카드보다 훨씬 비용 효율적이다.

생태계에 미치는 영향

AMD의 지난 2년간 AI 전략은 명확해졌다:

  • 데이터센터: MI300X / MI400으로 Nvidia와 정면 승부
  • 소비자 APU: NPU + 대형 GPU + 대용량 메모리를 하나의 다이에 통합하여 로컬 모델 추론 가능

Nvidia의 소비자용 RTX 50 시리즈는 여전히 통합 메모리 솔루션을 제공하지 않는다. AMD는 정면 충돌을 피하고 '로컬 AI 추론'이라는 새로운 시장을 다른 경로로 개척하고 있다.

Gorgon Halo가 3분기에 출시되어 로컬 LLM 도구 체인(llama.cpp, Ollama, LM Studio)과의 호환이 좋다면, 이 길은 성공할 가능성이 있다.

다음 주목할 점은——Apple M5 Max의 메모리 상한선이다. Apple이 올가을 M5 Max의 메모리를 192GB 이상으로 올린다면, 로컬 AI 추론 하드웨어 전쟁이 본격화될 것이다.

출처: CocoLoop, AMD Ryzen AI Max 400 'Gorgon Halo' packs up to 192GB of unified memory (Tom's Hardware), AMD Pushes Ryzen AI MAX 400 to 192GB Memory, Letting a Single Chip Run 300B+ Parameter LLMs Locally (WCCFTech), AMD Ryzen AI Max 400: New APU Unlocks 192GB Unified Memory (HotHardware), AMD confirms Ryzen AI MAX 400 will support up to 192GB memory and 160GB VRAM (VideoCardz)