M6 2나노 첫 탑재, M5 울트라 512GB 메모리

애플이 M6와 M5 울트라 두 개의 새 칩을 발표했다. 공식 발표 제목에는 “performance and AI compute”라는 문구가 그대로 등장한다. M6는 맥 미니에, M5 울트라는 맥 스튜디오에 탑재되며 현재 예약 주문이 가능하고 9월 22일부터 배송이 시작된다.

M6는 애플의 첫 2나노 칩이자 TSMC 2나노 공정으로 양산된 첫 제품군 중 하나다. 사양은 12코어 CPU(하이퍼코어 2개, 성능 코어 4개, 효율 코어 6개), 12코어 GPU, 16코어 뉴럴 엔진 2개, 최대 32GB 통합 메모리, 170GB/s 대역폭이다. 애플에 따르면 전 세계에서 가장 빠른 싱글 스레드 성능을 갖췄으며 멀티 스레드 성능은 M5보다 1.2배, GPU의 AI 연산 성능은 M5 대비 약 30% 향상, M1 대비 8배 이상, 뉴럴 엔진 성능은 전 세대의 2배다.

M5 울트라는 물량 공세 전략을 택했다. 신세대 울트라퓨전으로 듀얼 다이 구조의 M5 맥스 두 개를 연결해 M 시리즈 최초의 4칩 구조를 구현했다.

M5 울트라의 GPU에는 이번에 뉴럴 액셀러레이터가 새로 탑재돼 AI 연산 성능이 M3 울트라 대비 4.5배, M1 울트라 대비 6배 이상 향상됐다. 1.2TB/s 대역폭은 M3 울트라보다 50% 높다. 애플은 “M5 Ultra features a massive GPU, now with Neural Accelerators, and more unified memory bandwidth, pushing the boundaries of what a desktop can do”라고 밝혔다.

512GB 경계선이 담아내는 것

통합 메모리의 의미가 가장 직관적으로 드러나는 곳은 로컬 추론이다. CPU와 GPU가 같은 메모리를 공유하기 때문에 모델 가중치를 VRAM과 메모리 사이로 옮길 필요가 없다. 개별 GPU 구성에서는 VRAM 용량이 곧 상한선이지만, 맥 스튜디오의 경우 이제 그 상한선이 512GB다.

대략 계산해보자. 오픈소스 진영의 6000억~7000억 파라미터급 MoE 모델은 4비트 양자화 후 가중치 용량이 대체로 350GB에서 400GB 사이다. 여기에 KV 캐시와 런타임 오버헤드를 더해도 512GB면 한 대에 통째로 담을 수 있다. 데이터센터급 구성에서 같은 메모리 용량을 확보하려면 여러 GPU를 상호 연결해야 하며, 비용과 전력 공급은 완전히 다른 차원이 된다.

대역폭은 여전히 약점이다. 1.2TB/s는 데스크톱 기준으로는 높은 수치지만 데이터센터의 HBM 구성 앞에서는 여전히 부족하며, 긴 컨텍스트 추론에서는 토큰 생성 속도가 눈에 띄게 느려질 수 있다. 대신 얻는 것은 다른 종류의 가치다. 콘센트에 꽂아 쓰는 한 대의 기기로 로컬 모델을 돌리며 데이터를 외부로 내보내지 않아도 된다.

2나노라는 한 걸음

M6는 2나노 공정을 가장 먼저 적용받으며, 속도 면에서도 애플은 여전히 선두에 서 있다. 공정의 이점은 최고 클럭이 아니라 전력 효율에서 드러난다. 12코어 중 6개가 효율 코어이고 대역폭도 170GB/s(M5보다 겨우 10% 높음)에 그친다. M6의 설계 방향은 소비 전력을 억제하는 데 있으며, AI 연산력 증가분은 주로 GPU와 뉴럴 엔진의 재설계에서 나온다.

같은 주에 있었던 업계 전반의 움직임과 겹쳐 보면 방향은 일치한다. 데이터센터 쪽은 1킬로와트당 얼마나 많은 추론을 처리할 수 있는지를 두고 경쟁하고, 데스크톱 쪽은 한 대에 얼마나 큰 모델을 담을 수 있는지를 두고 경쟁한다. 추론 비용은 양쪽에서 동시에 낮아지고 있으며, 다만 그 방식이 다를 뿐이다.

한편 맥 미니에 탑재되는 M6는 메모리 상한이 32GB에 그쳐 로컬로 구동할 수 있는 모델 규모가 제한적이다. 이 칩이 겨냥한 고객층은 분명 이 용도와는 거리가 있다.

참고 출처: Apple Newsroom 공식 발표, MacRumors, CocoLoop, Phoronix, 9to5Mac. 코어 수, 메모리 용량·대역폭, 배수 수치는 공식 발표와 대조해 확인했으며, 양자화 모델 용량은 공개된 파라미터를 바탕으로 한 대략적 추산이다.