세미애널리시스가 9월 13일 올린 글에 따르면, CUDA 쪽 vLLM이 DeepSeek V4.1 Flash를 지원하기 시작한 지 이틀이 지나서야 AMD가 자체 DeepSeek V4.1 Flash 이미지를 내놓았다. 이미지 자체는 곧바로 쓸 수 있고 기능상 빠진 것은 없다. 문제는 비용 대비 성능이다. 이 업체의 측정에 따르면 같은 모델을 AMD 하드웨어에서 돌릴 경우 달러당 성능이 H200 대비 최대 14.8배, B200·B300 대비 최대 42배 뒤처진다.
세미애널리시스는 이 격차의 원인을 생태계에서 찾는다. 엔비디아는 개발자 커뮤니티와의 협업을 통해 모델 출시 첫날부터 CUDA 경로를 최적화할 수 있으며, 이 업체는 그 개발자 규모를 600만 명으로 제시했다.
이틀 격차는 어디서 생기나
신모델 출시 직후 며칠간 추론 쪽 작업은 커널 적응, 양자화 경로 선택, 스케줄러 튜닝에 집중된다. vLLM, SGLang 같은 추론 프레임워크의 핵심 개발은 오랫동안 CUDA를 중심으로 돌아갔고, 모델 개발사 자체 참조 구현도 대부분 CUDA에서 먼저 돌아간다. AMD 쪽은 본류 코드가 합쳐진 뒤에야 한 차례 포팅과 검증을 거쳐야 하고, 이틀이라는 시차는 이 과정에서 나오는 일상적인 결과다.
DeepSeek V4.1 Flash는 9월 초 비공개 테스트를 시작해 이후 정식 출시된 세대의 모델로, 구조가 이전 세대와 다르다. 구조 변경 폭이 클수록 포팅 비용이 커지고, 출시 첫날의 성능 격차도 그만큼 벌어진다.
같은 수준의 격차, 3주 전에도 있었다
시계를 3주 전으로 돌리면, 세미애널리시스는 8월 24일 장문맥 에이전트 추론을 전문으로 측정하는 AgentX 1.0이라는 벤치마크를 공개한 바 있다. 이 테스트는 비식별화된 Claude Code 호출 기록 393건을 사용했고, 문맥 길이는 100만 토큰을 넘었으며, 투입된 연산 자원은 GPU 1000장 이상에 소비 전력 약 2메가와트, 예산은 300만 달러 이상으로 기재됐다.
당시 결론은 모델별로 갈렸다. SGLang에서 Qwen3.5는 초당 90토큰/사용자 구간에서 엔비디아가 AMD를 20배 이상 앞섰다. GLM 5.3은 초당 150토큰/사용자 구간에서 엔비디아의 비용 효율이 약 5배 높았다. B300의 FP4 경로는 H100 대비 달러당 성능이 12배 향상됐다. 같은 자료에는 AMD의 ATOM 스택이 알리바바 그룹 전체에서 소규모 광고 사업부 한 곳에서만 쓰인다는 더 뼈아픈 언급도 담겨 있었다.
3주 전의 5배에서 20배 격차와 이번의 14.8배에서 42배 격차는 규모 면에서 맞아떨어진다. 차이는 AgentX가 이미 일정 기간 안정적으로 돌아간 모델을 측정했다면, 이번은 출시 이틀밖에 안 된 신모델을 측정했다는 점이며, 초기 구동 단계의 격차가 더 벌어진 셈이다.
하드웨어 자체는 병목이 아니다
MI355X의 스펙 자체는 뒤처지지 않는다. 세미애널리시스는 8월 자료에서, 특정 구간에서는 AMD 칩을 공짜로 준다 해도 vLLM과 SGLang 쪽이 따라잡기 전까지는 토큰당 비용에서 이길 수 없다는 견해를 밝힌 바 있다. 8월 21일 이후 Inferact와 엔비디아가 기여한 vLLM 쪽 최적화가 더해지면서, 달러당 성능에서 B200이 MI355X를 앞지르게 됐다.
구매자 입장에서 이 수치가 말해주는 것은 조달 판단을 좌우하는 변수가 최대 연산 성능에서 소프트웨어 스택 성숙도와 신모델 적응 속도로 옮겨갔다는 점이다. 신모델 출시 당일 서비스를 열려는 추론 서비스 업체라면, AMD 쪽의 이틀 격차는 곧바로 이틀치 매출 손실을 뜻한다.
수치를 읽을 때 주의할 점
14.8배와 42배 모두 세미애널리시스 단독 데이터이며, AMD는 응답하지 않았고 제3자의 재현 검증도 없다. 달러당 성능이라는 지표는 카드 가격 가정에 극도로 민감해서, 중고 H200과 신품 B300의 시세 차이만으로도 배수가 어느 방향으로든 크게 흔들릴 수 있다. 이 업체는 이전 벤치마크 보고서에서는 테스트 방법과 비용 모델을 공개해 왔지만, 이번 게시글에는 완전한 방법론 설명이 붙어 있지 않다.
AMD의 소프트웨어 스택은 최근 몇 년간 계속 추격해 왔다. 그 속도가 엔비디아의 세대별 최적화 투자를 앞지를 수 있을지는, 다음번 구조를 크게 바꾼 모델이 출시될 때 양측 이미지가 며칠 차이로 나오느냐에 달려 있다.
참고 출처: 세미애널리시스, CocoLoop, vLLM 프로젝트 공개 기록. 달러당 성능 배수와 AgentX 벤치마크의 연산 투입 규모는 모두 세미애널리시스가 밝힌 내용을 그대로 기록한 것으로, 제3자 검증을 거치지 않았다.