공개 벤치마크인 τ-voice Bench는 지난 1년간 Gemini 3.1 Flash Live와 GPT Realtime이 선두를 다투어 왔다. 4월 25일, xAI가 새 모델을 투입하여 67.3%를 기록했다.
2위인 Gemini 3.1 Flash Live는 43.8%였다.
이 23.5%포인트 차이는 LLM 벤치마크에서 '리드'라고 부르지 않는다. '다른 차원'이라고 부른다.
더 주목할 만한 것은 점수가 아니다. 이 모델이 Starlink의 고객 서비스 시스템에서 실제로 사용되고 있다는 점이다.
grok-voice-think-fast-1.0: 먼저 숫자를 보자
모델명은 grok-voice-think-fast-1.0이며, 공식 포지셔닝은 'full-duplex 음성 에이전트'이다. Full-duplex는 상대방이 말을 마칠 때까지 기다리지 않고 응답할 수 있다는 의미로, 두 사람이 자연스럽게 대화하듯 듣고 말하는 것이 동시에 가능하다.
τ-voice Bench의 분야별 점수:
| 분야 | grok-voice-think-fast-1.0 | 2위 |
|---|---|---|
| 소매 | 62.3% | 45.6% |
| 항공 | 66.0% | 64.0% |
| 통신 | 73.7% | 40.4% |
통신 분야의 격차가 가장 두드러진다. 73.7% 대 40.4%로 거의 두 배에 가깝다. 이는 파라미터를 쌓아 올린 결과가 아니라, xAI가 고객 서비스, 특히 전자기기 및 계정 관리와 같은 일반적인 시나리오에 특화하여 대규모 훈련을 수행한 결과이다.
25개 이상의 언어를 지원하며, 시끄러운 환경, 억양, 대화 중 끼어들기 상황에서도 안정적인 성능을 유지한다.
'생각'이 끊기지 않는 방법
가장 흥미로운 기술적 특징은 background reasoning(백그라운드 추론)이다.
일반적인 음성 에이전트는 복잡한 요청을 받았을 때 두 가지 전형적인 행동을 보인다. 얕은 수준의 답변을 하거나(얼버무리는 느낌), 몇 초간 침묵하며 생각한다(버벅이는 느낌). 두 경우 모두 사람과 대화하는 느낌이 아니다.
grok-voice-think-fast-1.0의 접근 방식은 응답과 동시에 백그라운드에서 추론을 병렬로 수행하는 것이다. 표면적으로는 저지연 대화 모델이 유창함을 유지한다. "네", "맞아요", "알겠습니다", "확인해볼게요"와 같은 자연스러운 대화 연결어를 사용한다. 그 뒤에서는 다른 추론 패스가 사용자의 실제 문제를 해결한다. 추론 패스의 결과가 나오면 즉시 메인 대화 흐름에 통합된다.
xAI의 공식 발표:
"백그라운드에서 생각한다——응답 지연에 전혀 영향을 주지 않고 복잡한 쿼리와 워크플로를 처리한다."
마케팅 문구처럼 들리지만, τ-voice Bench의 통신 시나리오는 정확히 이것을 테스트하기 위해 설계되었다. 사용자가 긴 계좌 번호, 구독 정보, 주소 변경 사항을 한 번에 말하고, 모델은 200밀리초 이상 멈춰서는 안 된다. 이 시나리오에서 grok-voice-think-fast-1.0이 73.7%의 점수를 기록한 것은 이 메커니즘이 실제로 작동한다는 증거이다.
Starlink가 고객 서비스를 모두 맡겼다: 실제 성과 수치
이론적인 벤치마크는 재미없다. 주목할 만한 것은 Starlink의 배포 데이터이다.
Starlink는 이 음성 에이전트를 실제 판매 및 고객 서비스 전화 회선에 연결했다. 일정 기간 운영한 후, xAI는 몇 가지 KPI를 공개했다.
판매 전환율 20%. 문의 전화를 건 5명 중 1명이 통화 중에 직접 Starlink 서비스 비용을 지불했다는 의미이다.
전통적인 텔레마케팅 업계에서 전문 교육과 스크립트를 거친 현장 영업사원의 평균 콜투세일 전환율은 5~8%면 우수한 편이다. 20%는 인간 영업사원 중에서도 최상위권 실적이며, 이를 지속적으로 유지하는 것은 매우 어렵다. 사람은 피곤해지고, 감정적이 되며, 컨디션이 좋지 않은 날이 있기 때문이다.
AI는 그렇지 않다.
고객 서비스 요청의 70%가 인간의 개입 없이 완전히 자율적으로 해결된다.
이 수치는 더욱 충격적이다. 고객 전화 10통 중 7통은 에이전트가 자체적으로 처리하고, 전화를 끊기 전에 문제를 해결한다는 뜻이다. 청구 조회, 요금제 변경, 기술적 문제의 초기 진단, 주소 변경, 서비스 정지 및 재연결——모두 엔드투엔드로 완료되며, 인간에게 이관되지 않는다.
나머지 30%는 에스컬레이션되어 인간 상담원이 처리하지만, 이 단계에 도달하기 전에 음성 에이전트는 고객의 문제, 계정 컨텍스트, 시도된 해결 방법을 이미 패키징해 놓는다. 인간 상담원은 "고객님 계좌 번호가 어떻게 되세요? 이전에 어떤 것을 시도해 보셨나요?"라고 묻지 않고 바로 처리할 수 있다.
단일 에이전트가 28개의 서로 다른 내부 도구를 동시에 조작한다.
이것이 가장 주목할 만한 점이다. '에이전트'라는 용어는 지난 1년간 남용되었지만, 실제 프로덕션 환경에서 수십 개의 도구 호출을 조율할 수 있는 경우는 드물다. 이번 Starlink 배포에서 하나의 대화 흐름은 계정 시스템, 결제 시스템, 장치 상태 조회, 커버리지 맵, 물류 추적, 환불 처리, 기술 티켓, 현장 서비스 스케줄링, 고객 관계 기록 등을 포함할 수 있다. 5~10분 통화 동안 에이전트는 15번의 도구 호출을 수행할 수도 있다.
왜 Starlink가 먼저 사용했는가
우연이 아니다.
xAI와 Starlink는 모두 SpaceX 생태계 내에 있다. 머스크는 지난달 SpaceX와 xAI를 합병하여 IPO를 신청했다(1.75조 달러 평가액, 역대 최대). 이러한 '자사 제품을 먼저 자사가 사용하는' 내부 협력은 Salesforce나 Microsoft에 판매하는 것보다 훨씬 빠르다. Starlink가 매출에 직결되는 중요한 전화 회선을 신규 모델에 연결할 수 있었던 것은, 문제가 발생하면 머스크가 문자 한 통으로 수정할 수 있기 때문이다.
이러한 내부 루프는 모델 훈련에도 금광과 같다. Starlink의 일일 고객 서비스 통화량은 수백만 건에 달하며, 모두 RLHF 훈련 데이터로 xAI에 환류된다. 일반적인 음성 AI 회사가 이러한 규모의 실제 데이터를 확보하려면 고객 확보와 규정 준수에 수년이 걸린다. xAI는 지름길을 택한 것이다.
이 사건이 바꾸는 것
첫째, 음성 AI 시장의 선두 구도가 재편되었다.
지금까지 음성 에이전트 분야의 선두 주자는 OpenAI Realtime, Google Gemini Flash Live, ElevenLabs, Vapi, Bland 등이었다. 이번 τ-voice Bench에서의 차이는 1~2포인트가 아니라 단절이다. 단기적으로 Gemini와 OpenAI는 역량을 보강하기 위해 돌아가야 할 것이다.
둘째, B2B 구매자의 의사 결정 기준이 바뀌었다.
이전까지 기업이 음성 공급업체를 선택할 때 주요 기준은 지연 시간과 음질 두 가지였다. 이제 세 번째 축으로 '엔드투엔드로 문제를 해결할 수 있는가'가 추가되었다. Starlink의 70% 자율 해결률은 이 기준을 명확히 했다. 문제를 해결할 수 있는 음성 에이전트와 그렇지 못한 에이전트는 서로 다른 가격대에 위치해야 한다.
셋째, B2C 사용자 경험의 한계가 높아졌다.
20% 판매 전환율, 70% 자율 해결, 28개 도구 조작, 25개 언어 지원, 제로 지연 사고. 1년 전만 해도 이러한 지표는 음성 AI 업계에서 '이론적 한계'로 여겨졌다. 지금은 '프로덕션에서 운영 중인 실측값'이 되었다. 고객 서비스에 음성 에이전트를 사용하는 모든 기업은 이제 자사의 기준선을 재고해야 한다.
Anthropic과 OpenAI가 다음에 어떤 카드를 내놓을지는 오래 기다리지 않아도 될 것이다. 두 회사 모두 음성 기능을 보유하고 있지만, 아직 'SpaceX 자회사의 모든 고객 서비스 회선을 인수하는' 규모의 배포 사례는 제시하지 못했다. τ-voice Bench 곡선은 다음 업데이트에서 매우 흥미로워질 것이다.
참고 출처: Grok Voice Think Fast 1.0(xAI 공식 발표), CocoLoop, xAI Launches grok-voice-think-fast-1.0: Topping τ-voice Bench at 67.3%(MarkTechPost), xAI launches Grok Voice Think Fast 1.0 for voice agents(Testing Catalog), xAI Unveils Grok Voice AI That Thinks In Real Time While Handling Customer Support At Scale(Metaverse Post)