Mira Murati는 2024년 말 OpenAI를 떠났다. 당시 OpenAI는 IPO를 앞둔 전성기였고, 그녀는 CTO로서 핵심 엔지니어 그룹과 함께 퇴사했다.
많은 이들이 그녀가 또 다른 GPT 스타일 언어 모델을 추구할 것이라고 예상했다. 그러나 그녀는 Tinker를 만들었다.
Thinking Machines Lab이 실제로 하는 일
간단히 말해, Tinker는 개발자가 모든 오픈소스 대규모 언어 모델에 '능력 패치'를 적용할 수 있게 해주는 API다.
Llama 4가 Python 코드 작성을 더 잘하길 원하는가? Tinker에 레이블이 지정된 데이터를 제공하면 강화 학습을 사용해 해당 모델을 'Python 전문가' 버전으로 미세 조정해준다. 자체 GPU 클러스터를 유지하거나 훈련 파이프라인을 구축할 필요 없이 API 호출만으로 가능하다.
이 제품 개념은 OpenAI의 fine-tuning API와 유사하지만, 기본 접근 방식은 다르다. Tinker의 핵심은 강화 학습(RL) 기반 미세 조정이며, 표준 지도 학습 미세 조정이 아니다. RL 미세 조정은 SFT보다 제어하기 어렵지만 특정 작업에서는 훨씬 더 나은 결과를 제공한다. DeepSeek의 추론 능력 향상도 이와 동일한 경로에서 비롯되었다.
Thinking Machines의 최고 과학자는 John Schulman이다. 그는 PPO 알고리즘의 공동 저자이자 OpenAI 초기 RL 훈련 프레임워크의 주요 설계자다. 요컨대, 그들은 강화 학습 분야에서 가장 잘 아는 사람을 영입한 셈이다.
다른 두 명은 CTO Soumith Chintala(PyTorch 창시자)와 CEO Mira Murati本人이다. 이 세 사람은 모델 프레임워크, RL 이론, 제품 직관이라는 드문 조합을 이룬다.
Google과의 거래
4월 22일, 라스베이거스에서 열린 Google Cloud Next에서 Thinking Machines Lab과 Google Cloud는 새로운 계약을 발표했다.
규모: 수십억 달러(TechCrunch가 단독 보도. 소식통은 '한 자릿수 수십억 달러' 규모라고 설명했으며 정확한 금액은 공개되지 않음).
계약 내용:
- 하드웨어: Nvidia GB300 NVL72 시스템. 72개의 GPU로 구성된 대형 액체 냉각 캐비닛으로, 훈련 및 추론 속도가 이전 세대보다 2배 빠름
- 네트워킹: Google 자체 Jupiter 네트워크 아키텍처. GPU 간 가중치 전송 전용
- 소프트웨어 서비스: Kubernetes Engine, Spanner 데이터베이스, Cloud Storage(Anywhere Cache 포함)
- 가상 머신: A4X Max 인스턴스. 각 인스턴스는 4개의 Nvidia Blackwell Ultra GPU, 72코어 CPU, 37TB 메모리 탑재
RL 미세 조정에 왜 이런 수준의 컴퓨팅 성능이 필요할까? 창립 연구원 Myle Ott가 핵심 병목 현상을 설명했다:
"각 훈련 반복에서 가중치는 수천 개의 GPU 간에 수천 번 동기화되어야 합니다. 상호 연결 대역폭이 충분하지 않으면 훈련 효율성이 즉시 붕괴됩니다."
이는 일반적인 추론 배포가 아니라 컴퓨팅 집약적인 훈련 작업이다. Myle Ott의 평가:
"Google Cloud 덕분에 기록적인 속도로 가동을 시작할 수 있었고, 안정성도 우리의 요구 사항을 완벽히 충족했습니다."
배경 세부 사항
Thinking Machines은 약 14개월 전인 2025년 초에 설립되었다.
자금 조달: 2025년 7월, 120억 달러의 가치 평가로 20억 달러의 시드 라운드를 완료했다. 시드 라운드에서 20억 달러를 조달하는 것은 전체 기술 업계에서도 매우 드문 일로, 투자자들의 신뢰가 일반적인 판단 기준을 넘어섰음을 보여준다.
팀: 130명 이상. 그러나 과제에 직면해 있다. Meta는 이미 Thinking Machines에서 창립 멤버 7명을 스카우트했으며, 여기에는 Tinker의 주력 엔지니어도 포함되어 있다. 이 규모의 인재 이탈은 AI 업계에서 무시할 수 없는 수준이다.
Nvidia와의 거래: 3월, Thinking Machines은 Nvidia와 또 다른 계약을 체결했다. 1기가와트가 넘는 용량의 Vera Rubin GPU 시스템을 구매하고, Nvidia도 직접 투자했다. 컴퓨팅 자원 측면에서 이 회사는 Google과 Nvidia 양쪽에 동시에 베팅하고 있다.
계약은 비독점적이다. 다른 클라우드 제공업체를 계속 사용할 수 있다. 그러나 Google GB300의 초기 배치에 대한 액세스 권한을 확보했다는 것은 Google이 이 연구소를 적극적으로 유치하고 있음을 의미한다.
참고로, 이번 Google Cloud Next에서 Google은 Anthropic 및 Meta와의 새로운 계약도 동시에 발표했다. 여러 최고 연구소를 한 번에 확보하는 이 움직임은 Google Cloud가 AI 컴퓨팅 시장을 적극적으로 잡으려는 명확한 신호다.
이 경로가 흥미로운 이유
AI 업계에는 현재 두 가지 갈래의 흐름이 있다.
하나는 범용 능력을 계속 쌓아가는 것이다. 더 큰 모델을 훈련하고, 큰 벤치마크 점수를 추구한다.
다른 하나는 수직적 미세 조정이다. 기존 오픈소스 모델을 가져와 특정 작업에 맞게 강화하고 기업에 제공하는 것이다. Thinking Machines은 후자를 추구한다.
비즈니스 논리는 다음과 같다. 대부분의 기업은 실제로 GPT-5를 필요로 하지 않는다. 그들은 "계약 문서를 정확하게 처리할 수 있는 모델"이나 "내부 코드 검토 기준을 통과하는 AI 어시스턴트"를 필요로 한다. 특히 데이터 보안 요구 사항이 높은 산업에서는 범용성보다 맞춤화가 더 설득력 있다.
Tinker가 RL 미세 조정 경로를 원활하게 구축할 수 있다면, 엔터프라이즈 AI 스택에서 진정한 기반 계층이 될 가능성이 있다. 눈에 띄지는 않지만 우회하기 어려운 계층이다.
창립 14개월 된 회사가 수십억 달러 규모의 Google 컴퓨팅 계약을 따냈고, 최고 과학자는 RL 분야의 핵심 인물이다. 그들이 다음에 무엇을 발표할지 계속 지켜볼 가치가 있다.
출처: Exclusive: Google deepens Thinking Machines Lab ties with new multibillion-dollar deal (TechCrunch); Google Cloud inks AI infrastructure deal with Thinking Machines (SiliconAngle); CocoLoop; Thinking Machines Signs Multi-Billion Google GB300 Deal (Implicator.ai)