Yann LeCun이 메타를 떠난 후, 모두가 기다리던 일을 해냈다.
그는 AMI Labs를 설립하고 10억 3000만 달러 규모의 시드 라운드를 기업가치 35억 달러에 마감했다. 유럽 역사상 최대 규모의 시드 라운드다. 그리고 이렇게 선언했다. "다음 단어를 예측하는 방식으로 작동하지 않는 AI를 만들겠다."
LeCun이 대규모 언어 모델을 좋아하지 않는 이유
새로운 입장이 아니다. LeCun은 수년간 LLM의 방식을 비판해왔다. 그의 핵심 주장은 단순하다. 텍스트 예측만으로는 진정한 이해가 생기지 않는다는 것이다.
아무리 많은 텍스트를 모델에 집어넣어도 학습되는 것은 언어의 통계적 패턴일 뿐, 세상 자체가 어떻게 돌아가는지가 아니다. 아이가 유리잔이 탁자 가장자리에서 떨어지는 것을 보면 중력에 관한 글자를 단 한 줄도 읽지 않았어도 깨질 것임을 안다. LLM은 그렇게 할 수 없다. 물리적 세계에 대한 직접적인 지각이 없기 때문이다.
LeCun은 이 문제를 그라운딩(grounding)이라고 부른다. 쉽게 말해 모델이 단어 속에만 갇히지 않고 실제 세계와 접촉해야 한다는 뜻이다.
AMI Labs는 이 문제에 대한 그의 실천적 답변이다.
JEPA란 무엇이며 LLM과 어떻게 다른가
회사의 핵심 기술은 JEPA(Joint Embedding Predictive Architecture, 결합 임베딩 예측 아키텍처)로, LeCun이 2022년에 제안한 프레임워크다.
LLM과의 가장 근본적인 차이는 예측 대상에 있다.
- LLM: 다음 토큰(단어 조각)을 예측
- JEPA: 추상적인 상태 표현을 예측
다소 난해하게 들리지만 본질적인 차이는 크다. LLM은 모든 단어를 예측 대상으로 삼으며, 정보량이 적은 조사나 관사 같은 기능어에도 상당한 모델 용량을 낭비한다. JEPA는 이런 것들을 건너뛰고 더 추상적인 수준에서 예측한다. "이 행동을 하면 세상이 어떤 상태가 될까"라는 식이다.
이것이 세계 모델(world model)이라고 불리는 이유다. 언어의 표면적 패턴만 학습하는 것이 아니라, 세상이 어떻게 작동하는지에 대한 내부 모델을 구축하려고 시도한다.
실제 적용에 미치는 영향:
- 로보틱스: 행동의 결과를 예측해야 하며, JEPA가 자연스럽게 적합
- 의료 진단: 물리적 과정에 대한 인과 추론 능력 필요
- 산업 제어: 상태 변화의 지속적 추적 필요
AMI Labs의 CEO인 Alexandre LeBrun은 의미심장한 말을 남겼다.
"세계 모델이 곧 다음 펀딩 버즈워드가 될 것이라고 예측한다. 6개월 안에 모든 회사가 자금 조달을 위해 스스로를 세계 모델 회사라고 부를 것이다."
10억 3000만 달러 규모의 시드 라운드를 갓 조달한 사람이 한 말이라 풍자적이다.
회사 구성
AMI Labs의 본사는 파리에 있지만, 뉴욕(LeCun이 NYU에서 가르치는 곳), 몬트리올, 싱가포르에도 팀을 두고 있다.
핵심 팀:
- 집행 회장: Yann LeCun(2018년 튜링상 수상자, 전 메타 최고 AI 과학자)
- CEO: Alexandre LeBrun(연쇄 창업가, AI 회사를 Facebook에 매각한 경험 보유)
- CSO: Saining Xie(시각 표현 학습 연구자)
리드 투자자는 Bezos Expeditions, Cathay Innovation, Greycroft, Hiro Capital, HV Capital이다. 베조스의 자금이 들어왔다는 것은 이것이 단순한 학술적 게임이 아님을 의미한다.
주목할 만한 시점
이번 발표는 Fei-Fei Li의 World Labs가 10억 달러를 조달한 지 한 달 만에 나왔다. 두 회사 모두 세계 모델에 베팅하고 있으며, 모두 AI 분야 최고 학자들이 창업했고, 모두 놀라운 규모의 시드 라운드를 확보했다.
우연이 아니다. 투자자들은 현재의 LLM 스케일링 경로가 어떤 한계에 다다르고 있으며, 차세대 AI에는 근본적으로 다른 아키텍처가 필요할 가능성을 감지하고 있다.
LeCun의 "텍스트 예측만으로는 부족하다"는 주장은 한때 학술적 논쟁에 불과했다. 이제 그 뒤에는 10억 3000만 달러가 있다. 논쟁은 도박이 되었다.
쉽지 않은 이유
JEPA는 논문으로 존재한 지 4년이 되었지만, 실제 시스템에서 입증된 성과는 제한적이다. LLM은 이 4년 동안 벤치마크에서 눈에 띄는 발전을 보여준 반면, JEPA의 진전은 상대적으로 조용했다.
LeCun의 비판은 옳다. 하지만 문제를 지적하는 것과 더 나은 해결책을 만드는 것은 별개의 일이다.
설령 JEPA의 방향이 옳더라도, AMI Labs는 이미 엄청난 선발 우위를 가진 업계와 정면 승부를 벌여야 한다. OpenAI, Anthropic, Google은 LLM의 한계를 알고 있으며, 멀티모달 및 에이전틱 방향으로 나아가고 있다. 단지 LeCun만큼 철저하지 않을 뿐이다.
AMI Labs의 기업가치는 35억 달러이지만 아직 제품이 없다. 이것은 신념에 대한 투자이지, 제품에 대한 투자가 아니다.
하지만 LeCun이 옳다면, 지금 투입된 10억 3000만 달러는 이번 10년 동안 가장 가치 있는 베팅이 될 수도 있다.
출처: Yann LeCun's AMI Labs Raises $1.03B for World Models Development (TechCrunch); AMI Labs Secures $1B Seed Round Led by Yann LeCun (Crunchbase News); Yann LeCun's AMI Labs Raises $1B in Seed Round to Develop World Model AI Systems (The AI Insider); CocoLoop; [AINews] Yann LeCun's AMI Labs launches with a $1B seed @ $3.5B to build world models around JEPA (Latent Space)