IBM은 5월 5일 보스턴에서 Think 2026을 열며 기업 AI 전략의 초점을 다시 잡았다.
Arvind Krishna CEO는 기업 AI를 운영하려면 핵심 인프라를 다루는 수준의 엄격함, 거버넌스, 확장성으로 AI 기반 시스템을 관리하는 새로운 운영 모델이 필요하다고 말했다.
이전의 IBM Think가 watsonx를 주로 “기업 AI 플랫폼”으로 설명했다면, 올해 IBM은 더 넓은 이름을 붙였다. 바로 AI Operating Model이다.
이 변화는 시장 상황이 달라졌기 때문이다.
수천 개 에이전트를 누가 관리할 것인가
지난 1년 동안 기업 내부의 에이전트 수는 몇 개에서 수십 개로 늘었다. 팀도 다르고, 플랫폼도 다르고, 모델도 다르다. 실제로 몇 개가 돌아가는지, 누가 승인했는지, 문제가 생기면 누가 책임지는지 파악하기 어려워졌다.
IBM은 기업의 핵심 과제가 에이전트를 만드는 단계에서, 수천 개 에이전트를 거의 실시간으로 통제하고 감사 가능하게 유지하는 단계로 이동했다고 본다.
이번 Think의 중심 제품은 그 지점을 겨냥한다. 비공개 프리뷰 중인 차세대 watsonx Orchestrate는 서로 다른 플랫폼과 벤더의 에이전트를 연결하고 단일 정책으로 관리하는 agentic control plane으로 제시됐다. 보안과 비용을 이해하는 개발 파트너 에이전트 IBM Bob도 이제 정식 출시돼 운영 환경에 투입할 수 있다.
Concert Secure Coder는 개발 흐름에 직접 들어가 코드를 작성하는 순간 취약점을 줄이는 방식이다. 보안 검토를 병합 이후로 미루는 모델을 앞당기려는 시도다.
쉽게 말해 IBM은 AI 거버넌스를 사후 감사에서 개발 단계 자체로 끌어올리려 한다.
데이터 계층도 보강했다
에이전트만으로는 충분하지 않다. 업무 데이터와 연결되지 않으면 어떤 에이전트도 공회전한다. IBM은 스트리밍, 검색, 운영, 주권 인프라를 묶은 스택을 제시했다.
| 플랫폼 | 역할 | 상태 |
|---|---|---|
| IBM Confluent | Kafka와 Flink 기반 실시간 스트리밍 | 인수 후 통합 |
| watsonx.data | OpenRAG, OpenSearch, GPU 가속 Presto 추가 | 비공개 프리뷰 |
| Concert | AI 운영 관리 플랫폼 | 공개 프리뷰 |
| Sovereign Core | 주권 인프라 계층 | 정식 출시 |
| IBM Bob | 기업용 에이전트 개발 파트너 | 정식 출시 |
watsonx.data에서 눈에 띄는 수치는 Nestle 개념검증이다. IBM은 186개국에 걸친 글로벌 데이터 마트에서 비용을 83% 줄이고 가격 대비 성능을 30배 높였다고 밝혔다. IBM은 이를 벤치마크가 아니라 실제 운영 환경에서 나온 결과로 설명했다.
Sovereign Core는 더 전략적인 제품이다
AI에서 주권은 점점 필수 조건이 되고 있다. 유럽은 데이터 현지 통제를 요구하고, 중동은 데이터 국외 이전을 제한하려 하며, 캐나다와 인도에서도 AI 주권 논의가 커지고 있다.
IBM Sovereign Core는 인프라 계층의 규정 준수와 운영 독립성을 제품으로 만든 것이다. 파트너 명단에는 AMD, Dell, Intel, Mistral, MongoDB, Palo Alto Networks, Red Hat, Cloudera, Elastic, Confluent가 포함됐다.
Mistral의 참여는 의미가 있다. IBM이 주권 AI 프로젝트의 총괄 사업자 역할을 하고, Mistral이 모델 계층의 한 축을 맡는 구도가 가능해진다.
핵심 단어는 AI Divide
Krishna는 “The AI Divide”, 즉 막대한 AI 투자와 제한적인 실제 성과 사이의 격차를 반복해서 언급했다. IBM은 CIO들에게 AI를 파일럿 투자가 아니라 핵심 시스템 투자로 봐야 한다고 말하고 있다.
이 프레임은 IBM에 유리하다. 컴플라이언스, 재해복구, 감사 추적, 장기 운영 인프라는 AI 네이티브 기업보다 IBM이 더 오래 다뤄온 영역이기 때문이다.
이번 행보의 의미
단기적으로는 watsonx Orchestrate와 Sovereign Core가 실제 고객 도입으로 이어지는지가 관건이다. 중장기적으로 IBM의 방향은 설득력이 있다. 더 강한 에이전트를 만드는 것보다 수천 개 에이전트를 관리하는 일이 기업의 더 빠른 고통점이 될 수 있다.
Salesforce의 Agentforce, Microsoft의 Agent 365, IBM의 watsonx Orchestrate는 모두 이 통제 계층을 노린다. IBM의 차별점은 기존 고객 기반과 규제 산업에서의 신뢰다.
AI Divide가 실제로 좁혀질지는 이후 watsonx 매출 지표에서 더 분명해질 것이다.
출처: Think 2026: IBM Delivers the Blueprint for the AI Operating Model as the AI Divide Widens(IBM Newsroom); IBM Combines AI Operations, CocoLoop, Sovereign Infrastructure, and Quantum Drug Discovery Progress at Think 2026(StorageReview); IBM rolls out tools to run thousands of AI agents with governance(Stocktitan)