DeepSeek, 추론 가속 DSpark 공개
DeepSeek와 베이징대는 생성 속도를 60~85% 높이고 단일 GPU 처리량을 최대 6.6배 끌어올릴 수 있는 추론 프레임워크 DSpark를 오픈소스로 공개했다.
AI 추론 관련 제품 동향과 산업 분석 3건을 모았습니다.
DeepSeek와 베이징대는 생성 속도를 60~85% 높이고 단일 GPU 처리량을 최대 6.6배 끌어올릴 수 있는 추론 프레임워크 DSpark를 오픈소스로 공개했다.
샤오미 MiMo, 일반 GPU에서 초당 1000토큰 주장. 발표 내용과 전략적 맥락, 영향을 받는 이용자와 기업의 실질적 위험을 정리한다.
Tensormesh가 AMD Ventures, NVentures, CoreWeave 등으로부터 2000만 달러를 투자 받아 KV 캐시 플랫폼을 상용화, GPU 낭비를 줄인다.