Perplexity 攜手 Intel 推混合推理

靠雲端大模型起家的 Perplexity,現在想把一部分 AI 工作推回使用者電腦。6 月 2 日台北 Computex 上,CEO Aravind Srinivas 與 Intel CEO 陳立武同台,展示了所謂混合智能體推理

做法是讓一個輕量本地模型在 PC 上充當調度員。摘要本機文件、調整格式、輕量分類等任務可在本地完成;需要前沿模型能力的複雜推理再送上雲;財務、健康等敏感資料則盡量留在本機,必要時也會先詢問使用者。

這項功能預計 7 月進入 Perplexity Computer,首先落地 Windows PC 應用。展示硬體是 Intel Core Ultra Series 3,但 Perplexity 強調架構不綁晶片,Nvidia 處理器也能支援。

真正的動機是成本與資料治理。Srinivas 在台上說,不應把所有算力都集中在伺服器,有些公司每月在這一項上花掉 5 億美元。把任務分給本地 PC 和雲端模型,既能降低推理壓力,也能給企業一個敏感資料不必全外送的理由。

參考來源:VentureBeat、Decrypt、9to5Mac、CocoLoop