帕兰蒂尔联手英伟达把开源模型塞进断网机房

Palantir 和英伟达 6 月 29 日联手推出了一套系统,专治政府机构一个老矛盾:既想用上强大的 AI,又不敢把敏感数据送出自己的机房。

它们的做法,是把英伟达的 Nemotron 开源模型整个搬进”气隙”(air-gapped)环境里跑。所谓气隙,就是和外部网络彻底断开的机房:机密数据不出门,模型也不联网,训练和推理全在机构自己的安全边界里完成。目标客户写得很明白——美国政府机构,外加电力、通信这类关键基础设施。

这套东西的分量,在于它用的是开源权重,而不是去调某家公司的闭源 API。这两条路差得远。调 API,意味着数据得发到外面、模型攥在别人手里、还得按次数付费;而拿到 Nemotron 的开源权重,机构能用自己的数据微调,改完的模型归自己所有,就跑在自己机房里,谁也拿不走、断不掉。Palantir 和英伟达给的说法是,这条路比闭源 API 更便宜也更可控,客户最后握在手里的,是一个能自我迭代、专门为自家任务打磨过的模型。

分工上,英伟达出算力和开源模型,Palantir 把自家企业客户早就在用的那套平台拼上来——AIP、Ontology、Foundry、Apollo 一整套。具体拆成三块:部署工程,负责把 Nemotron 接进机密和气隙环境;上下文工程,把提示词和模型行为按实际业务调顺;模型工程,让机构能拿自己的专有数据和任务目标去改权重。

安全和归属这块,两家列了一长串条款:数据授权必须明确、安全边界强制隔离、每个客户的环境从架构上就彼此隔开、数据可随时带走、有被遗忘的权利、全流程可审计。这些词单看很抽象,可一旦落到政府采购的桌面上就是硬指标,机构最怕的正是数据说不清流向了哪、模型出了岔子查不到账。

放进更大的背景看,这是”主权 AI”这条线上的又一步。眼下各国政府和要害部门都卡在同一个问题上:最强的 AI 能力握在少数几家美国公司的云端,命门也就一并交了出去。用开源权重、在自己机房里跑,正是想把这份控制权多收回来一些。Palantir 本就深耕政府和国防客户,英伟达手里攥着芯片和开源模型,两家凑到一处,把”要顶级算力”和”得能落在断网机房里”这两个原本打架的需求,缝到了一块。

参考来源:Open Models, Closed Environments: Palantir Brings Secure AI to US Agencies With NVIDIA Nemotron(NVIDIA Blog);CocoLoop、Palantir Launches Engine for Deploying NVIDIA Nemotron Open Models in Sovereign Environments(BusinessWire)