Palantir、英伟达等限制使用 Anthropic Fable,担忧 30 天日志保留
配图为 AI 生成的新闻概念图。
TL;DR:据 Reuters 援引 The Information 报道,Palantir、英伟达和博思艾伦正在限制 Anthropic 的 Fable 模型处理敏感数据。争议集中在 Anthropic 今年 6 月调整的 Fable 政策:为防范“复杂且新型的攻击”,公司获得了将使用日志保留最多 30 天的权利。Palantir 要求不可撤销的零数据保留保证,英伟达将 Anthropic 模型限制在较低敏感度任务,博思艾伦则禁止其用于专有网络安全工作。
据 Reuters 9 月 14 日报道,多家大型科技与政府承包企业正重新评估前沿 AI 模型能够接触何种内部数据。报道援引 The Information 称,Palantir Technologies、英伟达和博思艾伦等公司可能进一步限制、甚至停止使用部分先进模型,除非 Anthropic 和 OpenAI 能够就客户知识产权与数据处理方式提供足够明确的保证。
其中,Anthropic 面临的直接争议来自 Fable 的数据保留政策。报道指出,Anthropic 在今年 6 月调整了 Fable 的相关政策,为防范“复杂且新型的攻击”,获得了将模型使用日志保留最多 30 天的权利。对于需要把源代码、网络安全资料或其他专有信息交给模型处理的企业来说,这意味着数据是否真正离开企业边界、会被保存多久,以及厂商能否提供不可撤销的零数据保留承诺,都成为采购和部署前必须明确的问题。
各家公司采取的措施并不相同。知情人士称,Palantir 已向 Anthropic 施压,要求其提供“不可撤销的零数据保留”保证,之后才会考虑继续通过 Palantir 软件向客户提供 Anthropic 模型。英伟达则把 Anthropic 模型限制在敏感度较低的任务上,并更多依赖自家的 Nemotron 模型处理内部工作。博思艾伦则禁止员工在涉及专有网络安全工作的场景中使用 Anthropic 的商业模型。
这一问题也并非 Anthropic 独有。Reuters 报道称,OpenAI 同样面临企业客户对知识产权与数据使用方式的审视。Anthropic 和 OpenAI 均表示,默认情况下不会使用企业客户数据训练模型,除非客户主动选择加入;不过两家公司仍会收集匿名化元数据用于改进产品。
与此同时,微软正在利用企业对数据安全的担忧,向客户推广隔离式云环境以及自家的 AI 产品。随着前沿模型越来越深入地进入企业源代码、网络安全和核心业务流程,模型能力之外,数据保留期限、隔离方式和零数据保留承诺正逐渐成为企业选择 AI 供应商时新的竞争关键。
来源: