发生了什么
据The Information援引一位知情人士报道,OpenAI和Anthropic讨论了一项具有法律约束力的协议,内容是对对方的AI模型进行压力测试。
知情人士称,今年早些时候,两家公司及其律师讨论了一项协议,计划对各自的模型进行一系列测试,以寻找漏洞或潜在危险。
报道称,拟议协议规定两家公司将获得对方已商业化AI模型的应用程序编程接口(API)访问权限,但不包括尚未发布的模型;双方均保证测试过程中不会保留对方的数据。
为什么重要
若此类安排最终落地,意味着两家主要AI开发商在模型安全评估上尝试建立相互核查的机制,而不是仅依赖各自内部的测试流程。
从报道描述看,协议设计把范围限定在已商业化模型并排除未发布模型,同时以不保留数据作为前提,这反映出互测在商业机密与安全审查之间的平衡考量。
需要注意的是,目前公开信息仅来自单一媒体的匿名消息源,协议是否真正达成、以何种形式存在,仍有待更多信息确认。
关键事实
The Information援引一位知情人士报道了此事。
讨论的协议被描述为具有法律约束力。
测试目的是寻找漏洞或潜在危险。
拟议协议涵盖对方已商业化AI模型的API访问权限,不包括尚未发布的模型。
OpenAI和Anthropic均保证测试过程中不会保留对方的数据。
接下来看什么
后续是否有OpenAI或Anthropic的官方确认或回应,以及协议是否已签署或仍停留在讨论阶段。
若互测机制成形,其测试范围、结果披露方式以及是否扩展到未发布模型,将是观察重点。
