What happened

据The Information援引一位知情人士报道,OpenAI和Anthropic讨论了一项具有法律约束力的协议,对对方的AI模型进行压力测试。

知情人士表示,今年早些时候,两家公司及其律师讨论了一项协议,计划对各自的模型进行一系列测试,以寻找漏洞或潜在危险。

报道称,拟议协议规定,两家公司将获得对方已商业化AI模型的应用程序编程接口(API)访问权限,但不包括尚未发布的模型。知情人士表示,双方均保证在测试过程中不会保留对方的数据。

Why it matters

若此类协议最终达成,意味着相互竞争的AI开发商可能通过正式安排来检验对方已发布模型的安全性,而不是仅依赖各自的内部评估。

从报道描述看,协议设计上把尚未发布的模型排除在外,并强调不保留对方数据,这显示双方在开放测试与保护自身未公开技术之间寻求平衡。

Key facts

The Information援引一位知情人士报道了OpenAI和Anthropic的讨论。

讨论的协议具有法律约束力,内容是对对方的AI模型进行压力测试。

讨论发生在今年早些时候,参与方包括两家公司及其律师。

拟议协议涵盖对方已商业化AI模型的API访问权限,不包括尚未发布的模型。

两家公司均保证测试过程中不会保留对方的数据。

What to watch next

后续需关注双方是否正式确认或签署该协议,以及测试范围与数据处理的安排是否公开。

若协议落地,其执行方式和结果披露程度可能影响外界对AI模型安全测试实践的观察。

Sources