发生了什么

Base Labs 宣布与 Hugging Face 和 Goodfire 建立开放权重 AI 安全合作伙伴关系。

Base Labs 是 Baseten 今年早些时候成立的研究团队。

该合作将开发并公开发布用于训练和监控开放模型的方法。

为什么重要

开放权重模型的安全问题一直是行业争论焦点,此次合作将训练与监控方法公开,可能为开放模型生态提供可复用的安全实践。

由 Baseten 支持的研究团队联合 Hugging Face 和 Goodfire,意味着安全研究正从闭门讨论转向面向开放社区的协作模式。

关键事实

Base Labs 是 Baseten 今年早些时候成立的研究团队。

合作方包括 Hugging Face 和 Goodfire。

合作目标是开发并发布开放模型的训练和监控方法。

接下来看什么

关注该合作后续发布的具体方法及其在开放模型社区中的采用情况。

观察这一合作模式是否会推动更多开放权重安全工具的出现。

来源