发生了什么

Anthropic研究员Jacob Coxon已辞职,理由是对AI可能带来的灭绝风险深感担忧。

他将自我改进AI的发展比作‘拿生命赌博’,并呼吁各实验室之间达成节奏协议。

为什么重要

这一事件凸显了AI领域内部对快速发展可能带来风险的日益分歧。

Coxon的呼吁可能促使行业更认真地考虑安全措施和合作机制。

关键事实

Jacob Coxon从Anthropic辞职。

他警告自我改进AI可能带来灭绝风险。

他呼吁实验室之间达成节奏协议。

接下来看什么

其他AI研究人员是否会效仿Coxon,公开表达类似担忧。

各实验室是否会对节奏协议的建议作出回应。

来源