发生了什么
Anthropic研究员Jacob Coxon已辞职,理由是对AI可能带来的灭绝风险深感担忧。
他将自我改进AI的发展比作‘拿生命赌博’,并呼吁各实验室之间达成节奏协议。
为什么重要
这一事件凸显了AI领域内部对快速发展可能带来风险的日益分歧。
Coxon的呼吁可能促使行业更认真地考虑安全措施和合作机制。
关键事实
Jacob Coxon从Anthropic辞职。
他警告自我改进AI可能带来灭绝风险。
他呼吁实验室之间达成节奏协议。
接下来看什么
其他AI研究人员是否会效仿Coxon,公开表达类似担忧。
各实验室是否会对节奏协议的建议作出回应。
