发生了什么

OpenAI宣布其新的Astra模型将使用一种称为“循环深度”的推理技术。

该技术使模型能够跳出大多数推理模型所依赖的循序渐进的思考方式。

这一进展已引起AI安全专家的担忧。

为什么重要

安全专家的担忧可能源于模型推理过程不再遵循可预测的线性路径,使得理解和控制模型行为变得更加困难。

如果模型能够在非顺序模式下运行,其决策逻辑可能更难追溯,增加了评估和监管的复杂性。

关键事实

OpenAI的Astra模型将采用“循环深度”技术。

该技术使模型能够在顺序思维之外运作。

AI安全专家对此表示担忧。

接下来看什么

后续是否会有更多关于“循环深度”技术细节的公开说明,以及它如何影响模型的可解释性。

安全专家是否会提出具体的风险案例或监管建议。

来源