AI热榜 OpenAI 的新 Astra 模型将使用一种称为“循环深度”的推理技术，使其能够在大多数推理模型所特有的顺序思维之外进行操作，即 报道的信息 星期二。
这种技术也被称为“不透明递归”，可能会使模型的思想链更难以监控——这让人工智能安全专家感到不安。
据报道，尽管 Astra 对这项技术的使用有限，但它的出现仍然引起了人工智能安全专家的严重担忧。
Redwood 首席执行官 Buck Shlegeris 写道：“我对 Astra 使用不透明循环的报道感到非常担忧。
” 在帖子中 消息传出后。
“我不知道 Astra 的 CoT 可监控性是否比以前的模型低得多。
但如果 OpenAI 进一步推动这项技术，他们将可以选择大幅增加重复率并完全破坏 CoT 可监控性。
” 长期人工智能安全倡导者 Zvi Mowshowitz 也参与其中 并写道 可能有必要制定法律来防止人工智能实验室之间的“逐底竞争”。
🔗 原始来源
如果你要核对细节，可以再看原文： TechCrunch AI原文链接