GPT-6 Astra、环形变压器和隐藏推理

过去几周发生了很多事情。

我确信 OpenAI 的 GPT-6 Astra 现在是每个人的首要考虑。

特别是对其性能、循环变压器/循环深度方面的思考，以及 Astra 正在“隐藏”其推理痕迹（即思想链）的传言。

因此，在这篇文章中，我想首先谈谈对 Astra 的一些简短印象以及对这一切的发展方向的一些想法。

然后，我将详细讨论什么是“循环变压器”，以及它如何（或者更确切地说，是否）与隐藏思想链相关。

最后，在介绍了环形变压器的基础知识之后，我想强调一下最近有关该主题的研究论文中的一些新见解。

首先要事。

在讨论架构谣言和相关研究文献之前，让我简要总结一下 GPT-6 Astra 的一些观察结果和花絮。

上周，OpenAI 的新 GPT-6 Astra 大张旗鼓地发布了。

我在过去的几天里使用了它，它是一个非常好的模型，可能是我在撰写本文时使用过的最好的模型。

但它到底改进了什么，又是如何改进的呢？

Astra 是我迄今为止使用过的最好的模型，它在 3D 渲染和动画任务方面表现出色（相对于其他模型）。

我的意思是，虽然它在几乎所有类别（写作、数学、编码等）上都超越了 GPT-5.6 前身，但在图形演示方面尤其如此。

我们可以看到这也反映在基准测试中。

例如，GPT-6 Astra 非常擅长数学和编码，如下所示。

亮点之一（图中未显示）是Astra在性能上也达到了99.9% ARC-AGI-3 基准测试 （GPT-5.6 Sol 仅 7.8%），它衡量解决逻辑难题和泛化能力的结合。

然而，数学、编码和计算机使用基准更有趣，因为它们更接近现实世界的使用。

🔗 原始来源

如果你要核对细节，可以再看原文： Hacker News AI原文链接