长期以来,外界一直有传言称,OpenAI 内部正在秘密推进一个与 RSI(Recursive Self-Improvement,递归自我改进)有关的项目,负责这一工作的可能是其核心研究组织“North”。
现在,OpenAI 第一次公开承认,它正在朝 RSI 推进。
OpenAI 首次把 RSI 摆到台面上 当地时间 9 月 6 日,OpenAI 发布了一篇题为《加速研究:来自 OpenAI 内部的观察》的文章,首次系统披露 AI Agent 如何参与其内部模型研发,并明确表示:按照公司的内部衡量标准,OpenAI 已经实现去年秋天设定的阶段性目标——在今年 9 月前开发出一名“自动化 AI 研究实习生”。
接下来的目标,是在 2028 年 3 月前开发出“自动化 AI 研究员”。
换句话说,OpenAI 这是在变相宣布: AI Agent 已经开始成为研究团队中的实际生产力,并可以承接过去由初级研究人员完成的部分复杂工作。
OpenAI 在文章开头表示,如果 AGI 要造福全人类,就必须接受民主治理。
而要实现这一点,公众需要充分了解高能力 AI 系统的能力、风险和安全措施,并了解前沿 AI 未来可能的发展轨迹,从而真正参与决定这项技术应当如何发展。
仅仅公开具体的安全事件、风险和防护措施还不够。
公众还需要理解,最先进的 AI 系统正在前沿实验室内部以何种方式发展,以及这些系统如何反过来推动 AI 研究本身。
在这一背景下,OpenAI 首次明确写道,公司正在推进 RSI,并公布了内部 Agent 系统在过去几个月里对研究工作的影响。
RSI,即“递归自我改进”,通常指 AI 系统参与改进 AI 研发流程,产生能力更强的下一代系统;更强的系统随后又进一步加快模型研究,最终形成一轮轮迭代加速。
🔗 原始来源
如果你要核对细节,可以再看原文: InfoQ AI原文链接
AI热榜