AI热榜 作者 | Jürgen Schmidhuber 翻译 | 林绮蓓 最近一段时间，RSI（递归自我改进）成为人工智能领域的热门话题。
近期，OpenAI 首次通过内部量化数据，系统披露 RSI 项目的实际推进情况；谷歌团队又发布论文《Deam-RSI：通过演化世界实现递归自我改进》，提出了一种新的递归式自我改进框架。
随着众多大模型公司纷纷加码 RSI，围绕这一方向的讨论也持续升温，有不少人发出警告的声音。
OpenAI 首席科学家 Pachocki 发文指出，RSI 可能成为未来科学发现的核心路径；但他认为目前尚无任何实验室真正解决 AI 对齐问题，并呼吁在推进相关研究的同时放缓步伐、建立统一的安全标准。
就在这一背景下，被誉为“现代人工智能之父”的 Jürgen Schmidhuber 发布了一篇长文，系统回顾并详细披露了自己研究 RSI 的历程。
文章中，作者系统梳理了几条主要研究路线：1987 年的元进化与元强化学习；1994 年以来基于自修改策略的强化学习；1991—1992 年通过快速权重和自指神经网络实现的神经网络元学习；2002 年提出的能够复用既有知识、逐步解决新问题的 OOPS 课程学习方法；以及 2003 年提出的，在数学意义上实现自我改进最优性的 Gödel Machine。
此外，文章还讨论了人工好奇心、内在动机与 RSI 的结合，以及近年来快速权重、MetaGenRL、VS-ML、SRWM 和基于 LLM 的 Gödel Machine 等进展。
Jürgen Schmidhuber 最后强调，软件层面的自我改进只是 RSI 的一部分。
如果要实现真正的人工智能，必须将其与机器和机器人所处的物理世界结合起来。
Sakana AI 的联合创始人兼首席执行官 David Ha 转发文章并表示，当前大模型头部实验室所谓的引领前沿的技术措施并非能够真正的提供安全保障。
当下真正的风险也并非是超级智能，而是两家公司控制前沿人工智能技术带来的权力的集中。
他认为唯一真正保障的，是建立一个健康的独立实验室生态系统和强大的开源社区。
🔗 原始来源
如果你要核对细节，可以再看原文： InfoQ AI原文链接