重返 OpenAI 的前一天,她在 X 上宣布因健康问题退出创业公司,转身便回到了老东家。
当地时间 7 月 27 日,Thinking Machines Lab 联合创始人、北京大学校友翁荔(Lilian Weng)公开了一封发给内部员工的告别信。
她表示,持续的压力和工作负荷已经超出身体能够承受的范围,自己无法再维持一家创业公司所要求的节奏。
7 月 28 日是她在 Thinking Machines 的最后一个工作日。
仅仅一天后,OpenAI 向 TechCrunch 和 Business Insider 确认,翁荔将重返公司,负责领导一支面向内部研究的高层级团队,支持包括“递归自我改进”在内的跨研究工作。
所谓递归自我改进,是让 AI 系统参与改进训练方法、研究流程甚至下一代模型,从而形成能力持续迭代的闭环。
从表面上看,这像是一场突如其来的反转:一边说身体无法承受创业公司的高压节奏,一边又迅速加入全球竞争最激烈的 AI 公司之一。
但仔细看翁荔的离职信,她想退出的并不是 AI 行业,而是联合创始人这一缺少边界、需要持续承担全局责任的角色。
第一次离开 OpenAI,她没有公开批评公司 翁荔于 2018 年前后加入 OpenAI。
最初几年,她参与了 OpenAI 机器人团队的 Dactyl 项目:研究人员通过强化学习和大规模领域随机化,让一只仿人机械手在没有真实世界训练数据的情况下完成魔方操作。
她也是相关研究论文的作者之一。
2021 年起,翁荔开始领导 OpenAI 的应用 AI 研究团队,参与语言模型的部署与安全工作。
OpenAI 官方介绍显示,该团队曾建设有害内容评估数据、内容分类器以及减少模型不安全输出的方法。
GPT-4 发布后,她进一步负责整合 OpenAI 的 Safety Systems 团队,工作范围覆盖模型行为、安全评估、红队测试、内容审核和部署阶段的安全基础设施。
2024 年 8 月,翁荔升任 OpenAI 研究与安全副总裁。
同年 11 月,她宣布结束近七年的 OpenAI 生涯。
🔗 原始来源
如果你要核对细节,可以再看原文: InfoQ AI原文链接
AI热榜