AI热榜 谷歌和谷歌 DeepMind 研究人员于周三成立了 DeepMind 研究所，以推进围绕通用人工智能 (AGI) 的对话。
该研究所将 DeepMind 联合创始人 Shane Legg、谷歌高管 James Manyika 和 Google DeepMind 主席 Demis Hassabis 列为董事，Legg 担任总编辑。
新研究所旨在揭示谷歌、谷歌 DeepMind 以及更广泛的全球 AGI 研究社区之间的不同观点。
公告中写道：“他们不会总是同意，而且随着更多数据和信息在快速发展的前沿领域曝光，他们可能会改变主意。
” 首部四篇论文集涵盖了一系列主题：管理潜在 AGI 颠覆的经济政策、保留人类可读的模型推理、人类繁荣的原则以及评估前沿人工智能模型的框架。
一 论文 DeepMind 安全研究人员 Rohin Shah 和 Anca Dragan 提出，人工智能的透明度窗口不断缩小——查看和检查模型逐步推理的能力——并非不可避免。
随着新架构打造出最强大的模型 更难 作者表示，为了进行监控，开发商和监管机构应该直接面对安全权衡。
这可能意味着限制“不透明的串行深度”——模型在不产生可读推理跟踪的情况下可以执行的顺序计算量——或者要求开发人员证明不太透明的系统仍然是可监控的。
在另一个 论文
🔗 原始来源
如果你要核对细节，可以再看原文： TechCrunch AI原文链接