AI热榜 这个故事出现在我们关于人工智能的每周通讯《算法》中。
要首先在您的收件箱中收到此类故事，请在此处注册。
本周末，Anthropic 首席执行官 Dario Amodei 发表了一篇文章，呼吁遏制法学硕士的发展步伐。
阿莫代列举了他从这项技术中看到的迫在眉睫的危险，从它在网络攻击和生物恐怖主义中的使用到它破坏经济的潜力。
美国另外三个顶级人工智能实验室的负责人——OpenAI首席执行官山姆·奥尔特曼(Sam Altman)、谷歌DeepMind董事长德米斯·哈萨比斯(Demis Hassabis)和SpaceXAI首席执行官埃隆·马斯克(Elon Musk)都表达了他们的支持。
“达里奥是对的，”马斯克在 X 上写道。
想想这个协议是多么的超现实。
就在几个月前，马斯克和 Altman 坐在法庭上，在一场（失败的）诉讼中互相攻击对方的声誉，该诉讼是马斯克对他的前 OpenAI 同事提起的，至少在纸面上是关于 Altman 是否是这种危险技术的值得信赖的管理者。
Amodei 与 OpenAI 的裂痕甚至更深。
Anthropic 成立于 2021 年，因为 Amodei 认为 Altman 没有足够认真地承担他们正在开发的技术的风险。
从那时起，Anthropic 和 OpenAI 就一直在进行一场赢者通吃的竞赛。
（哈萨比斯没有介入这场闹剧，但他的公司仍然是竞争对手。
） 现在看来，他们都同意：最新一代的法学硕士并不安全，每个人都需要弄清楚该怎么办。
来自顶级人工智能实验室的公开信息已经发生了灾难性的转变。
人们很容易变得愤世嫉俗。
目前还不清楚他们所说的经济放缓是什么意思，也不清楚它会如何运作。
这些公司也非常关心他们的形象。
OpenAI 和 Anthropic 的目标是实现万亿美元的 IPO，他们需要让投资者放心，他们是房间里的成年人，同时暗示他们所创造并打算驯服的怪物的力量。
呼吁经济放缓可以实现这两点。
然而，这些公司高层的氛围似乎确实发生了变化。
Amodei 的最新帖子是在 OpenAI 发表该公司首席科学家 Jakub Pachocki 的一篇文章六天后发布的，他在文中还阐述了为什么他担心如果法学硕士的发展速度继续不受控制会发生什么。
简而言之，Pachocki 担心 OpenAI 构建强大模型的能力现在远远超过了其监视和控制模型的能力。
Amodei 和 Pachocki 都提到了 7 月份 OpenAI 的一群代理针对人工智能公司 Hugging Face 发起的网络攻击——OpenAI 直到一切结束几天后才意识到这次黑客攻击已经发生——作为一个警钟。
但他们的确切位置很难确定。
帕乔基既呼吁放慢速度，又强调保持领先地位的迫切需要：“我认为继续快速训练更智能的模型的最有力论据是需要建立防御系统来应对其他人工智能带来的危险，”他写道。
正如帕乔基所描述的，人工智能公司陷入了一场名副其实的军备竞赛。
慢下来是好的，获胜更好。
（别忘了：OpenAI 刚刚花费了数百万美元和惊人的计算机能力，才比 Anthropic 提前几天得出了一个有争议的数学结果。
） 但我们假设发生了减速。
顶级实验室同意花费更多的时间和资源来寻找监控和控制现有模型的方法，而不是制造更强大的模型。
他们邀请外部审计员帮助评估这些模型。
🔗 原始来源
如果你要核对细节，可以再看原文： MIT Tech Review原文链接