谁来决定人工智能何时太危险？

在今天的 Decoder 节目中，我的嘉宾是 The Verge 的高级人工智能记者 Hayden Field。

海登出现在节目中通常是因为人工智能世界出了问题。

上周末，Anthropic、特朗普政府和 Anthropic 的新人工智能模型《神鬼寓言 5》非常激烈地结合在一起。

谁来决定人工智能何时太危险？

随着 Mythos 的崩溃，Anthropic 第一次尝到了特朗普政府新的人工智能监管制度的滋味。

周五，距离 Anthropic 向公众发布《神鬼寓言》还不到一周，美国政府就表示将对新模型以及《神鬼寓言》所基于的 Mythos 模型实施出口管制。

这些控制措施限制了外国人，甚至是那些在美国为 Anthropic 工作的人访问这些模型。

Anthropic 随后将《神鬼寓言》和《神话》对所有人下线，因为该公司表示担心否则无法限制访问并合理遵守该命令。

正如你可能想象的那样，这一切都是一团糟。

事实上，海登刚刚在 The Verge 上发表了一篇精彩的实况报道，讲述了上周五这一切是如何发生的，以及双方在周末争先恐后地弄清楚到底发生了什么以及如何解决。

所以我希望她能过来给我介绍一下时间线以及这一切意味着什么。

目前情况仍在继续。

截至周二我们录制这一集时，《神鬼寓言》仍然处于离线状态——事实上，如果你启动克劳德，它会在聊天框窗口的正上方告诉你“《神鬼寓言 5》当前不可用”。

然而，正如海登解释的那样，无论《神鬼寓言》本周是否回归，政府与 Anthropic 之间的不和所产生的连锁反应都会对科技行业和美国的人工智能监管制度产生深远的影响。

这里还有一个很大的讽刺，你会听到海登和我也谈到这一点：Anthropic 多年来一直认为人工智能可能很快就会强大到足以产生危险，而且政府需要尽快认真监管人工智能。

好吧……现在我们到了这里，而 Anthropic 并不喜欢它的发展方式。

现在，每个人——也许尤其是中国政府——都在关注美国的人工智能监管方法是否形成了严格的安全框架。

或者这是否只是白宫用来对付那些不向特朗普政府屈服的公司和个人的另一种武器。

就像我说的，这真是一团糟。

OK：Verge 高级人工智能记者 Hayden Field 谈论 Claude Fable 禁令和新的人工智能监管格局。

开始了。

为了篇幅和清晰度，本文字记录经过了轻微编辑。

🔗 原始来源

如果你要核对细节，可以再看原文： The Verge AI原文链接