人工智能行业最新的厄运警告背后的原因是什么？

人工智能行业似乎正在就其技术是否对人类构成生存威胁进行最激烈的争论。

当前的讨论开始于 人工智能研究员雅各布·考克森 (Jacob Coxon) 表示，他已从 Anthropic 辞职 因为他担心领先的人工智能公司正在“拿我们的生命做赌注”。

然后 Anthropic 的阵营倾向于配合 一个帖子声明 ，“我们真的坚信人工智能可以杀死所有人类！

”并补充说，他个人认为“未来十年内这一可能性>10%”。

关于最新一集 TechCrunch 的股票播客 、克尔斯滕·科罗塞克、肖恩·奥凯恩和我讨论了最新的世界末日警告。

我试图阐明为什么我对许多人工智能厄运的说法持怀疑态度，而柯尔斯滕则问这是否“只是一种奇怪的方式来展示他们公司的人工智能模型有多先进”，特别是在这些公司准备上市的时候。

Sean 想知道这些担忧会如何体现在 Anthropic 的 IPO S-1 文件中：“现在是否有初级律师正在审查并不得不重写 S-1 文件的整个部分，以表示‘Anthropic 的官方立场是，我们有超过 10% 的可能性可以开发出一种能够消灭全人类的东西，这对我们的业务会产生重大不利影响’？

”

🔗 原始来源

如果你要核对细节，可以再看原文： TechCrunch AI原文链接