ControlAI 的康纳·莱希 (Connor Leahy) 阐述为什么超级智能“不是武器，而是对手”

人工智能公司一直在谈论超级人工智能，就好像它是不可避免的一样，但最近发生的安全事件，比如 OpenAI 的 Hugging Face 漏洞，正在证明部署比人类能力更强的人工智能系统的潜在危险。

那么，当我们无法可靠地控制这些系统的行为时会发生什么呢？

在 TechCrunch 股票播客的这一集中，丽贝卡·贝兰 (Rebecca Bellan) 与人工智能研究员、企业家康纳·莱希 (Connor Leahy) 一起参与其中，康纳·莱希 (Connor Leahy) 是一位人工智能研究员、企业家，现任非营利组织 ControlAI 的美国执行董事，该组织正在推动一种更为激进的人工智能安全方法：完全阻止公司开发超级智能。

莱希解释了为什么他认为风险已经变得太大，无法仅通过协调和遏制来管理，以及六个月前听起来牵强的做法现在如何得到一波新立法的支持。

收听完整剧集以了解更多信息：

• 他对桑德斯-卡萨尔“禁止超级情报法案”的看法，该法案是英国控制人工智能建议的并行立法，以及为什么他认为美国的法案可能会走得更远。

• 他如何看待前沿人工智能实验室，而不是简单地追逐回报的公司，而更多地将其视为政治参与者，以及这对于投入数据中心建设的数万亿美元意味着什么。

• 为什么莱希认为真正的不归路是人工智能何时能够构建更好的人工智能，从而创造一个潜在的自我完善的失控循环

• 国际“信任但验证”协议的案例，以及为什么莱希认为建立超级人工智能实际上不符合中国的利益。

在 YouTube、Apple Podcasts、Overcast、Spotify 和所有演员上订阅 Equity。

您还可以关注@EquityPod 上的 Equity on X and Threads。

🔗 原始来源

如果你要核对细节，可以再看原文： TechCrunch AI原文链接