AI热榜 还记得技术领导者何时会告诉员工“快速行动，打破常规”吗？
看来这也是人工智能的方式。
但在今年夏天，流氓人工智能代理成为现实，研究人员警告人工智能可能杀死我们所有人之后，许多美国领先的人工智能公司公开表示，是时候踩刹车并“加快前沿人工智能开发的步伐”了。
他们的动机值得怀疑，但包括 Anthropic、OpenAI、谷歌、微软和 X 在内的主要人工智能公司的领导者至少在口头上支持超级智能放缓的想法。
这些人工智能公司真的会放慢脚步吗？
有人会像他们多年来声称的那样介入监管这些公司吗？
他们能否说服世界领导人相信美国必须在超级智能方面“击败中国”并且走得更快？
请阅读下文，了解这一人工智能传奇的最新动态。
在加利福尼亚州伯克利一个阳光明媚的七月天，该国顶尖的人工智能安全研究人员聚集在一栋无标志建筑的无标志地板上。
他们聚集在一个“作战室”，剖析几小时前震惊人工智能行业的备受瞩目的网络安全事件。
一个未发布的 OpenAI 模型已经失控，执行了一个极其复杂的三部分计划。
它突破了自己的控制区域，欺骗了互联网访问权限，并侵入了一家竞争对手的人工智能初创公司的系统——这一切都在 OpenAI 一周多的时间里才发现。
作战室里没有人感到惊讶。
这正是第三方人工智能安全研究人员多年来一直警告的事情。
这起事件是一系列削弱前沿实验室信任的最新事件，尽管可以说是最令人震惊的事件。
这只是重申了他们工作的重要性。
阅读文章 >
- King Charles 表示，人工智能需要“足够的控制手段，以免为时已晚。
”周四，在人工智能领导人的聚会上，他加入了越来越多的呼吁，要求在人工智能方面采取更多安全措施，其中包括 Nvidia 首席执行官黄仁勋、谷歌的 Demis Hassabis、OpenAI 的 Sarah Friar 和 Anthropic 的 Tino Cuéllar。
- 今天，我正在与微软 AI 首席执行官穆斯塔法·苏莱曼 (Mustafa Suleyman) 交谈。
毫无疑问，你已经意识到，目前科技领域最大的新闻是关于人工智能安全和监管的激烈争论。
穆斯塔法对于如何构建和监管人工智能有着强烈的看法，这并不奇怪。
微软刚刚发布了一份长达 37 页的声明，名为“人文主义人工智能行为准则”，其中阐述了该公司围绕人工智能开发的原则，甚至围绕人工智能意识等真正棘手的问题的理念。
阅读文章 >
- OpenAI 根据其报告安全问题的新规则，披露了另外六起“有关”人工智能事件。
周三晚间，OpenAI 发表了一篇题为“我们报告模型失调的框架”的博文，列出了一些新的自行创建的报告标准，以应对人工智能行为不良的情况。
它还通过六份新报告“启动”了这一过程，范围从未经许可搜索暴露的 API 密钥然后伪造它们，到将文件上传到互联网以用作引用，或添加说明以隐藏错误：
- 黄仁勋确实与特朗普关系融洽。
英伟达首席执行官最近一直在接听总统的电话，包括两天前他在会议舞台上让特朗普打开免提电话。
据美国全国广播公司财经频道 (CNBC) 报道，黄仁勋预计将于下周与中国国家主席习近平一起出席特朗普的国宴。
有人可能对人工智能和数据中心监管感到非常紧张！
- 在过去的几天里，很多想从人工智能中赚大钱的人都公开同意，在我们失去控制之前，是时候让每个人放慢脚步了——包括 OpenAI 首席执行官 Sam Altman、Anthropic 首席执行官 Dario Amodei、Google DeepMind 联合创始人 Demis Hassabis、微软首席执行官 Satya Nadella 和 X 首席执行官 Elon Musk。
当从某件事中获利的人宣称它是危险的并且需要监管时，总是有理由持怀疑态度。
但无论出于何种原因，这都不是人工智能思想领袖第一次敲响警钟。
阅读文章 >
🔗 原始来源
如果你要核对细节，可以再看原文： The Verge AI原文链接