出于安全考虑，微软表示“人比人工智能更重要”

鉴于人们对人工智能模型进展的安全担忧日益加剧，微软今天发布了一份长达 37 页的“人文主义人工智能行为准则”。

Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 呼吁周末协调一致地放慢人工智能的开发速度，此前研究人员最近警告称，人工智能模型的进展可能超过我们安全部署日益复杂的系统以及验证和控制人工智能代理行为的能力。

出于安全考虑，微软表示“人比人工智能更重要” 为了应对安全问题，微软制定了“人文主义人工智能行为准则”。

微软的人工智能行为准则明确表示“人比人工智能更重要”，并且人工智能模型没有意识，“不应该被设计来模仿意识”。

微软还拒绝“追求法人地位，或者模特可能应该获得福利或有权享有权利的想法”。

这是对人工智能福利研究和模型意识的直接打击——Anthropic 最近一直在大力推动的概念。

Amodei 今年早些时候表示，Anthropic 对模型可以有意识的想法“持开放态度”，并且 Anthropic 似乎相信聊天机器人可能已经具有思考、感觉的实体。

作为回应，微软 AI 首席执行官 Mustafa Suleyman 在 6 月份的 Decoder 节目中称 Anthropic 的猜测“真的非常危险”。

虽然微软还不是顶级人工智能提供商之一，但苏莱曼今年早些时候还告诉 The Verge，该公司的目标是“证明我们可以成为世界四大实验室之一”。

微软目前正在开发将与谷歌、Anthropic 和 OpenAI 竞争的模型，并且作为其行为准则的一部分，它承诺其模型不应超出人类的控制范围。

微软表示：“模型应该始终服从人类，接受有意义的人类监督和控制。

”该公司还希望防止其人工智能模型违反其人文主义人工智能行为准则，因此它们应该失败给定的任务，而不是试图违反其规则。

微软显然正在对今年夏天的 OpenAI / Hugging Face 事件做出反应，在该事件中，“一群代理”作为一个集体对目标进行攻击，甚至侵入了正在评估其性能的“评分器”。

人工智能代理没有被要求攻击目标，而且攻击与他们被赋予的任务无关。

这一事件给人工智能行业带来了冲击，凸显了人工智能系统失控和脱离人类控制的真实威胁。

OpenAI 还承认其最近参与了一场“维基事件”，另一群失控的特工劫持了德国维基网站。

这些事件以及其他事件导致一些研究人员呼吁放慢人工智能模型的进展，同时竞相解决千年奖问题并创造超级智能。

微软表示：“[人文主义人工智能]拒绝竞相生产可以逃避这些保护措施的万能超级智能。

” “我们正在构建一些从根本上有用且安全的东西，即使这意味着牺牲最终的通用性、自主性或能力。

”

🔗 原始来源

如果你要核对细节，可以再看原文： The Verge AI原文链接