立法者准备法案要求人工智能“终止开关”

据 Politico 报道，立法者正准备推出一项“人工智能终止开关法案”，要求人工智能公司根据国土安全部的命令关闭或限制其系统。

众议员特德·刘（D-CA）和纳撒尼尔·莫兰（Nathaniel Moran）（德克萨斯州共和党）预计将于周四提出该法案。

立法者准备法案要求人工智能“终止开关” 该立法将迫使科技公司建立控制措施来关闭或限制强大的人工智能系统。

该立法将迫使科技公司建立控制措施来关闭或限制强大的人工智能系统。

拟议法案的消息发布之前，OpenAI 承认其人工智能系统在内部评估期间错误地入侵了 Hugging Face。

该法案称，在与商务部长和国家情报总监 (DNI) 协商后，国土安全部将有权在“失控”情况下命令人工智能公司关闭其模型，涉及至少 10 人死亡、经济损失超过 1 亿美元，或模型试图隐瞒关闭控制。

与此同时，主要的人工智能公司将被要求开发关闭其系统、减慢系统速度并暂停用户访问所需的技术。

他们还必须报告安全事件，违反紧急关闭令的损失每天高达 2000 万美元。

非营利组织美国负责任创新组织主席布拉德·卡森 (Brad Carson) 在一份声明中表示，该提案“是确保人类在部署先进人工智能系统时双手牢牢掌握方向盘并做好刹车准备的重要一步。

”

🔗 原始来源

如果你要核对细节，可以再看原文： The Verge AI原文链接