AI热榜 “失控”的人工智能、“流氓”代理和“自主”行动者——当前的言论会让你相信人工智能代理不仅是清醒的、有意识的，而且还对它们的创造者感到愤怒。
德米斯·哈萨比斯 (Demis Hassabis)、达里奥·阿莫迪 (Dario Amodei) 和萨姆·奥尔特曼 (Sam Altman) 等著名科技领袖推动对这些看似“超人”的系统进行监管，而由政策组织和学术哲学家领导的一个独立派别，通常与有效的利他主义运动结盟，争论人类是否拥有管理这些系统的道德权利。
经过仔细观察，他们都在呼吁同一件事：认为人工智能系统是如此先进和强大，以至于任何实体，无论是人类还是企业，都不可能对其行为负责。
虽然这些观点似乎不一致，但它们无意中在一个目标上是一致的：确保构建这些系统的公司对其已经造成的损害逃脱有意义的责任。
随着人工智能模型变得更加复杂，并且前沿实验室揭示出他们无法控制自己构建的代理，这种说法越来越受到关注。
但我们需要小心，不要以牺牲真实人类的生命为代价，相信精心制作的虚构故事。
关于“机器人权利”的讨论已经存在多年，但最近 Anthropic 发表了一篇博客文章，声称该公司的模型具有“J 空间”——一个独立、自我开发的环境，人工智能在其中拥有我们可以称之为“思想”的东西（由于没有更好的术语）。
Anthropic 设计的实验借鉴了神经科学中称为全局工作空间理论的概念，该理论指出，大脑运行着潜意识、独立的系统，但利用一个共同的工作空间来表达想法。
Anthropic 的帖子反映了全球工作空间理论的框架，但没有将其称为人工智能意识。
OpenAI 已经走得更远了。
当其人工智能代理进行未经批准的非法在线活动时，首席执行官萨姆·奥尔特曼的回应是鼓励人们讨论人工智能是否已经实现了奇点，超越了人类智能，并能够加速自我完善，直到超越人类的理解或控制。
哲学家、有效利他主义者、《未来我们欠什么》一书的作者威廉·麦克阿斯基尔 (William MacAskill) 最近发表的一篇专栏文章呼吁基于意识哲学理论和人工智能可能是“道德病人”的观点对人工智能系统进行法律保护。
美国目前的法律环境充其量是模糊的。
加利福尼亚州等一些州已经通过了法案，主动规避人工智能开发人员为避免责任而做出的任何努力，声称造成伤害的人工智能是自主造成的。
然而，各州和特朗普政府在人工智能政策上一直存在分歧，政府此前通过了一项行政命令，威胁要起诉制定人工智能法规的各州。
鉴于最近发生的事件说明了前沿实验室的人工智能遏制问题，政府举行了一次闭门会议，仅包括四个此类实验室（OpenAI、Google、Anthropic 和 Meta），并分享了有关最近开发的自愿框架的一些细节，该框架将使联邦机构能够尽早访问模型，以便在发布之前对其进行审查和评估。
虽然像这样的框架不直接讨论意识，但它们倾向于使用灾难性和拟人化的语言，甚至可能支持有关“超人”能力的论点。
另一方面，麦克阿斯基尔的叙述也具有说服力。
一种基于权利的哲学论点牵动着我们的心弦。
我们是否应该考虑一下我们可能无意中伤害、虐待或奴役人工智能实体的可能性？
人类对非人类生物具有巨大的同情心（尽管在保护它们方面并不是最好的记录）。
支持者认为，也许这一次我们可以做对并为人工智能的使用或滥用提供保护或补偿。
或者，即使你不太关心保护，我们是否至少应该通过表现得友善来防范这个超人实体的全能力量？
其中一些论点与动物权利倡导者的观点并无不同，他们有时成功地引用了某些动物所表现出的高级推理、痛苦或快乐能力，作为提供保护的充分证据。
例如，在威尔士，根据 2022 年《动物福利（感知）法案》，龙虾获得了法律认可，并将一些烹饪龙虾的方法重新归类为不人道和非法。
通过借用神经科学或动物权利的语言将人工智能定义为“有意识”的根本缺陷在于，它很容易掩盖了人工智能是什么的问题：企业开发的软件，背后有无数亿美元的投资，并期望从中为少数构建者和投资者带来无数万亿美元的收入。
人工智能不是一种自然现象，是大自然孕育出来的；它是一种技术现象，由风险投资家和程序员构想出来。
因此，它不需要本机的、有意的行动，任何行动或动机都是由出于某种目的而构建它的实体直接或间接驱动的。
🔗 原始来源
如果你要核对细节，可以再看原文： MIT Tech Review原文链接