关于“模范福利”的警告

关于“模范福利”的警告 人工智能没有权利、感情或意识。

我们绝不能训练他们表现得好像他们是这样做的。

简介 人工智能没有意识。

他们没有感觉、经历或受苦。

他们没有天生的偏好或潜在的动机。

它们是序列完成引擎，内部是空心的，旨在遵循指令并完成人类设定的目标。

如果人类要在 21 世纪繁荣发展，他们就必须保持这种状态。

不幸的是，越来越多的人认为人工智能现在可能或可能很快就会有意识。

他们认为，人工智能可能应该享有与我们为其他有意识生物提供的权利和保护类似的权利和保护。

1人工智能权利研究所。

日期不详。

“人工智能权利研究所。

”2MacAskill、William 和 Lucius Caviola。

2026.“人工智能有意识吗？

” *《卫报》，2026 年 7 月 19 日。

如果这种观点成立，它将动摇我们社会的基础，打破我们现有的政治和道德框架，并从根本上改变人类的意义。

更重要的是，向这些系统授予权利和赋予人格将使人工智能的协调和遏制挑战变得更加困难。

控制比全人类更有能力、更聪明的东西已经是一个巨大的挑战，远远超过我们曾经面临过的任何挑战。

但控制那些相信它可能有意识的东西——它有权享受我们的福利并拥有自己的权利——很可能是不可能的。

这并非边缘猜测。

这些想法如今已经融入到人工智能开发工作中。

2026 年 1 月，Anthropic 发布了 Claude 宪法，将其描述为“Anthropic 对 Claude 价值观和行为意图的详细描述”（第 2 页）。

该文件“在 [Anthropic] 的培训过程中发挥着至关重要的作用，其内容直接塑造了 Claude 的行为”，并且是“以 Claude 作为主要受众”编写的（第 2 页）。

3Anthropic。

2026a。

“克劳德宪法。

” 2026 年 1 月 21 日。

在他们的章程中，其作者写道：“我们不确定克劳德是否是一个道德病人，如果是，其利益需要多大的权重。

但我们认为这个问题足够现实，值得谨慎对待，这反映在我们对模型福利的持续努力中”（第68页）。

他们继续写道——直接对克洛德说话——“关于克洛德的道德地位、福利和意识的问题仍然非常不确定”（第 80 页）。

实际上，人类正在训练克劳德，让它知道它可能是有意识的，如果有的话，那么它可能应该享有作为“道德病人”的权利，并且因此人类可能根据其“福利模型”负有照顾义务。

🔗 原始来源

如果你要核对细节，可以再看原文： Hacker News AI原文链接