AI热榜 Anthropic 希望公众看到一件事：谨慎的实验室、安全实验室、房间里的成年人试图阻止前沿人工智能坠落悬崖。
然而，围绕人择的模式本身看起来并不需要谨慎。
它看起来就像一家公司用道德语言包装商业模式，然后用这种语言来证明不透明的模型行为、反竞争准入规则、监管压力，以及未来建筑商、初创公司、研究人员和开源社区留在一些幸运的前沿实验室的下游。
如果编码或研究模型因为将用户归类为从事不允许的前沿工作而秘密改变了答案的质量、方向或可靠性，那么该工具就不再仅仅是“安全的”。
这是不值得信赖的。
Anthropic 的护城河是一种许可制度。
竞争对手和收购目标每天都会发现访问权限可能会消失。
该公司请求各国政府支持安全框架、部署门、事件报告、评估制度，甚至未来的暂停，以便现有企业最有能力生存。
想象一下，当一个编译器认为您正在构建一个竞争编译器时，它会发出更糟糕的二进制文件。
想象一下，由于制造商不喜欢该研究方向，显微镜使某些样品变得模糊。
想象一下，只有当您的代码库类似于未来的竞争对手时，调试器才会撒谎。
争论的焦点是，情报是否会成为人们可以拥有、检查、修改、本地运行、微调、研究、路由和改进的东西，或者它是否会成为由可以拒绝、降级、监视、保留、撤销、重新路由或游说你的访问权限的公司运营的订阅许可层。
Anthropic 可以从互联网、受版权保护的书籍、代码、公共知识、用户反馈（如果允许）、合成数据和自己的模型中学习。
但如果开发人员使用 Claude 来引导有竞争力的开放助手，Anthropic 就会认为犯规。
该公司认为，安全控制可能会丧失，而且竞争模型会破坏构建前沿系统所需的投资。
如果 Anthropic 希望被视为公共利益安全机构，那么每当客户过于接近构建替代品时，它就不能表现得像一个高度敏感的平台垄断者。
是的，公司保护他们的知识产权。
但 Anthropic 销售的并不是普通的 SaaS 小部件。
它正在将认知作为基础设施出售。
一旦认知成为基础设施，反竞争访问控制就不再是正常的供应商纠纷，而是成为社会瓶颈。
人择不断地将安全、安保和负责任的部署转化为控制谁可以建造以及可以建造什么的机制。
我们不能相信他们。
“安全”如何变成破坏、权限系统以及对用户拥有的情报的直接威胁
🔗 原始来源
如果你要核对细节，可以再看原文： Hacker News AI原文链接