AI热榜 1/2 感谢 Gavin 进行了特别周到的交流。
我通常不会在社交媒体上花太多时间，但我想在这里参与，因为它确实揭示了重要对话的核心。
首先，关于监管，我认为“要么通过监管将其集中到少数企业和政客手中，要么广泛分配”是一个错误的选择。
我知道硅谷有一种简写，即监管=监管捕获=权力集中，但我一直发现这是一个过于简化的世界图景。
这个泡沫之外的许多人认为监管是限制企业权力并使普通民众受益的东西。
我也不一定同意这种观点，相反，我认为这很复杂，而且实际上取决于“监管”的内容。
但我特别认为，那些处于“监管=监管捕获=权力集中”框架中的人往往低估了客观和公平的制度过程的去中心化权力。
一个粗略的类比是，正式的法院系统有时会让人感到乏味和精英主义，但它在捍卫弱势群体的权利方面比另类的暴民正义要好得多。
在最好的情况下，机构可以将权力赋予思想而不是人，从而分散权力。
这就是为什么Anthropic一直非常谨慎地提出其政策建议。
我们非常努力地提出对前沿人工智能公司不利（放慢速度）的建议，同时“有利于”较小的竞争对手。
加州的 SB53（我们支持），甚至是饱受诟病的 SB 1047（我们对此持矛盾态度），都完全免除任何收入低于一定金额或模型培训成本的公司（SB 53 为 5 亿美元，1047 较低，但我们反对）。
最近，我们在 CAISI 和白宫倡导的测试过程涉及对前沿模型比非前沿模型进行更严格的测试——这对挑战者有不同的优势。
同样，“Pacing the Frontier”信件设想（或者至少是 Anthropic 首选的实现方式设想）调整最好模型的步伐，同时不限制那些正在追赶的人。
这损害了前沿实验室的商业利益，却帮助了挑战者，包括开放权重！
总的来说，我的观点是，人工智能“在结构上”是一种倾向于集中权力的技术，其原因与监管无关（更多的是与缩放法则的极端影响有关）。
开放权重确实对一些人有所帮助，但还远远不是一个足够的解决方案，因为它们只是将注意力转移到了那些拥有最多计算和芯片的地方（大致是前沿实验室加上可能的硬件提供商）。
相比之下，我认为正确的“道路规则”可以同时（a）解决人工智能的网络/生物/联盟风险，（b）从制度上限制前沿人工智能公司的力量，以及（c）为开放权重模型留出空间，同时解决它们带来的特定风险。
顺便说一句，我不认为过去几个月发生的事件“未能导致[我]首选的监管路径”。
据报道，特朗普政府正在采取的方法——对前沿模型进行部署前测试，以及当它们接近前沿时对开放权重模型进行测试——是我非常支持的方法，尽管我当然必须看到细节才能确定。
我也支持 Demis Hassabis 关于类似 FINRA 实体的想法。
这与六个月前形成鲜明对比，当时大多数行业仍在推动所有州监管的先发制人，也没有明显的联邦措施。
正在回复 @_肖尔托道格拉斯 Sholto，谢谢你澄清事实。
更大的问题是，硅谷的许多非常严肃的人都听说过这种说法的一些变体，并相信这是真的。
它之所以让这么多人相信，是因为它与达里奥的公开信息一致 显示更多
🔗 原始来源
如果你要核对细节，可以再看原文： Hacker News AI原文链接