AI热榜 在周二早上的 X 帖子中，谷歌 DeepMind 首席执行官 Demis Hassabis 呼吁建立一个新的监管机构来监督前沿模型的发布。
这篇文章题为“前沿人工智能框架和新时代的曙光”，阐述了以金融业监管局 (FINRA) 为蓝本的“标准机构”的理由，该机构可以测试前沿模型并为其发布制定最佳实践。
帖子中写道：“最初，Frontier Labs 将自愿与标准机构共享模型，以便在发布前 30 天进行审查。
” “一旦评估协议被证明是有效和稳健的，形式化可能会很快发生，这意味着 Frontier Models 将需要通过它才能在美国市场部署。
实验室还将与标准机构合作，解决任何关键的发布后漏洞。
” 拟议的系统将建立在美国政府对 Anthropic 的 Mythos 和 OpenAI 的 Sol 进行的特别审查的基础上。
这些审查因缺乏技术专业知识以及模型何时发布的决策不透明而受到严厉批评。
根据哈萨比斯提议的监管机构，这些决定可以移交给一个新的组织，该组织得到美国政府的支持，但由人工智能行业资助并独立运营。
对于科技行业和特朗普政府来说，人工智能监管的前景仍然存在争议。
最近，白宫人工智能顾问兼 a16z 普通合伙人 Sriram Krishnan 低估了行政部门内设立人工智能监管机构的可能性，称“不会为人工智能设立 FDA”。
将标准机构建立为像 FINRA 这样的自律组织可能是解决这些问题的一种方法。
哈萨比斯预计，监管机构将由来自行业内的开源代表和技术专家组成，并得到人工智能实验室的财政支持，这是留住他们所必需的。
他们甚至可以将一些评估外包给不断壮大的人工智能安全小组，这些小组能够专门研究特定的风险。
哈萨比斯认为：“这种方法的优势在于它注重技术，同时支持创新并激励负责任的行为。
” “它的目的是跟上该领域的加速发展并适应已发现的最大风险，并且如果情况的严重性需要，可以逐步加强。
”
🔗 原始来源
如果你要核对细节，可以再看原文： TechCrunch AI原文链接