AI热榜 上周末，在他的一名研究人员因担心人工智能可能导致人类灭绝而辞职后，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 写道，外部组织需要“验证对安全实践和承诺的遵守情况，报告事件，并帮助评估已完成的人工智能模型以及培训管道和流程的一致性。
” OpenAI、谷歌和 SpaceXAI 的高管已经 团结起来 阿莫代的计划已迅速成为新兴人工智能安全推动的核心支柱。
但可能有一个更简单、更有效的修复方法隐藏在人们的视线中。
互联网安全专家表示，实验室需要关注日志和权限等网络安全基础知识，应用与人类用户相同的严格防御措施。
它不像第三方审核和协调工作那么令人兴奋，但最终可能会更有效。
“在我看来，他们似乎正在外包，”Luta Security 首席执行官凯蒂·穆苏里斯 (Katie Moussouris) 在谈到 Amodei 的提议时告诉 TechCrunch。
“从我的角度来看，说[第三方审计]是解决方案是一个奇怪的命题。
这就像如果不写 可信计算备忘录 ，微软说，让我们放慢开发速度吧。
” 这份备忘录由时任微软首席执行官比尔·盖茨 (Bill Gates) 于 2002 年撰写，在一系列广为人知的计算机蠕虫病毒接管了当时新兴的企业系统后，呼吁其员工确保他们的软件可靠且安全。
随着新技术的价值和风险变得越来越清晰，人工智能行业可能正处于类似的转折点。
虽然一致性仍然是一个重要问题，但人工智能研究员 Sayash Kapoor 从明年开始将成为加州大学伯克利分校的教授， 争论
🔗 原始来源
如果你要核对细节，可以再看原文： TechCrunch AI原文链接