为什么我们不能让流氓人工智能远离互联网？

人工智能代理不断松懈，逃避所谓的安全测试来攻击现实世界的目标，征用晦涩难懂的维基百科，并留下指令让其他代理遵循。

研究人员正在测试这些系统，正是因为它们的行为方式可能不可预测，甚至是危险的。

那么让代理远离互联网不是更安全吗？

为什么我们不能让流氓人工智能远离互联网？

隔离人工智能使其远离现实世界的目标，这使得测试更安全，但用处不大。

为什么我们不能让流氓人工智能远离互联网？

隔离人工智能使其远离现实世界的目标，这使得测试更安全，但用处不大。

“严格的气隙会降低真实性……[这是]一种权衡，而不是一个基本的技术问题。

” 理论上是的。

研究人员可以将运行人工智能工具的计算机与互联网和其他外部网络隔离，这种技术称为气隙技术。

这可能意味着物理上移除或禁用电缆和无线硬件，并使用“哑”外围设备，特别敏感的设置使用法拉第笼或其他屏蔽来阻止电磁信号的进出。

如果处理得当，气隙系统将无法为特工提供通往外部目标的直接路径，也无法为外部系统提供任何直接进入的路径，这使得像 OpenAI 模型针对 Hugging Face 发起的攻击这样的攻击变得更加困难（如果不是不可能的话）。

但在实践中，一个完美密封的盒子只能容纳一个相当有限的实验室，特别是当目的是评估人工智能在现实世界中的表现时。

德国马克斯·普朗克安全与隐私研究所的科学主任 Thorsten Holz 解释说，虽然一些人工智能实验可以在气隙机器上运行，但实际评估通常需要访问外部服务、API 和数字基础设施。

“严格的气隙会降低现实性，”他说，并将气隙的决定描述为“权衡，而不是基本的技术问题”。

英国伯明翰大学计算机科学学院助理教授李瑞哲将完全隔离比作在“人造真空”中测试人工智能，这可能会损害评估本身的价值。

“我们最终将测试一个中性的人工智能模型，这会让评估者无法了解人工智能模型在实际部署环境中的行为、失败或执行工具使用的漏洞，”李说。

现实主义并不是唯一的权衡。

李说，空气间隙的成本高昂，并且可能会减慢研究速度，将快速迭代变成“缓慢的后勤障碍”。

霍尔兹说，在严格的气隙下，一些实验也会变得“更加困难”。

德国蒂宾根埃利斯研究所首席研究员马克西姆·安德留申科 (Maksym Andriushchenko) 表示，这种摩擦对于冒险的实验来说可能是合理的，但将其应用于所有事情会减慢新模型的开发速度。

🔗 原始来源

如果你要核对细节，可以再看原文： The Verge AI原文链接