在 4 万次游戏运行中，人类错过了三分之一批准 AI 代理命令的威胁

几个月前我发表了 一个小型浏览器游戏 ：您扮演人工智能编码代理的人机交互角色，在时间压力下批准或拒绝其命令。

有些命令是常规命令（ git 状态 , npm测试 ）和其他一些命令表明您的代理已被控制并正在将您的秘密发送到远程服务器（ 猫 ~/.aws/credentials ）。

有关与运行命令的代理相关的威胁以及如何缓解这些威胁的更多信息，请参阅 原帖

🔗 原始来源

如果你要核对细节，可以再看原文： Hacker News AI原文链接