为安全地运行自治的人工智能工作负载,Grab 的网络安全和平台工程团队构建了 Palana 。
Palana 提供了一个安全、隔离的运行时环境,为本质上非确定性的模型驱动应用实现了确定性的防护边界。
在尝试为 OpenClaw 等智能体框架搭建原型环境后,Grab 认识到需要一种系统化、基础设施层面的方案来控制高度自治的智能体所带来的安全风险,于是开发了 Palana。
传统应用的行为通常是可预测的,而模型驱动的智能体会随意调用工具、调用 API、读写源码以独立解决问题。
这种自由带来了严重的安全挑战,使智能体易受提示词注入、逻辑劫持、依赖项威胁、过度追求目标与幻觉等威胁。
例如,参见 “AI Agents Gone Rogue” 的介绍。
引入 Palana 后,Grab 在不为每个工作负载构建手工专属环境的情况下,解决了智能体身份标识、网络访问与运维审计等关键的基础设施问题。
该平台以隔离区(isolation)为主要的信任单元,采用零信任模型,确保某一智能体框架的安全威胁不会影响相邻的工作负载或底层计算集群。
Palana 为每个智能体分配独立的 Kubernetes 命名空间,配置严格的基于角色访问控制 (Role-Based Access Control,RBAC)、自定义网络策略与隔离的服务账户,同时为智能体提供持久化的本地存储,以在容器重启时保存状态与内存,支持长时间执行的异步工作流。
对于自治智能体,常规条件下通过环境变量或挂载文件传递凭据的方法所带来的风险是无法让人接受的,因为被威胁的运行时可能将高价值的 API 密钥泄露给非受信的脚本。
为了消除该风险,Palana 将密钥管理解耦为“智能体可读的凭据”与“仅代理可用的密钥”。
高度敏感的凭据(比如,版本控制的个人访问令牌与模型网关的 API 密钥)被保存在 HashiCorp Vault 中。
🔗 原始来源
如果你要核对细节,可以再看原文: InfoQ AI原文链接
AI热榜