随着公司开始允许 AI 代理访问其系统的越来越多的部分,围绕 AI 代理正在使用的新工具,似乎正在形成一个新生的软件供应链:技能、插件、MCP 服务器以及让它们与互联网交互的附加组件。
人工智能安全初创公司 空气 相信公司需要一种方法来监控供应链,现在它已经开始秘密行动,通过两轮种子轮融资筹集了 5000 万美元来开发该产品。
AIR 由以色列第 8200 情报部队退伍军人 Yair Saban(首席执行官)和 Niv Hoffman(首席技术官)创立,他们在该部队从事进攻性网络安全工作。
AIR 提供的平台可以发现公司内部运行的代理,持续审查这些代理使用的任何技能、工具和组件,并阻止他们与不通过安全标准的软件或外部来源进行交互。
它还为人工智能代理提供了经过审查的附加组件和技能的市场。
Saban 告诉 TechCrunch,这两轮融资在几周内就结束了,第一轮融资 1000 万美元,第二轮融资 4000 万美元。
萨班说,红杉资本在第一轮中领先,而格林诺克斯在第二轮中领先。
Swish、Netz、Zach Frankel(Cognition 总裁)、Yinon Costica(Wiz 联合创始人)、Ofir Erlich(Eon 联合创始人)、Anne Neuberger、Omer Adam、Varun Anand(Clay 联合创始人)等天使投资人也参与其中。
AIR 的宣传是这样的:人工智能代理在公司中的大规模使用方式开始类似于操作系统,但他们使用的工具或他们可以安装的软件尚未受到我们对驱动程序或应用程序的监督。
“在 2000 年代初,每当你安装驱动程序时,驱动程序都不需要签名。
如今,每次安装驱动程序时,你都会看到一个签名,说明是谁签名的,因为驱动程序实际上是将代码加载到内核中,”Saban 说。
“你没有技能、插件或 MCP,这很遗憾,因为这是相同的机制,相同的教训,但我们还没有学到。
” 他认为,最大的风险在于,随着人工智能代理开始更加自主地跨数据库、企业系统工作并连接到互联网,攻击者可以毒害人工智能代理消耗的内容,而不是直接攻击它。
这家初创公司表示,它可以通过一款可见性产品来解决这个问题,该产品可以发现整个公司环境中活跃的代理,并识别使用未经 IT 部门批准的人工智能工具的员工或使用个人帐户的员工。
然后,它使用一个执行层来连接代理来拦截和分析操作,例如加载技能或从互联网获取内容。
最后,AIR 还会根据初创公司维护的白名单检查代理想要使用的工具、附加组件或软件。
🔗 原始来源
如果你要核对细节,可以再看原文: TechCrunch AI原文链接
AI热榜