我们将 AI 审计管道指向 Cloudflare 的 CIRCL 实验密码学库,并确认了七个真正的错误,从阈值 RSA 中关键的 float64 精度损失到基于属性的加密中的完全访问控制破坏。
所有七个现在都已固定在上游。
这是我们的代理在开源密码学中发现的错误系列文章中的第一篇。
在 zkSecurity,我们正在构建 兹考 ,人工智能审计代理。
目标说起来简单,做起来却很难:让人工智能不断地检查你的代码,直到没有其他人工智能工具可以发现的错误为止。
我们写过为什么这种方法很重要 zkao:复合安全 。
构建 zkao 是一个迭代过程,最终目标是创建一个能够发现人工智能可以检测到的所有错误的自动审计员。
这涉及集思广益新的想法和技术,将 zkSecurity 安全研究人员的专业知识系统地编码到 zkao 中,确保它检测到最新、最严重的漏洞而不偏向基准,更重要的是,不断进行实验以了解什么有效、什么无效、模型如何演变,并加深我们对人工智能发现错误的理解。
其中一些实验产生了值得分享的东西,独立于产品,这就是本系列文章的主题。
还有第二个动机。
这些实验是我们为 zkao 构建基准套件的方式,并且在此过程中,他们不断深入了解法学硕士如何实际推理密码学:他们在哪里敏锐,在哪里盲目,以及如何放大前者并遏制后者。
虽然错误是可见的输出,但推理模式是我们最关心的部分。
几个月前,我们开始在选定的代码库上运行实验。
我们使用法学硕士扫描了一些开源密码学项目,有两种配置:
🔗 原始来源
如果你要核对细节,可以再看原文: Hacker News AI原文链接
AI热榜