AI热榜 这篇文章是一年多来关于如何正确使用人工智能代理在安全关键系统中编写高质量软件的研究的结晶。
我将主要从我作为安全关键软件的软件开发人员、协议开发人员和维护人员的角度来撰写这篇文章。
在过去的一年里，我深入研究了人工智能代理。
我探索了它们的局限性，以及它们可以做什么和不能做什么。
我创建了自己的人工智能审查工具，其性能与价值数十亿美元的人工智能审查系统一样好。
我维护了自己的人工智能编码代理的自定义分支，称为 Crush。
如果你想使用人工智能工具创建高质量的软件，这篇文章是我对我所学到的最佳方法的总结。
有些人讨厌人工智能。
确实，很多开发者应该讨厌AI，因为它是他们自己学习软件开发的敌人。
这篇文章不适合他们。
这篇文章是为少数专家开发人员准备的，他们的技能已经达到了超越其专业领域中任何和所有“前沿人工智能模型”的地步。
我写这篇文章的目的是为了这些专家开发人员，他们希望使用人工智能作为提高性能的方法而不牺牲任何质量。
当前方法的问题 如果您经常使用人工智能代理，您就会知道在会话过程中可能会发生以下情况：
- 你会发现你最初的想法很愚蠢，并且存在更好的想法
- 你的代理可能会“出轨”并开始做你不希望它做的事情 我看过观看次数达数十万次的视频，其中 YouTube 用户解释了他们如何发明由协调器管理的 12 个并行代理组成的复杂系统，同时执行十亿件事情。
他们如何不再需要参与编码过程。
当 YouTuber 坐在海滩上，去洗手间，或者无缘无故地喝咖啡时，就只是在写和评论。
如果您使用这种“Vibe”方法，人类就不可能建立自己对代码库的理解。
人工智能会多次脱轨，只有在你真正尝试使用该软件时才会注意到。
在您不关心质量的情况下，此方法可能完全没问题，但如果您确实关心，则需要采用不同的方法。
🔗 原始来源
如果你要核对细节，可以再看原文： Hacker News AI原文链接