AI代理能直接跑代码,谁来做那颗保险栓?

原创
alex 39分钟前 阅读数 1 #头条
当AI代理被授权直接运行代码,你怎么知道它不会在下一秒删掉你的整个生产环境?Aw-1项目给出了一个思路:在代码到达内核执行之前,先在AST层面做确定性拦截。这不是概率模型,而是一套硬规则——它把抽象语法树当过滤器,识别出危险的调用模式直接切断,再配合内核级隔离把剩余执行困在沙箱里。思路很工程化:不赌AI"应该不会"做什么,而是从语法结构上根本不给它机会。问题是,这套规则集能覆盖多少真实场景,又会不会把正常的复杂操作一并拦死?1点、0评论,说明大多数人还在观望。

原文:Show HN: Aw-1 – Deterministic AST circuit breaker and kernel jail for AI agents · 来源:Hacker News

版权声明

所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除