AI越聪明，人类离生物灾难是更近还是更远？

当AI系统能帮助合成致命病原体时，生物安全这个本已棘手的全球议题又多了一层不确定性。LessWrong上这篇讨论直指一个核心矛盾：我们拼命训练更强的AI，却几乎没人在认真设计"它不该做什么"的约束。双用途研究——那些既能救人也能害人的生物科技知识——正被AI以前所未有的效率放大。更麻烦的是，全球各国对AI生物应用的安全标准几乎完全空白，没有统一的监管框架，没有任何一个国家能独自填上这个缺口。我的判断是，生物安全领域的AI治理正在重走核扩散的老路：技术在狂奔，规则在龟爬，而真正的危险恰好藏在那道越来越宽的真空地带里。

原文：Global Challenges in AI Safety for Biosecurity · 来源：Hacker News