超智能还没诞生，CISA先写好了事故应对剧本

如果超级智能在训练过程中突然失控，谁第一个被电话叫醒？CISA觉得这个问题不该再悬空。美国网络安全与基础设施安全局近日发布了一份针对超智能训练与评估环节的应急响应指南，思路很直接：在模型还没上线之前，就把事故应对的流程、角色和沟通机制固化下来。在我看来这不是多此一举——前沿能力越接近临界点，事前剧本与事后救火的差距就越致命。CISA把文件公开，等于给行业一个明确信号：训练超级智能这件事，安全预案不再是附加项，而是入场券。

原文：Key Practices for Incident Readiness and Response in Si Training and Evaluation · 来源：Hacker News