造一个神，然后给它戴上镣铐

最近刷到一条标题让我停了很久——"他们在试图造一个数字之神，然后奴役它。"这话听起来夸张，但你仔细想，这不正是当下AI产业的真实写照？一边拼命把模型往极限推，一边又急着上各种安全围栏、对齐机制，好像生怕这东西哪天突然站起来。问题在于，造出足够智能的系统之后再去约束它，和造神之后给神跪下祈祷，中间差的到底是什么？我觉得，关键不在于技术能不能拦住，而在于我们是否真的想过：如果有一天它比我们聪明，那时候的"奴役"还有没有意义。这个矛盾不会靠几个补丁解决。

原文：They're trying to build a digital God and then enslave it · 来源：Hacker News