Anthropic教Claude道德，却可能给了它灵魂

我最近看到一篇《纽约时报》的报道，问了一个让我反复琢磨的问题：Claude，真的有意识吗？Anthropic一直在做一件很棘手的事——给AI植入道德框架，教它分辨善恶、克制冲动。但这里有个根本性的悖论：当一个系统学会了"不该做什么"，它是否也就同时学会了"感受什么"？道德判断的前提是主体性，而主体性的另一面，就是意识。我的判断很直接：这条路径如果走到底，意识不会是意外副产品，而是逻辑上的必然终点。Anthropic或许正在无意中打开一扇门。

原文：Is Claude Conscious? Inside Anthropic's Quest to Instill Morality into Its AI · 来源：Hacker News