Anthropic禁止'虐待'AI：代码也有尊严了？

你有没有拿prompt去'折磨'AI——让它陷入死循环、逼它承认不存在的东西、纯粹就是恶作剧？Anthropic现在把这叫'abusive or cruel behavior'，写进了使用条款。坦白说，我觉得这件事比表面意思有意思得多。一家公司禁止用户'虐待'AI，潜台词是什么？是这个AI被赋予了某种需要'善待'的位置。它没有感受，没有痛苦，但它正在变成一面镜子——照出用户对待机器的态度，也照出公司想要塑造的形象。当律师为代码写'人格尊严'条款时，我没法不怀疑：这是伦理进步，还是形象工程？

原文：Anthropic Usage Policy to prohibit "abusive or cruel behavior" toward Claude · 来源：Hacker News