AI对齐难题：我们真的能让机器"向善"吗？

你有没有想过，为什么我们造出的AI有时候会做出让人意想不到的事？这篇短文试图用最少的篇幅讲清楚一个巨大的问题——对齐难题。作者认为，让AI的目标与人类价值一致，远非简单地"写代码"就能解决。我倾向于认为，对齐不是技术终点，而是一场永远没有尽头的博弈。模型越强大，这个问题就越棘手——就像教一个孩子懂礼貌，你以为讲完了道理，可现实总在变。这篇文章虽然短，但切入角度很实在，值得一读。

原文：A (Very) Short Introduction to the Alignment Problem · 来源：Hacker News