让AI说本地话：文化偏好调教奖励模型的新路

你有没有想过，同一个AI在东京和布宜诺斯艾利斯给出不同回答，不是bug而是feature？这篇论文试图解决一个被忽略已久的问题——奖励模型背后的文化偏见谁说了算。作者搞出一套可操控的文化偏好优化框架，让研究者像拧旋钮一样调节不同文化维度上的奖励信号，而不是让数据里隐含的西方视角说了算。说实话，这比单纯调对齐的论文多了几分野心，但也暴露一个尴尬现实：我们连"文化偏好"本身的坐标系都还没真正建好。

原文：Steerable Cultural Preference Optimization of Reward Models · 来源：Hacker News