法律推理中的"引而不查"：模型真的读过法条吗？

我盯着这篇论文标题看了半天——"Cited but Not Consulted"，翻译过来刺得慌：引用了，却没去查。研究者给法律链式思维做了一次反事实审计：把模型引用的判例、法条悄悄换成错的，再盯着它会不会发现。结果大概不意外——推理链条照样顺滑地往下走，结论纹丝不动。也就是说，那些看起来严谨的法律推理，很可能是在表演严谨。我判断，这件事对法律AI的威胁不是幻觉，而是幻觉被包装成了形式正义：错的东西以正确的方式说出来，连审计都难以察觉。

原文：Cited but Not Consulted: A Counterfactual Audit of Legal Chain-of-Thought · 来源：Hacker News