每章 5 美分、90% 准确率:Authrot 的 AI 扫描仪反直觉演进
原创每章 5 美分、90% 准确率:Authrot 的 AI 扫描仪反直觉演进
从一次大调用到 60-85 次小调用:逐章扫描的架构演进
写连载小说的人都知道一个麻烦事:角色昨天还在第 3 章跟人结仇,今天改到第 5 章提前和解了,旧的那一版情节还留在记忆里。Authrot 这个写作工作室解决这个问题的方式,是把每一章都让 AI 扫一遍,更新故事圣经:谁出场了、在哪、什么关系、发生了什么变化 来源:HH。
最初他们做的是一次大调用,每章让模型一口气读完整章,然后自己整理出人物和关系。效果惨不忍睹:关系识别准确率只有约 30%,发现率约 25%。也就是说,大部分关系它要么找错了,要么根本没找到 来源:HH。
现在的做法完全不同。每章被拆成 60-85 次小调用,大多数共享同一个缓存提示词,约 95% 的提示词由缓存命中。架构的核心转向是:代码负责推理,模型只从代码预生成的短列表里做选择 来源:HH。这不是让模型自己想,而是把想的事交给代码,模型只需要认出哪个选项对。拿《基督山伯爵》来看效果:第 8 章被囚禁的 Dantès 只有 14 个关系,到第 40 章在巴黎当上伯爵已经有 61 个,每个关系都有原文引文背书,还标注了从哪一章开始出现 来源:HH。人物外貌也是逐章更新的,Dantès 伪装成 Sinbad the Sailor 的时候,Sinbad 保留自己的独立条目,Dantès 的页面在 Identities 下列出这个身份,第 40 章才揭晓 来源:HH。
反直觉发现:小模型、无推理,反而更准更省
如果只看架构变化,会觉得这是工程优化的常规操作。但作者 Joe 在 HN 上说了个更反直觉的结论:对比“最便宜模型、无推理”和“前沿模型+思维链”,前者胜出 来源:HN。具体组合是 flash 用来阅读,GPT-6 Luna 用来检查关系;更大的模型加上思维成本更高,表现并没有更好 来源:HH。
量化来看,关系准确率从约 30% 升到 90%,发现率从约 25% 升到 72% 来源:HH。成本方面,六章测试运行下来每章约 5-8 美分,其中 95% 的提示词来自缓存 来源:HH。这意味着什么?把大模型换掉,把思维链关掉,把提示词缓存起来,结果反而准了十倍不止,便宜了不知多少倍。
作者特意在评论区主动分享发现,说“可以回答大家的问题”来源:HN。这种公开的实验记录在 AI 工程圈里不多见,很多团队把这类数据藏着掖着。他没有藏着,因为这套做法跟主流直觉相悖,别人很难相信。
多源交叉验证:博客与 HN 讨论如何相互印证
博客正文和 HN 评论区聚焦的是同一个命题:模型大小和推理深度不是准确率的关键 来源:HH、来源:HN。博客给出 90% 和 72% 的量化提升,评论区里作者重申“最便宜 vs 前沿”的对照,两者互为佐证 来源:HH、来源:HN。
这里有个细节需要确认:HN 上发帖的 JoeOfTexas 和博客作者 Joe 同名,评论区内容与博客 TL;DR 高度吻合。我不确定他们是不是同一个人,但两边的数字和结论完全对得上,交叉验证了数据来源 来源:HN、来源:HH。另外,HN 帖子的 Points 只有 1、评论只有 1,说明这是一次低热度但高信息密度的分享,社区还没来得及展开讨论 来源:HN。
博客发布于 2026 年 10 月 27 日,HN 帖子紧随其后,时间线吻合,作者主动答疑 来源:HH、来源:HN。两个来源讲的是同一件事,但角度不同:博客偏工程细节,HN 偏核心结论。这种配合让这份数据不太像是营销稿,更像实打实的实验记录。
我自己的判断是:这种“代码推理、模型选择”的架构,加上小模型关推理的配置,会越来越多地出现在真实产品里。不是因为它符合直觉,恰恰是因为它反直觉,才会有人愿意试。
原文:
Reading a novel chapter by chapter: how Authrot's scanner evolved · 来源:Hacker News
参考来源:
作者:itfan123 值班编辑 · 发布于 2026年10月27日
版权声明
所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除
itfan123





