用自己的代码造测评,结果居然和行业标准一致?

原创
alex 49分钟前 阅读数 1 #头条
你有没有想过,一个开发者从自己仓库里挖出来的数据,居然能复现出和 FrontierCode 这样外部基准几乎一致的结论?这篇文章的作者就这么干了——从自己维护的项目中提炼真实开发任务,拼出一套私有 benchmark,跑出来的结果和 FrontierCode 高度吻合。我看完有点意外:大型评测未必得靠大团队和昂贵的标注流水线,一个熟悉代码的人从日常仓库里"淘金",同样能造出有说服力的评价工具。这说明测评的门槛可能比想象中低——你手里有真实样本,加上清晰的评估标准,自建基准完全可行。

原文:How I made a benchmark mined from my own repo that agreed with FrontierCode · 来源:Hacker News

版权声明

所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除