你花几个月调模型参数,最后发现真正该修的是外面的那层壳?这条视频说了个让我有点不爽但不得不承认的观点:harness 比模型重要。我做 LLM 应用这几年,早期精力几乎全砸在选型和微调上,可真正上线之后才发现,数据怎么清洗、提示怎么组织、错...
前言 坡度优化一般用来进行优化dp调剂、出借等问题相关联的斜率优化训练,增强了一些DP思想。我选择了在老校长留下的课题领域进行实践,因为领域中的问题很多,以及个人长期不愿在单一主题上进行培训,所以打开这篇文章,记录了断断续续的培训效果和感悟...