你的GPU在空转，而你还觉得自己挺高效

你有没有算过自己每次训练跑完之后，GPU到底吃了多少百分比的利用率？我翻完这篇"你还在桌上留着算力"之后，脑子里只剩一个判断：大部分人在用算力这件事上，浪费得比想象中严重得多。队列排不满、batch size没调、pipeline断在IO上——这些看起来零碎的漏洞，叠起来就是白烧的电费。有人可能说"利用率90%就够了"，但问题是，没人去追那最后10%背后漏掉的时间究竟去了哪。更扎心的是，你越是大团队，这种隐性损耗越难暴露，因为没人愿意为了一两个百分点去改架构。这篇文章不长，但它戳了一个不太舒服的事实：你以为自己在追求效率，其实只是没看到算力的账单。

原文：You're Leaving Compute on the Table · 来源：Hacker News