P2P算力拼车跑开源模型，能行还是噱头？

家里闲着的显卡能拼起来跑一个开源大模型，听着挺美对吧？iroh团队做的Buzz就是干这个的——通过P2P网络把分散的闲置算力聚合起来，不用自建集群也能跑开源模型。但这条新闻在HN上只拿到1个upvote、0条评论，本身就说明问题：P2P算力共享这想法喊了好几年，从seti@home到各种GPU拼车项目，真正稳定跑起来的几乎没有。技术难点不在P2P本身，而在异构硬件兼容性、网络延迟对推理任务的致命影响，以及用户凭什么愿意贡献算力。Buzz方向没错，但在这些问题解决之前，大概率还只是概念验证。

原文：Buzz: Share spare compute and run open models together over P2P networks · 来源：Hacker News