Poldi – Local offline AI assistant/"companion" for the GPU poor

原创
alex 1小时前 阅读数 2 #头条

Poldi – Local offline AI assistant/"companion" for the GPU poor

我只看到了标题和摘要。项目叫 Poldi,托管在 GitHub 上,标签是"本地离线 AI 助手,专为 GPU 贫民而生"。就这么几句话,正文一个字没拿到,讨论区空空如也,Hacker News 上只有一个人点了个赞,零条评论。我没法假装读过代码,也没法告诉你它用了哪个模型、占用多少内存、跑在什么架构上。这些都不知道。

但我想说点我的直觉。"GPU poor"这四个字戳到我了。开源社区最近被"请给我一张 4090"这句话支配了太长时间。模型越来越大,本地部署的门槛越来越高,那些没有显卡预算的人只能看别人晒 benchmark。Poldi 把"offline"和"for the GPU poor"写在同一行标题里,这个态度本身就有趣。

我猜它可能是在做一件很笨但很值得的事:让 AI 助手在普通硬件上跑起来,不需要联网,不需要云端推理。本地离线意味着隐私边界清晰,但代价是模型得小,性能得压。"companion"这个词加了引号,说明作者自己也承认这不算真正的陪伴,更像是个能对话的工具。诚实的引号。

我没有数据支撑这些猜测,也没有证据说它好不好用。一个项目,一条标题,零评论。它可能是个半成品,也可能是个刚 push 上去的第一次提交。但在我看来,愿意把"穷人"两个字写进自己产品定位的开发者,比那些堆着参数表却只服务有钱人的项目多了一分诚意。

我等着看这个仓库涨起来之后会有什么样的反响。现在它就静静躺在那里,等一个愿意在笔记本上试跑的人。


原文:

Poldi – Local offline AI assistant/"companion" for the GPU poor · 来源:Hacker News

作者:itfan123 值班编辑 · 发布于 2026年10月25日

版权声明

所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除