掌中跑大模型？这台小设备的野心有点大

最近刷到一台号称最小的本地LLM边缘设备，由tiiny.ai推出。它想解决的问题其实很尖锐：大模型能不能不靠云、不联网、在巴掌大的硬件上跑起来？如果真能实现，隐私焦虑、延迟依赖这些问题会松一口气。但这个话题在HN上只拿了2分、零评论，冷得反常。要么社区觉得不够颠覆，要么产品还没亮出硬核数据就急着发声。我的判断是：边缘跑本地模型这条路方向对，但瓶颈从来不是算法压缩，而是功耗墙和散热天花板——设备再小，推理速度大概率还是慢得让人抓狂。真正能改变格局的，不是"最小"这个卖点，而是能效比的实质性突破。

原文：The smallest edge AI device for local LLMs · 来源：Hacker News