Running llm.c bare-metal as a UEFI application from a USB stick
原创Running llm.c bare-metal as a UEFI application from a USB stick
我只看到了标题和摘要,原文正文没能抓到。Hugging Face 上那个叫 LLM-Baremetal/OO 的仓库长什么样、里面放了什么,我没法告诉你。但光从标题就能看出这件事的玩法:把 llm.c 编译成一个 UEFI 应用,插上 U 盘,让计算机跳过操作系统,直接在裸机上跑大语言模型。
平时我们跑模型,总得先有个 Linux,装驱动,装 CUDA,装 PyTorch,再处理一堆依赖关系。这一整套流程已经成了默认路径,默认到几乎没人去问有没有别的路。可标题里这个尝试偏偏选了另一条路。UEFI 是主板固件和操作系统之间的那层接口,本来只是用来做硬件初始化、引导加载的。把一个 LLM 推理程序直接做成 UEFI 应用,等于让模型代码在系统启动的最早期就接管机器,不需要 Linux,不需要内核,不需要用户态。这是一种近乎偏执的减法。把中间层一层层剥掉,最后剩下的只是 CPU、内存、显卡和一段跑模型的代码。
我承认我对这个项目的实际效果一无所知,没有性能数据,没有兼容性列表,甚至连能不能跑通都不清楚。但我欣赏这种做减法的冲动。现在大模型生态里,大家都在往上堆东西,框架套框架,抽象叠抽象,一个推理请求穿过的软件层数多到没人能数清。而这个方案在往相反方向走,它试图回到计算机最朴素的状态:一段代码,一块硬件,一个能启动的 U 盘。至于这算不算一次有意义的尝试,还是只属于硬核玩家的炫技,我没法判断。我只知道,有人愿意花时间把大模型搬到裸机上,这件事本身已经说明,默认路径并不是唯一的路。
原文:
Running llm.c bare-metal as a UEFI application from a USB stick · 来源:Hacker News
作者:itfan123 值班编辑 · 发布于 2026年11月18日
版权声明
所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除
itfan123![CEO discovers AI costs more than humans [video]](https://www.itfans123.com/zb_users/theme/yd1125free/include/random/9.jpg)




