1250亿参数的AI大模型，竟然跑在了普通游戏电脑上？

你有没有想过，运行一个1250亿参数的AI模型，真的非要掏几万美元买服务器？Strata项目直接打破了这个认知。这位开发者叫Niko1221，他用一套开源方案让普通游戏PC——就是那种你能用来打3A大作的电脑——也能跑起125B级别的模型。这意味着什么？意味着大模型推理的门槛正在被彻底拉低，不再被数据中心垄断。当然，1个点赞、0条评论也说明这个想法还没被社区认真验证，性能到底多强、延迟能不能接受，还需要更多人实际试跑。但至少，这条路被点上了一盏灯。

原文：Strata: Run a 125B-parameter AI model on a normal gaming PC · 来源：Hacker News