无CUDA跑DGX Spark：496次提交与2周逆向背后的反直觉实验

原创

alex 50分钟前阅读数 1 #头条

无CUDA跑DGX Spark：496次提交与2周逆向背后的反直觉实验

背景与反直觉：一个非程序员为何要绕开CUDA？

我最初是在 Hacker News 上看到这个帖子的，标题写着 "Running Local AI on Nvidia DGX Spark Without CUDA"。点进去是一篇 GitHub 仓库，我第一眼以为又是某个工程师的常规操作。但仔细翻评论区才发现，这个项目的作者在 HN 上自述说"I'm not a coder" [来源：HN]。一个自认不会写代码的人，去动 NVIDIA 的底层，这事本身就有点不对劲。

作者在评论区解释了来龙去脉。Omega runtime 本来是他让 AI agent 用的简写，因为 agent 在 JSON 格式上不断出错，他才让 agent 重写，结果一路挖到了 C 语言下面。他在 HN 里说："what if C wasn't really fast like everyone thought" [来源：HN]，这个疑问驱动了他接下来两周的工作。我读到这句话时愣了一下。多数人面对这种疑问会选择查资料、问专家，而他选择把自己的 AI swarm 指向底层，让机器去"dig"。

这两周的代价不小。他自己描述了一种"Super Weekends"的作息，周四凌晨 4 点起床，工作到周五晚上才睡，周六早上再起来，一直干到周日晚上，然后周一一早去上班 [来源：HN]。他说自己"obsessed with seeing what I can do with it"，但同时也承认"I want to build out this entire NVIDIA stack but I just don't have the resources" [来源：HN]。

所以当我看到仓库里写的目标"free and open collaboration with all of humanity"时，我才明白这个项目的分量。它不像那些商业驱动的技术项目，更像是作者个人执念的产物。他说自己是个"Freedom Fighter"，还专门建了 OpenHumanity repo [来源：HN]。我无法判断这种热情能走多远，但至少在这个项目里，它确实推动了一个人做出反直觉的选择。

技术拆解：CUDApp如何在GB10上无CUDA运行？

仓库 README 写得相当明确。CUDA++ 的目标硬件只有 NVIDIA DGX Spark，它的 GB10 Grace Blackwell 芯片计算能力是 sm_121，PCI id 是 10de:2e12 [来源：GH]。仓库特别标注"Other NVIDIA GPUs are not supported yet" [来源：GH]。这意味着如果你手上不是 DGX Spark，这个项目基本用不上。

我更在意它的运行时声明，no CUDA toolkit, no nvcc, no PTX, no libcuda, no cuBLAS [来源：GH]。这意味着在构建和运行阶段，系统里完全不需要 NVIDIA 的 CUDA 用户空间软件。CUDA++ 自己把 GPU 程序编译成 GB10 的机器码，并内置了运行时和驱动客户端。这个说法如果属实，相当于绕开了整个 CUDA 软件栈，直接对接硬件。

项目已经有 496 个提交 [来源：GH]，仓库里可以看到 third_party/nvidia-open-580.173.02，也就是 NVIDIA 的开放内核模块 [来源：GH]。作者在 README 里也承认，NVIDIA 的编译器和反汇编器被离线用作参考，编码方式是这样被"worked out"的 [来源：GH]。另外，许可证是 Apache-2.0 WITH LLVM-exception [来源：GH]，示例目录 examples/hello_gpu 里有一个最小的运行用例 [来源：GH]。

不过我注意到 README 里有一句冷静的声明："It's a research-stage toolchain and runtime, not a drop-in replacement for all of CUDA" [来源：GH]。这句话很重要，它给整个项目划定了边界，说明作者清楚自己做的属于实验性工具链，距离 CUDA 的完整替代品还很远。对于想拿它跑生产环境的想法，这句话应该能让很多人冷静下来。

多源交叉验证：仓库声明与作者自述的张力

对比仓库和 HN 评论区，我看到了两个不太一样的叙事。仓库 README 说"NVIDIA's compiler and disassembler were used offline as references"，强调逆向工作只是为了学习 [来源：GH]。但作者在 HN 里的说法更随意，他说"I told it to rewrite whatever it wanted to use to stop making errors"，然后让 swarm 去"dig"了两周 [来源：HN]。两种表述放在一起，你会感觉到仓库的正式口吻和作者个人的狂热之间有明显落差。

更微妙的张力在硬件支持范围上。仓库声明只支持 DGX Spark，其他 NVIDIA GPU 都不支持 [来源：GH]。但作者在 HN 里明确表示"I want to build out this entire NVIDIA stack but I just don't have the resources" [来源：HN]。这两个说法并不矛盾，前者是当前状态，后者是未来愿望。但放在一起，你确实能感受到作者想做的事情比代码仓库目前呈现的要大得多。

HN 评论区还暴露了项目起源的一个细节。Omega 来自"Omegese"，是作者给 AI agent 用的简写，因为 agent 在 JSON 格式上总是出错，他才让它重写 [来源：HN]。这意味着整个项目最初不是为了绕开 CUDA，而是从 agent 的命名习惯里长出来的。这个细节让我觉得有点意思，技术的起点往往比我们想象的要偶然。

如果让我给一个判断，我会说这个项目的价值更多在于它展示了一条路径。一个没有传统工程背景的人，借助 AI swarm，在两周内对一个专有 GPU 栈做出了逆向尝试。作者在结尾说"I am really good at figuring out patterns and engineering my way through puzzles I cannot see (CUDA)" [来源：HN]。我不确定这个项目最终能走多远，但至少它证明了一件事，好奇心驱动下的探索，有时真的能绕开那些默认路径。

原文：

Running Local AI on Nvidia DGX Spark Without CUDA · 来源：Hacker News

参考来源：