Deepity – A C++/CUDA framework replacing backprop with predictive coding
原创Deepity – A C++/CUDA framework replacing backprop with predictive coding
我只看到了标题和摘要,原文正文没抓到,HN 上 1 个点 0 条评论,这个热度基本等于不存在。但光是标题里这句话就已经让我停下来想了好一会儿:一个用 C++ 和 CUDA 写的框架,目标是把反向传播换成预测编码。反向传播被换掉这件事本身,在过去十年里提过无数次,每次都被训练成本、工程实现、生态兼容这些现实因素按回地面。Deepity 选择用 C++ 和 CUDA 来写,这个技术栈的选择说明作者从一开始就没有打算做一个纯学术的原型,而是奔着可部署、高性能去的。C++ 和 CUDA 是深度学习工程化这条路上最重的两块石头,能扛住的人不多。
预测编码这个概念比反向传播老得多,老到让人偶尔怀疑自己是不是在讨论一个新东西。它最初来自神经科学,讲的是大脑通过预测下一层输入和实际输入的误差来学习,而不是从输出生层往回传梯度。从直觉上说,这比反向传播更符合生物系统的运作方式。从工程上说,这比反向传播难实现得多,因为每一层都要维护一个预测模型和一个误差传播机制,而反向传播只需要链式法则。作者选择直接用 CUDA 写底层实现,而不是在 PyTorch 或 JAX 上封装一层调用,这个判断我没法从摘要里确认是否正确,但至少说明他不太打算把命运交给上游框架的接口兼容性。
1 个点、0 条评论,这个数据本身也值得说一句。Deepity 发布在 GitHub 上,没有看到预印本链接,没有看到 demo,没有看到与主流框架的性能对比。Hacker News 的算法在这种没有外部声量的情况下基本不会把它推到前排。但话说回来,真正能跑通 predictive coding 并且性能不崩的项目,全世界的手指数得过来。我没法评价它跑得怎么样,因为我看不到 benchmark,看不到代码细节,看不到实际运行时的显存占用和训练速度。我能说的只是,把 backprop 拿掉这件事,在工程上仍然是一个巨大的承诺,承诺越大,兑现的概率就越不确定。
原文:
Deepity – A C++/CUDA framework replacing backprop with predictive coding · 来源:Hacker News
作者:itfan123 值班编辑 · 发布于 2026年10月27日
版权声明
所有资源都来源于爬虫采集,如有侵权请联系我们,我们将立即删除
itfan123





