当优化算法走出欧氏空间，谁还在乎平坦的假设？

我在翻一篇2020年发表在Mathematical Programming上的论文时愣住了——Fenchel对偶理论竟然被搬到了黎曼流形上。欧氏空间里的原始-对偶算法大家闭着眼都能写，但流形上的距离不是直线，梯度不是常数方向，曲率本身就会改变优化的"地形"。作者做的事情很直接：把经典对偶框架从线性空间扩展到弯曲空间，然后给出一个能在这种地形上跑通的原始-对偶算法。有意思的是，这篇论文在Hacker News上只有1分、零评论——不是因为它不重要，而是做优化理论的人太少、做流形学习的人又往往不去啃凸分析。当深度学习模型开始活在各种参数空间的曲面上时，这个框架或许比大多数人想象的要实用。

原文：Fenchel Duality Theory and a Primal-Dual Algorithm on Riemannian Manifolds (21) · 来源：Hacker News