AlphaEvolve 降低了矩阵乘法指数，却没有降低你的 GPU 账单
AlphaEvolve 帮助降低了已知最佳的矩阵乘法指数上界。了解改变了什么、如何认证，以及为什么它不会让今天的 GPU 更快。
一篇新的预印本报告称，AlphaEvolve 帮助降低了已知最佳的矩阵乘法指数上界，通常写作希腊字母 omega：从 降至 。这是一个真正的理论纪录，但它不是新的矩阵乘法内核，不是经过测量的 GPU 加速，也不是期待云账单下降的理由。
这个区别很重要，因为矩阵乘法驱动着神经网络的训练和推理。关于更好指数的标题听起来可能像即时的 AI 加速。在本例中，研究人员使用机器学习技术和 AlphaEvolve 来搜索一个巨大的数学优化问题，然后使用独立的精确算术流程来认证候选结果。
这篇8 月 17 日的论文仍只是一篇预印本；截至 8 月 20 日，其中承诺的验证代码和发现的解尚未公开。因此，该证书尚未在公开环境中得到独立复现。谨慎的结论是：作者报告了一个经过严格检查的新上界，但一个重要的可复现性步骤仍然悬而未决。
矩阵乘法指数是什么意思？
熟悉的学校算法大约用 次算术运算乘以两个 矩阵。指数是 ，因为矩阵维度翻倍会让主要运算数量增加约 倍。
1969 年，Volker Strassen 展示了矩阵乘法可以使用少于三次方的运算。这开启了一个持续至今的问题：指数能多接近 ？ 是仅仅写出答案中的 个条目所需的规模。
研究人员使用 omega（）将这个问题形式化。非正式地说， 是这样一个最小指数：足够大的方阵可以使用约 次算术运算相乘，同时允许渐近记号隐藏低阶因子。
有两个边界必须分开：
- 输出本身给出下界 。
- 被发现的算法或数学构造给出上界，例如 。
降低上界并不会揭示 omega 的真实值。它证明未知答案不大于这个新数字。 与 之间的差距仍然是开放问题。
此前的纪录 发表在 2025 年 SODA 会议论文集中。新论文的改进是 。这个数字看似微小，但几十年来该领域的进展一直既小又困难。Quanta 的独立报道提供了恰当背景：这些纪录帮助研究人员理解问题的理论极限，而背后的激光方法是被分析的对象，并不是作为实用实现来运行的。
AlphaEvolve 实际改变了什么
新结果并不是语言模型直接发明最终证明的故事。这项工作有四个不同层次：数学重构、大规模数值搜索、AlphaEvolve 辅助的程序改进，以及精确认证。
1. 人类重新构造了优化问题
近期的 omega 纪录使用了激光方法的改进版，这是一种分解和分析矩阵乘法的理论技术。这项分析可以表达成一个受约束的非凸优化问题。“非凸”意味着搜索地形可能包含许多局部良好点，因此沿下降方向前进并不能保证找到整体最佳答案。
此前的纪录把构造搜索到最高递归级别 ，涉及约 25,000 个可优化参数。新团队重新构造了问题，使其能够达到递归级别 ，此时搜索规模增长到近 700 万个参数。
更大的搜索空间并不会自动变好：它也会变得更难优化。这项工作的贡献在于让它具备计算上的可处理性。
2. 机器学习工具让搜索可微并行
许多变量都是概率分布。研究人员没有直接优化受约束的概率，而是将它们表示为不受约束的 logit，再用 softmax 函数把 logit 转换成概率。这是标准的机器学习模式。
他们使用 Sinkhorn-Knopp 算法处理最大熵分布，使用自动微分计算梯度，并使用 Adam 更新参数。他们在 JAX 中实现了系统，把不规则的图计算重组为 GPU 可以并行处理的掩码分组张量。
这个基于梯度的系统已经改进了此前的纪录。论文称，在应用 AlphaEvolve 之前，它将上界降低了约 。
3. AlphaEvolve 改进了优化器程序
AlphaEvolve 是一个编码代理，会提出程序变更、对候选版本运行自动评估器，并演化出有前景的版本。在这里，它没有乘以生产矩阵，而是修改了用来搜索更好数学上界的程序。
根据新论文，每个候选优化器在单个 GPU 上大约运行五小时才能产出一个上界。AlphaEvolve 使用这个上界作为分数，并演化代码以让数字变小。研究人员报告，一种“演化构造”的设置有所帮助：子优化器从父优化器找到的最佳解开始，而不是从头开始。
论文对贡献的划分异常清楚：
| 阶段 | 报告的贡献 |
|---|---|
| 之前发表的纪录 | |
| 新的基于梯度的优化 | 将纪录改进约 |
| AlphaEvolve 改进的优化 | 将总改进扩大到约 |
| 最终报告的上界 |
AlphaEvolve 扩展了一个已经成功的人类设计、机器学习赋能的优化系统。说 AlphaEvolve 单独“解决了矩阵乘法”，会抹去数学设置和团队此前的数值改进。
4. 精确算术检查数值候选解
浮点优化器可能返回一个有前景的数字，却无法证明每个数学约束都真正满足。当声称的收益只有小数点后第四位时，微小的舍入误差也很重要。
因此，作者描述了一个独立的验证步骤。他们把浮点解四舍五入为有理数，使用精确有理数算术计算派生量，并以保守方向约束对数。这一步旨在把数值候选解变成上界有效证书。
这是一种良好的计算机辅助数学分工：用快速近似计算进行发现，再用更严格的方法进行验证。但读者应区分作者的认证声明与公开的独立复现。论文称验证仓库正在准备；在发表时，arXiv 页面没有链接到它。
为什么新上界不会让 GPU 矩阵乘法更快
渐近指数描述的是当 变得极其大时，运算次数如何增长。真实的 GPU 性能还取决于更多因素：
- 渐近记号隐藏的常数和低阶项；
- 模型使用的矩阵大小和形状；
- 内存移动、缓存行为以及设备间通信；
- 数值精度和稳定性；
- 内核对张量核心及其他硬件的利用效率；
- 把理论构造变成可执行步骤的开销。
新论文没有提供实现激光方法的 CUDA、Triton、JAX 或厂商库内核。它报告的是对原则上可能实现的更好分析。
一个说明性计算展示了为什么单凭指数变化无法预测有用的运行时收益。假如两个虚构算法的常数相同，成本恰好与 和 成正比，那么较小指数会让主要项减少以下幅度：
| 矩阵维度 | 主要项的说明性减少量 |
|---|---|
| 约 | |
| 约 | |
| 约 |
这些不是基准测试。相同常数的假设不现实，而且激光方法构造可能携带巨大的隐藏成本。该表只展示 的指数差异累积得有多慢。对于实际规模，一个经过调优但渐近指数更差的算法很容易更快。
这也把该结果与 AlphaEvolve 的其他矩阵乘法工作区分开来。它此前的系统论文报告了针对特定 复值问题的 48 次乘法构造。omega 预印本则通过不同的优化流程改进渐近上界。两项结果都不能证明普通 GPU 矩阵乘法一夜之间变便宜。
为什么这个结果仍然重要
眼前的价值在于方法论和理论。
首先，团队通过把现代机器学习的思想转化为计算机辅助证明搜索，将一个精细的优化从约 25,000 个参数扩展到 700 万个参数。这在优化工程与理论计算机科学之间建立了具体桥梁。
其次，该结果展示了演化式编码代理的一个有用角色。AlphaEvolve 搜索的是优化器程序，而不只是数值设置。评估器提供精确目标，而人类研究人员提供数学表示、计算系统、验证标准和解释。
第三，即使上界只有微小改进，也会缩小研究人员需要解释的范围。如果真实指数是 ，当前激光方法分析离它仍然很远。如果真实指数更大，那么更好的上下界有助于绘制这片疆域。
对实践者而言，最可迁移的教训不是更快的通用矩阵乘法，而是一套工作流：
- 把困难的科学搜索表达成可评估的程序；
- 在适合的地方使用可微优化和硬件并行；
- 让编码代理在可测评分下探索程序级改动；
- 使用旨在排除近似误差的方法验证获胜的数值结果。
这套工作流比标题的戏剧化版本更有趣，因为它清楚展示了 AI 系统在哪些地方提供帮助，以及人类数学判断仍然不可或缺的地方。
接下来应当出现什么证据？
第一个检查点是承诺中的仓库，其中应包含验证代码和发现的解。独立研究人员应该能够运行证书，检查每个数值上界的方向，并复现 。
下一个检查点是同行评审。论文是 arXiv 预印本，而不是同行评审发表物。评审可能确认结果、发现技术问题，或澄清构造的哪个部分最值得重视。
最后，关注后续工作如何把经常被一个标题合并的三个问题分开：
- 优化器能否找到更低且经过认证的渐近上界？
- 这种方法能否让研究人员对激光方法的极限有新的认识？
- 任何相关思想能否成为适用于现实矩阵的稳定、硬件感知实现？
报告的纪录只回答了第一个问题。若想复习矩阵乘法背后的线性代数，请先阅读我们的向量到嵌入指南。若想了解评估报告改进的方法框架，请参阅评估如何塑造 AI 产品。