10月5日，AlphaTensor诞生，DeepMind宣布解决了数学领域50年来未解的一个数学算法问题，即矩阵乘法。AlphaTensor成为第一个为矩阵乘法等数学问题发现新颖、高效且??可证明正确的算法的人工智能系统。论文《Discovering faster matrix multiplication algorithms with reinforcement learning》也登上了Nature的封面。然而，AlphaTensor的记录只维持了一周，就被人类数学家打破了。在他们的最新工作中，来自奥地利林茨约翰开普勒大学的研究人员ManuelKauers和JakobMoosbauer表示他们已经打破了矩阵乘法的AlphaTensor记录。他们开发了一种在95步内执行5×5矩阵乘法的方法，比AlphaTensor的记录96和之前的记录98少了一步。该论文的预印本于10月13日发布在arxiv上。论文地址：https://arxiv.org/abs/2210.04045论文题目中的“FBHHRBNRSSSHK”其实是DeepMind论文所有作者姓氏的首字母。这种命名方式也很有趣：数学问题的探索是无止境的，正如作者所说，DeepMind算法方案“还没有结束”。不过，他们这次的突破是站在巨人的肩膀上，那就是AI。作者说解决方案是在DeepMind方案的基础上进行一系列的变换，从而省去一步的乘法计算。1AlphaTensorwith2stepsforward我们简单回顾一下AlphaTensor的结果。计算机科学中的许多数学任务都是通过矩阵乘法处理的，例如机器学习、计算机图形的创建、各种模拟或数据压缩。计算机计算乘法比加法慢得多，因此即使矩阵乘法效率的微小改进也会产生巨大影响，几十年来数学家一直在寻找更高效的矩阵乘法算法。1969年，德国数学家VolkerStrassen首次开发出一种算法，将4×4矩阵乘法的解从64步减少到49步，震惊了数学界。Deepmind此次发布的AI系统AlphaTensor发现了一种比Strassen算法更快的新算法。DemisHassabis表示，新算法有可能在每天数万亿次计算中将效率提高10%到20%。AlphaTensor是从游戏到数学的飞跃，基于Deepmind于2018年发布的通用棋盘游戏AI系统AlphaZero。为了训练AlphaTensor，Deepmind研究团队将矩阵乘法问题转化为3D棋盘游戏，每一步生成新算法的构建块。AlphaTensor每次在数万个动作中进行选择，并以尽可能少的步骤生成新算法而获得奖励。DeepMind称之为“张量游戏”。在5×5输入矩阵上，AlphaTensor独立发现了Strassen算法和其他已知算法。而且，它还开发了比旧算法更有效的新算法。例如，5×5矩阵乘法（n=4）过去需要80步计算，但新的AlphaTensor算法只需要76步；当n=5时，AlphaTensor将解决方案从原来的98步减少到96步。4×4矩阵乘法被Strassen减少为49步，并被AlphaTensor优化为47步。这样的效率是通过AlphaTensor生成的70多次矩阵乘法的算法实现的。图注：AlphaTensor发现的算法复杂度与已知的矩阵乘法算法相比此外，AlphaTensor还可以开发针对机器学习的硬件专用算法。据说目前它的运行速度比谷歌TPU和NvidiaV100上的算法快20%。自调整乘法算法以适应硬件对人类来说是困难的，因此AlphaTensor对Strassen算法的改进为4×4矩阵乘法创造了新的上限，这是AI进步帮助其他学科的一个很好的证明。这也表明，最初为传统游戏开发的AlphaZero系统可以解决其领域之外的数学问题。2人类向前迈进了一步在ManuelKauers和JakobMoosbauer的最新研究中，他们主要有两个新发现，一个是针对4×4矩阵，他们提出了另一种47步乘法算法，但与以往的解决方案不同；其次，针对5×5矩阵，他们首次提出了需要95次乘法步骤的方案。在本文中，作者简要展示了这两种矩阵乘法的方案，近期将发表正式论文，其中将更详细地介绍求解算法的搜索技术。4×4矩阵的新方案共包含47次乘法运算，如下：5×5矩阵（n=5）的95步乘法方案如下：考虑到GPU每天需要进行万亿次矩阵计算，所以从98步到96步以及从96步到95步看似很小的增量改进实际上可以极大地提高计算效率，让AI应用程序在现有硬件上运行得更快。作者简介：ManuelKauers是林茨约翰内斯开普勒大学的代数教授和该大学代数研究所所长。他的研究兴趣是计算机代数、符号求和与积分、特殊函数恒等式等。JakobMoosbauer，林茨约翰内斯开普勒大学代数研究所博士生。
