本文来自微信公众号： 世界科学 ，作者：编译 蒋笃绘
何为“优化”？通俗来讲，优化就是让事物变得更好，而在数学领域，优化（optimization）作为一门有明确研究对象和理论体系的学科，其研究的是如何在给定约束下，从众多可能方案里找出使某个目标达到最小（或最大）的那个方案。
例如，“规划出成本最低的配送路线”就是一项优化目标，成本由行驶距离、能源消耗和所用时长等因素共同决定，约束条件则是道路通行规则，如单行道、夜间封路等。
当决策变量或约束条件的数量很多时，最小值求取通常只能依靠计算机：反复计算某组决策变量对应的成本，检验邻近的决策组合能否得到更低成本，并重复此过程，直到确定所有邻近决策对应的成本都更高为止。众多数学家都致力于加快优化计算，比如来自比利时的俄裔学者尤里·涅斯捷罗夫（Yurii Nesterov）。
涅斯捷罗夫在凸优化理论方面取得了开创性成果，其设计的加速梯度算法大幅加快优化计算，为数据科学、自动化和控制领域开辟全新可能，也催生出基于所谓“涅斯捷罗夫动量”的一系列新算法。因此获得了2023年世界顶尖科学家奖“智能科学或数学奖”。2026年7月，他获得了应用数学领域的最高荣誉——高斯奖。
尤里·涅斯捷罗夫曾接受瑞士学术机构的专访，介绍了优化研究领域，也分享了自己对数学和AI时代数学研究的见解。
优化研究的成果切实可感
我从事优化研究已有近50年了，这是一段漫长旅程。我有过一些开窍、破局的时刻，但那些时刻无法令我感叹“这或许是我最厉害的成果”。
数值方法优化这门学科有它美妙之处，其中之一便是研究者能实实在在看到自己的工作进展和价值。开展研究之前，已有算法勉强够解决问题，但求解须花费一小时；经过改进，求解时间缩短至一分钟了！
进展源源不断，前路依旧漫漫
优化领域正处于一个非常特殊的转折阶段。
几年前，我们开始研究高阶方法，发现这些方法已无法通过标准优化理论来解释。大家意识到，标准优化理论仅仅完成了第一步，即发展出一阶方法，要让理论更上一层楼，要得到速度更快、效率更高的更高阶计算方法，从某种意义上说，我们必须建立一套全新、通用的理论，覆盖所有可能的场景和方法。
更高阶的计算不止于一阶导数。
导数可堪大用，能指出优化景观里下坡的方向和陡峭程度，但计算导数的开销巨大。所以，关键就在于如何保留导数优势，同时减少计算成本。针对这一目标，学界已取得不少振奋人心的成果，但前方仍有大量工作与未知等待我们。
这听起来挺出人意料的。通常来说，当一个研究方向经过长达50年的密集发展，它理应接近终点的。漫漫前路对下一代研究者而言当然是好事，只不过我们这代人多少对此感到遗憾！
优化领域的知识只迎新、不辞旧
过去几十年间，优化领域诞生了各式各样的计算方法，而且有大量“陈旧”的算法仍“宝刀不老”——极具价值，因此这门学科不适合“辞旧迎新”。你若想融会贯通、纵览全局，就要把新旧知识悉数掌握。
那问题就来了，从教学层面看，如此繁多且还在越积越多、远超现有教学体系负荷的内容，该怎样教给学生呢？我对此毫无头绪。
呼吁将优化作为一门独立学科予以更多重视
优化作为学科，需要专门的培养项目，让学生有多于大学标准的时间来学习知识。
在五六十年前，也就是数值数学发展之初，优化似乎被低估了。如今来看，它在整个科学体系中极具“补充”属性，常与其他学科并列出现，如“优化与统计”“优化与运筹学”“优化与最优控制”等；但我们清楚，优化本身的体量、能量绝非“补充者”所能形容的，而且它还在高速扩张，看不到停下来的迹象。
未来几十年会涌现越来越多有趣的问题，学界则需要越来越高效的算法。我期待看到专攻优化的学术机构，期待学生们在其中研究各式各样的优化应用场景——从人类理性行为模型、直觉优化，到机械结构的最优设计……
非凸性只是起点，凸优化方法会被用来解决更多问题
我刚从事优化研究时，到处都是非凸问题，人们几乎不考虑凸性，我当时所做的工作就是证明凸性非常重要。（非凸性可以理解成存在大量局部极小，但这些无法等同于全局极小值；凸性可以理解成局部最小值即可视为全局极小值。）
凸性是一个很自然的概念，保证了问题可解，也保证计算方法的效率。如今，在许多重要模型中，我们都能发现隐藏的凸性；虽不是一眼就看得出来，但只要引入合适的变量与坐标系，它就会转化为凸问题。
如果问题不具备凸性，我们最多只能求出一个局部极小值，无从得知还有多少其他的局部极小值，也不知它们是否更优。
从某种意义上说，这违背研究的内在目标。研究之前，我们不知最优解；做完研究，面对一个非凸问题依旧不确定最佳答案。那我们工作的意义何在？得到非凸问题很容易，但对我来说，只有非凸意味着思考不足，因为非凸性只是起点，而凸性才是解题终章。
以神经网络为例。此领域如今热度极高、论文不断，但模型本身是非凸的。人们把各类算法用在非凸问题上，却仍未搞懂算法在非凸问题上如何运作、为何有效。神经网络领域尚无凸模型。只有找到对应的凸模型，研究才算圆满。
优化是“数值数学的一种哲学”
各种事物都可用优化来解释，包括社会乃至自然界的诸多过程；这些过程运转得极为高效，只是身处其中的我们难以察觉其精妙。
数学对我的一大吸引力在于：数值建模能应用于现实世界，甚至预测未来；人类可将计算结果与真实事件对照，并据此调整模型。
计算机推动优化蓬勃发展，却也抑制人类思考
只要运用得当，计算机就是很棒的工具。但作为老师，我们必须告诉学生：不要盲目相信计算机给出的结果。如果计算机的数值计算过程不稳定，存在噪声等干扰，它完全可能输出错误答案。
举个例子，复杂性理论中或许会有结论这样说：在一定时间内，算法可以逼近函数的极小值。但这条结论凭什么可信呢？若没有对函数的附加条件、对参数的合理近似等，就根本无法保证可信性。
眼下，人类正过度信任机器的答案，也在不知不觉中放弃独立思考，而这正是AI时代的危险所在。我们必须保持批判性思维，要用多种不同方法交叉核验结果。
我也很担忧数字时代对学生思维模式的负面影响。
我发现，许多学生常常不肯自己动脑，遇到问题的第一反应是上网搜索；这种习惯是好是坏有待时间检验，但他们独立解题能力下降是显而易见的。（当然，即便人的能力变弱，在计算机强力辅助下，最终成果或许会更好。）
不同往昔的科研时代需要不同往昔的科研评价
如今的科研人正身处节奏飞快、压力巨大的科研环境。环顾四周，你会看到不计其数的同行扎堆同一方向；你在会议上报告一项工作，第二天就有成百上千的后来者试图改进此成果；你的论文发表不达标准，收入就可能大受影响……
40年前，我刚入行那会儿，大环境不是这样的，竞争远没今天这般激烈。你有充足时间思考、写论文、测试方案，也不必为没发够论文而犯愁……
说实话，我内心难以认同当前的大环境，同时也觉得，从业者数量过多会拉低科研整体效率——但这一切都是大势所趋。
或许，我们需要一套全新的评价方式，用以衡量科研成果的真实价值、分辨研究者的水平。
我个人认为，一篇论文的影响力应当除以其作者总人数。在我身处的优化领域，过去论文一般有两到三位作者，现在动辄五六十人共同署名，这已毫无意义。现有评价体系常常驱使从业者追求论文数量，而非质量，我很惊讶至今还没有新的评价方式出现。
资料来源：
"This is an unprecedented overflow":Why the progress of his field alarms Yurii Nesterov