大连百度网站快速优化,阜蒙县建设学校网站是什么,护肤品软文推广,曲靖做网站经过之前的学习#xff0c;相信大家已经对运筹学的网络计划的内容有了一定的了解#xff0c;接下来小编将带你学习新一章——非线性规划的内容#xff0c;让我们先来了解一下非线性规划的诞生和发展历程#xff0c;然后共同走近非线性规划领域的代表人物——库恩和塔克相信大家已经对运筹学的网络计划的内容有了一定的了解接下来小编将带你学习新一章——非线性规划的内容让我们先来了解一下非线性规划的诞生和发展历程然后共同走近非线性规划领域的代表人物——库恩和塔克去领略他们精彩的一生。
1、非线性规划的发展起源标志着非线性规划诞生的历史性事件
非线性规划是一种优化问题它的目标函数和约束条件包含非线性的数学表达式。它的发展历史可以追溯到20世纪早期但其正式诞生可以追溯到1940年代末和1950年代初期的工作。 非线性规划模型
首先我们先来回顾一下线性规划是如何诞生的在此基础上再去探究非线性规划的起源。线性规划Linear Program的萌芽出现于第二次世界大战前后。1939年前苏联数学家康托洛维奇Leonid V. Kantorovich出版了著作《生产组织和计划中的数学方法》在书中提出了线性规划模型用来解决下料问题和运输问题这标志着线性规划的诞生。随着线性规划领域的不断深耕与发展人们开始意识到线性规划方法的局限性即它只适用于目标函数和约束条件是线性的问题。
随着这一发现人们开始寻找解决非线性规划问题的方法。1951年美国数学家乔治·丹齐克George Dantzig在一篇论文中提出了求解线性规划问题的第一个有效方法称为“单纯形法”。这种方法扩展了求解线性规划问题的思路并在此基础上得出了可分离规划和二次规划的n种解法。丹齐克提出的单纯形法具有划时代的意义也为后续各种非线性规划问题的求解方法的提出和发展奠定了基础。同年哈罗德·库恩 (Harold Kuhn)和阿尔伯特·W·塔克Albert W. Tucker发表了一篇关于最优性条件即库恩塔克条件的论文标志着非线性规划的诞生。
2、非线性规划的发展历程有时间节点的发展阶段描述 初期阶段20世纪早期-1950年代
在非线性规划问题的发展初期主要集中在问题的形式化和求解方法的探索上。其中一些重要的事件如下 1917年俄国数学家A.D.亚历山德罗夫A. D. Александров提出了非线性规划问题他将非线性规划问题转化为求解最大值或最小值的问题。 1939年安斯特尼Hestenes和斯蒂菲尔Stiefel发表了一篇论文提出了梯度投影法这是非线性规划中最早的求解方法之一。该方法通过投影操作将约束条件转化为线性形式从而得到一个可求解的问题。 1951年乔治·丹齐克George Danzick提出了线性规划的单纯性算法为优化问题的求解提供了更为高效的方法。 1951年哈罗德·库恩 (Harold Kuhn)和阿尔伯特·W·塔克Albert W. Tucker发表了一篇关于最优性条件后来称为库恩塔克条件的论文是非线性规划正式诞生的一个重要标志。 研究进展1960年代-1970年代
在这一时期非线性规划问题的研究进展迅速主要集中在理论分析和算法的改进上。其中一些重要的事件如下 1960年代库恩Kuhn和塔克Tucker提出了对偶理论将线性规划的理论扩展到了非线性规划中。他们发现非线性规划的对偶问题可以通过求解原始问题的拉格朗日函数最小化问题来得到从而得到原始问题的最优解。 1963年鲍威尔Powell提出了逐步优化算法该算法是目前最有效的非线性规划优化方法之一。该算法通过迭代地求解一系列线性规划子问题来逼近非线性规划问题的最优解。 1978年洛克菲勒Rockafellar发表了《凸分析》该书成为凸优化的标志性著作。凸优化是非线性规划中一个重要的子领域该书的出版对凸优化理论和算法的发展做出了重要贡献。 新的进展1980年代-1990年代
在这一时期随着计算机技术的发展非线性规划问题的求解能力得到了进一步的提高。其中一些重要的事件如下 1983年格瑞万克Griewank和科利斯Corliss发表了一篇论文介绍了自适应正则化方法该方法用于求解非线性规划中的约束问题。该方法通过将罚函数参数调整为自适应值从而避免了罚函数参数选取不当导致的数值不稳定问题。 1987年诺赛达尔Nocedal和赖特Wright发表了《数值优化》该书成为了现代优化算法的重要参考书。该书涵盖了各种优化算法的理论基础和实现方法包括非线性规划的优化算法。 1988年鲍威尔Powell发表了一篇论文提出了新的信赖域算法该算法通过迭代求解一系列局部二次近似模型来逼近非线性规划问题的最优解。这个算法适用于具有复杂结构和多个局部最优解的问题。 1990年代人工神经网络和遗传算法等新的算法开始应用于非线性规划问题的求解。这些算法具有一定的鲁棒性和全局搜索能力可以用于求解具有复杂结构和非凸约束的非线性规划问题。 现代发展21世纪
在21世纪随着计算机性能的不断提高和优化算法的发展非线性规划问题的求解能力得到了进一步的提高。其中一些重要的事件如下 2001年诺赛达尔Nocedal和赖特Wright合著了《数值优化》该书第二版更新了现代优化算法的理论和应用涵盖了更多的数值算法和计算实例。 2006年鲍伊德Boyd和范登贝格Vandenberghe合著了《凸优化》该书介绍了凸优化的理论和算法并将其应用于机器学习和信号处理等领域。 2014年有关学者提出了一种新的非线性规划算法称为两阶段方法。该方法通过将非线性规划问题转化为两个子问题一个是最优性子问题一个是可行性子问题从而在不需要求解KKT条件的情况下得到非线性规划问题的最优解。 2020年Google发表了一篇论文介绍了他们开发的一个基于机器学习的非线性规划求解器。该求解器使用神经网络对非线性规化问题进行建模和求解通过学习已有问题实例的解决方法从而更快速、准确地求解新问题。
注KKT最优化条件是卡罗需Karush以及库恩Kuhn和塔克Tucker先后独立发表出来的但在库恩Kuhn和塔克Tucker发表之后才逐渐受到重视因此多数情况下记载成库恩-塔克条件(Kuhn-Tucker conditions)。 KKT(Karush-Kuhn-Tucker)条件是非线性规划领域里最重要的理论成果之一是确定某点为极值点的必要条件。对于凸规划KKT点就是优化极值点(充分必要条件)。 3、非线性规划领域的风云人物库恩和塔克的生平介绍
简单了解过非线性规划的起源和发展历程后想必各位读者朋友对上文提到的对非线性规划的诞生与发展作出重大贡献的两位著名科学家——库恩和塔克感到十分好奇下面小编将带着大家一起去了解一下库恩和塔克。
库恩
基本介绍
哈罗德·W·库恩Harold W. Kuhn1925年7月29日-2014年7月2日是美国著名数学家主要研究领域是优化理论、博弈论和组合数学等方面。
生平纪事
哈罗德·库恩 (Harold Kuhn) 于1925年出生于加利福尼亚州圣莫尼卡。尽管1944年至1946年在美国陆军服役但他仍于1947年从加州理工学院毕业之后他进入普林斯顿大学攻读数学研究生。于1948年获得硕士学位然后获得博士学位。毕业后他在普林斯顿大学任教并继续从事数学研究直到1959年转到普林斯顿高等研究院。他在普林斯顿高等研究院工作了大约30年并在此期间成为数学、经济学和计算机科学领域的重要人物。
塔克
基本介绍
阿尔伯特·W·塔克Albert W. Tucker1905年11月28日—1995年1月25日是一位美国著名的数学家、运筹学家和经济学家。他是20世纪50年代最杰出的运筹学家之一被誉为“运筹学之父”。 阿尔伯特·W·塔克Albert W. Tucker
生平纪事
阿尔伯特·塔克Albert William Tucker加拿大人1905年出生于加拿大1928年获得多伦多大学学士1932年获得普林斯顿大学博士博士导师是所罗门·莱夫谢茨。1932-33年他在哈佛大学和芝加哥大学做研究1933年他开始长期在普林斯顿大学数学系任教1974年退休1995年去世。他担任普林斯顿大学数学系的系主任长达20年。1961-62年他担任美国数学协会MAA主席。在晚年他继续从事运筹学和组合优化等领域的研究并且与其他著名的数学家如约翰·冯·诺伊曼John von Neumann和乔治·达内George Dantzig合作。阿尔伯特·W·塔克于1995年去世享年80岁。他留下了许多具有重要意义的数学贡献和著作对运筹学和组合优化领域产生了深远的影响。
库恩与塔克
说起库恩与塔克的关系就不得不提到一个关键人物——约翰·冯·诺伊曼John von Neumann两人都是约翰·冯·诺伊曼的学生也就是师兄弟。有趣的是美国著名数学家、经济学家、《美丽心灵》男主角原型约翰·福布斯·纳什John Forbes Nash是库恩一生的朋友和同事而塔克又是纳什在普林斯顿大学的研究生论文导师。库恩与塔克师出同门两人虽相差20岁却痴迷于相同的研究领域他们受到老师约翰·冯·诺伊曼的影响将博弈论和优化理论相结合开创了博弈论在经济学和管理学等领域的应用。在非线性规划领域也提出了具有划时代意义的KKT条件标志着非线性规划的正式诞生。库恩与塔克在自己的专业领域不断深耕学术成果在相关领域影响深远两人也一起获得了1980年约翰·冯·诺依曼理论奖名垂青史。 库恩与纳什左一为库恩
结语作为每一章的第一篇推文引出下面的推文内容。
看到这里大家是不是对非线性规划的诞生和发展过程以及做出突出贡献的名家有了更深入的了解呢下面就让我们继续探索非线性规划世界的其他内容吧 作者 | 葛彦泽 张巧英
责编 | 陈梦
审核 | 徐小峰
YUNCHOUSHUO
·知乎运筹说·
·bilibili运筹说·
·CSDN运筹说·
·抖音运筹说·