现代优化计算方法的发展历程

来源:用户上传      作者:

　　【摘要】：对具有代表性的现代优化计算方法：遗传算法、人工神经网络、模拟退火算法的产生、发展进行了详细的叙述，并对它们的应用领域和研究方向做了细致的介绍，最后对三种算法分别作了总结和展望。
　　【关键词】：遗传算法；人工神经网络；模拟退火算法；组合优化
　　
　　 随着20世纪80年代初期遗传算法、人工神经网络、模拟退火、禁忌搜索算法的兴起，科学工作者对这些算法的模型、理论和应用技术等一系列问题进行着深入的研究，并将这些算法统称为现代人优化算法。
　　
　　1. 遗传算法
　　
　　 1.1 遗传算法的产生和发展
　　 遗传算法是近年来迅速发展起来的一种全新的随机搜索与优化算法，其基本思想是基于Darwin 的进化论和Mendel 的遗传学说。该算法由密歇安大学教授Holland 及其学生于1975 年创建。其主要特点是采取群体搜索策略和在群体中个体之间进行信息交换，利用简单的编码技术和繁殖机制来表现复杂的现象，不受搜索空间的限制性假设的约束，不要求诸如连续性，导数存在和单峰等假设。此后，遗传算法的研究引起了国内外学者的关注。
　　
　　 1.2 遗传算法的应用领域和研究方向
　　 遗传算法是多学科结合与渗透的产物，已经发展成一种自组织、自适应的综合技术，广泛应用在计算机科学、工程技术和社会科学等领域。其研究工作主要集中在基础理论、分布并行遗传算法、分类系统、遗传神经网络、进化算法。
　　
　　 1.3 遗传算法的展望
　　 遗传算法的长期发展是一个不断跳跃的过程。做为一个优秀的老资格算法它的实用价值绝对值得肯定，但它也存在一些无法摆脱的算法局限性。例如遗传算法不能保证在多项式时间内找到NP完全问题的最优解，而它经常能找到组合问题很好的次优解。但可喜的是，新世纪的计算机数字时代遗传算法已经引起了计算机界人士的广泛注意。当今计算机科学的各个领域几乎都显示出向并行计算过渡这一趋势。在这场变革中，一个鼓舞人心的结果就是信的应用领域不断发展，诸如格子气流体,神经网络和遗传算法，这些领域的研究从一开始就是基于并行处理。遗传算法的实际应用效能将会扮演越来越重要的角色。在遗传算法的研究过程中还将会出现新的困难，但是人们不得不正视大量的研究成果为此研究领域所展示的巨大潜力。
　　
　　2. 人工神经网络
　　
　　 2.1 人工神经网络算法的产生和发展
　　 我国有关人工神经网络的研究， 自上世纪80年代算法传入我国开始以来一直处于不断上升的时期，特别是近年来，人工神经网络计算的应用在许多领域取得了令人注目的成果。我国于1990年12月在北京召开了首届神经网络学术大会，并决定以后每年召开一次。1991年在南京成立了中国神经网络学会。IEEE与INNS联合召开的IJCNN92已在北京召开。这些为神经网络的研究和发展起了推波助澜的作用,人工神经网络步入了稳步发展的时期。
　　
　　 2.2 人工神经网络算法的应用领域和研究方向
　　 随着理论工作的发展，神经网络的应用研究也取得了突破性进展，涉及面非常广泛，就应用的技术领域而言有计算机视觉、语言的识别、理解与合成、优化计算、智能控制及复杂系统分析、模式识别、神经计算机研制、知识推理专家系统与人工智能。涉及的学科有神经生理学、认识科学、数理科学、心理学、信息科学、计算机科学、微电子学、光学、动力学、生物电子学等。随着人们对大脑信息处理机制认识的日益深化，人工神经网络必将对科学的发展贡献更大的作用，具有强大的生命力。
　　
　　 2.3 人工神经网络的展望
　　 人工神经网络算法发展至今也没形成统一的万能算法，它是一个大的算法集合。对于不同问题所使用的人工神经网络算法又有所区别。由于现有的各种人工神经网络在求解问题时都有各自的局限性。如Hopfield神经网络的能量函数是单调下降的，因此，其结果有可能陷入局部极小点，得不到最优解等等。为此，我们需要对人工神经网络进行不断的研究。目前，人工神经网络的发展趋势有如下特点：
　　 （1） 新的人工神经网络模型产生频率非常之快。
　　 （2） 现有的人工神经网络模型的完善改进速度喜人。
　　 （3） 人工神经网络结合和其它一些现代优化计算方法的结合运用日见增多。如结合混沌理论，遗传＋神经，模拟退火＋神经算法等等成功运用的实例。
　　
　　3. 模拟退火算法
　　
　　 3.1 模拟退火算法的应用领域和研究方向
　　 模拟退火算法以其短时间的发展而赢得许多学者的青睐，特别是它在处理全局优化、离散变量优化等困难问题中，具有传统优化算法无可比拟的优势。实践还表明模拟退火算法有很强的科学和实际的工程应用价值。被誉为解决许多高难度优化问题的救星。
　　
　　 3.2 模拟退火算法的展望
　　 相较于其它几种优化计算方法模拟退火算法才刚刚起步，许多学者对其未来的发展进行预测。综合各家所讲将模拟退火算法的有意义研究应集中在解决以下几个问题：
　　 （1）如何把传统的启发式搜索方法与模拟退火随机搜索算法结合起来，以发挥更佳效用；
　　 （2）如何把模拟退火算法与遗传算法或其它现代优化计算方法有机结合起来,开发出一种更具有理论意义和应用价值的随机搜索算法；
　　 （3）由于模拟退火算法及其变种所固有的特点,它们在解决某些特殊领域的问题时具有很好的性能。寻找更多的使用领域,并在这些领域中给出成功的应用系统,也是一个颇具理论意义和应用价值的研究方向。
　　
　　4. 总结
　　
　　 通过对具体三种现代优化计算方法的起源，发展及对它们未来发展的展望可以看出就现代优化计算方法这个大的集合而言它所包括的其它算法如蚁群优化算法、粒子群优化算法、群体智能优化算法等在社会科学实践当中扮演着越来越重要的角色。这些算法又称做"智能算法"不仅仅是因为它们和现在的高端科技人工智能关系联系紧密，就是在一些不需要智能化的科研课题中也发挥着相当于智能的作用，给科研工作都带来了极大的方便。为科学的发展，学术的进步起到了巨大的促进力作用。
　　
　　参考文献
　　 [1] 邢文训, 谢金星. 现代优化计算方法, 清华大学出版社, 2006.
　　 [2] 王凌, 郑大钟. 一种基于退火策略的混沌神经网络优化算法[J]. 控制理论与应用, 2000.
　　 [3] 文杰, 叶世伟. 人工智能原理与应用, 人民邮电出版社, 2004.
　　 [4] 王小平, 曹立明. 遗传算法--理论，应用与软件实现, 西安交通大学出版社, 2002.
　　 [5] 程润伟. 遗传算法与工程优化玄光男, 清华大学出版社, 2004.
　　 [6] 张文修, 梁怡. 遗传算法的数学基础西安交通大学出版社, 2000.

转载注明来源:https://www.xzbu.com/8/view-9133242.htm