【机器学习】基于混沌搜索和权重学习的教与学优化算法及其应用

第13卷第5期 智能系统学报 Vol.13 No.5 2018年10月 CAAI Transactions on Intelligent Systems Oct.2018 D0:10.11992/tis.201705017 网络出版地址：http:/kns.cnki.net/kcms/detail/23.1538.TP.20170728.1901.006.html 基于混沌搜索和权重学习的教与学优化算法及其应用 柳缔西子'，范勤勤2，胡志华 (1.上海海事大学物流研究中心，上海201306,2.华东理工大学化工过程先进控制和优化技术教育部重点实 验室，上海200237) 摘要：针对教与学优化算法容易陷入早熟收敛的问题，本研究提出了一种基于混沌搜索和权重学习的教与学 (teaching-learning-based optimization algorithm based on chaotic search and weighted learning.TLBO-CSWL) 法。在TLBO-CSWL算法的教学阶段，不仅利用权重学习得到的个体来指引种群的进化，而且还使用正态分布 随机数来替代原有的均匀随机数。另外，TLBO-CSWL还使用Logistics混沌搜索策略来提高其全局搜索能力。 仿真结果表明，TLBO-CSWL的整体优化性能要好于其他所比较的算法。最后，将TLBO-CSWL用于求解非合 作博弈纳什均衡问题，获得满意的结果。 关键词：教与学优化；权重学习；启发式算法：混沌搜索；全局优化：进化计算；非合作博弈；纳什均衡 中图分类号：TP301.6文献标志码：A文章编号：1673-4785(2018)05-0818-11 中文引用格式：柳缔西子，范勤勤，胡志华.基于混沌搜索和权重学习的教与学优化算法及其应用引.智能系统学报，2018， 13(5):818-828. 英文引用格式：LIU Dixizi,FAN Qinqin,HU Zhihua..Teaching-learning-based optimization algorithm based on chaotic search and weighted learning and its application CAAI transactions on intelligent systems,2018,13(5):818-828. Teaching-learning-based optimization algorithm based on chaotic search and weighted learning and its application LIU Dixizi',FAN Qinqin,HU Zhihua' (1.Logistics Research Center,Shanghai Maritime University,Shanghai 201306,China;2.MOE Key Laboratory of Advanced Con- trol and Optimization for Chemical Processes,East China University of Science and Technology,Shanghai 200237,China) Abstract:To avoid premature convergence,a teaching-learning-based optimization algorithm based on chaotic search and weighted learning(TLBO-CSWL)is introduced in this study.In the teaching phase,TLBO-CSWL does not only use the individuals obtained by weight learning to guide the population evolution,it also utilizes a normal random num- ber to replace the original uniform random number.In addition,TLBO-CSWL uses a logistics chaotic search strategy to improve its global search ability.Simulation results showed that TLBO-CSWL outperformed other compared al- gorithms in terms of overall performance.Finally,the proposed algorithm was employed to solve two Nash equilibrium problems of non-cooperative game,and satisfactory results were obtained. Keywords:teaching-learning-based optimization;weight learning:heuristic algorithm;chaotic search;global optimiza- tion:evolutionary computation:non-cooperative game:Nash equilibrium 近几十年来，博弈论得到了许多研究人员的 关注，逐渐成为了经济学中的标准分析工具之 一，并且在经济学、军事科学和其他社会科学中 收稿日期：2017-05-15.网络出版日期：2017-07-28. 基金项目：国家自然科学基金项目(611603244)：中央高校基本 得到了广泛的应用。在博弈问题中，非合作博弈 科研业务费重点科研基地创新基金项目(222201717006)： 上海海事大学研究生创新基金资助项目(2017YCX020) 纳什均衡是其最核心的研究内容。1951年，Nash四 通信作者：范勤勤.E-mail:foreverl23fan@163.com. 在提出的“纳什定理”中揭示并证明了纳什均衡

DOI: 10.11992/tis.201705017 网络出版地址: http://kns.cnki.net/kcms/detail/23.1538.TP.20170728.1901.006.html 基于混沌搜索和权重学习的教与学优化算法及其应用 柳缔西子1 ，范勤勤1,2，胡志华1 （1. 上海海事大学 物流研究中心，上海 201306; 2. 华东理工大学 化工过程先进控制和优化技术教育部重点实 验室，上海 200237） 摘 要：针对教与学优化算法容易陷入早熟收敛的问题，本研究提出了一种基于混沌搜索和权重学习的教与学 优化 (teaching-learning-based optimization algorithm based on chaotic search and weighted learning，TLBO-CSWL) 算 法。在 TLBO-CSWL 算法的教学阶段，不仅利用权重学习得到的个体来指引种群的进化，而且还使用正态分布 随机数来替代原有的均匀随机数。另外，TLBO-CSWL 还使用 Logistics 混沌搜索策略来提高其全局搜索能力。 仿真结果表明，TLBO-CSWL 的整体优化性能要好于其他所比较的算法。最后，将 TLBO-CSWL 用于求解非合 作博弈纳什均衡问题，获得满意的结果。 关键词：教与学优化；权重学习；启发式算法；混沌搜索；全局优化；进化计算；非合作博弈；纳什均衡 中图分类号：TP301.6 文献标志码：A 文章编号：1673−4785(2018)05−0818−11 中文引用格式：柳缔西子, 范勤勤, 胡志华. 基于混沌搜索和权重学习的教与学优化算法及其应用[J]. 智能系统学报, 2018, 13(5): 818–828. 英文引用格式：LIU Dixizi, FAN Qinqin, HU Zhihua. Teaching-learning-based optimization algorithm based on chaotic search and weighted learning and its application[J]. CAAI transactions on intelligent systems, 2018, 13(5): 818–828. Teaching-learning-based optimization algorithm based on chaotic search and weighted learning and its application LIU Dixizi1 ，FAN Qinqin1,2 ，HU Zhihua1 (1. Logistics Research Center, Shanghai Maritime University, Shanghai 201306, China; 2. MOE Key Laboratory of Advanced Con￾trol and Optimization for Chemical Processes, East China University of Science and Technology, Shanghai 200237, China) Abstract: To avoid premature convergence, a teaching-learning-based optimization algorithm based on chaotic search and weighted learning (TLBO-CSWL) is introduced in this study. In the teaching phase, TLBO-CSWL does not only use the individuals obtained by weight learning to guide the population evolution, it also utilizes a normal random num￾ber to replace the original uniform random number. In addition, TLBO-CSWL uses a logistics chaotic search strategy to improve its global search ability. Simulation results showed that TLBO-CSWL outperformed other compared al￾gorithms in terms of overall performance. Finally, the proposed algorithm was employed to solve two Nash equilibrium problems of non-cooperative game, and satisfactory results were obtained. Keywords: teaching-learning-based optimization; weight learning; heuristic algorithm; chaotic search; global optimiza￾tion; evolutionary computation; non-cooperative game; Nash equilibrium 近几十年来，博弈论得到了许多研究人员的 关注，逐渐成为了经济学中的标准分析工具之 一，并且在经济学、军事科学和其他社会科学中 得到了广泛的应用。在博弈问题中，非合作博弈 纳什均衡是其最核心的研究内容。1951 年，Nash[1] 在提出的“纳什定理”中揭示并证明了纳什均衡 收稿日期：2017−05−15. 网络出版日期：2017−07−28. 基金项目：国家自然科学基金项目 (611603244)；中央高校基本 科研业务费重点科研基地创新基金项目 (222201717006)； 上海海事大学研究生创新基金资助项目 (2017YCX020). 通信作者：范勤勤. E-mail: forever123fan@163.com. 第 13 卷第 5 期 智 能 系 统 学 报 Vol.13 No.5 2018 年 10 月 CAAI Transactions on Intelligent Systems Oct. 2018

第5期 柳缔西子，等：基于混沌搜索和权重学习的教与学优化算法及其应用 ·819· 解的存在，但是Nash并没有给出求解纳什均衡的 算法的寻优性能。 一般性方法。传统的求解方法如Lemke-Howson 为了能更进一步提高TLBO的搜索性能，本 算法)、牛顿算法、同伦算法等均存在一定 文提出一种基于混沌搜索和权重学习的教与学优 的局限性；特别是对于高维的博弈模型（如3维 化(TLBO-CSWL)算法。仿真结果表明，所提算 及以上的矩阵策略)，传统算法的计算复杂求解成 法的整体优化性能明显优于其他所比较的算法。 本较高。除了传统的优化方法，许多学者还利用 最后，将改进的算法应用于非合作博弈纳什均衡 遗传算法、免疫算法、粒子群算法、蚁群算法网 问题的求解。 等启发式算法来求解博弈纳什均衡问题，这为 1预备知识 求解非合作博弈问题提供了一种新的有效途径和 方法。 1.1标准的教与学优化算法 教与学优化算法(teaching-learning-based op- 标准TLBO算法10主要包括两个阶段，教学 timization,TLBO)是Rao等.ol于2011年提出，它 阶段与学习阶段。 是一种模拟教师教学与学生学习的群体智能优化 1.1.1教学阶段 算法。由于该算法参数设置少、操作简便、寻优 X=(,2,…,D,i=1,2,…,NP,表示第i个 性能好，引起了国内外学者的重视。目前它已被 个体，其中，D为优化问题的维数，NP表示种群 成功应用于各个领域，如LQ控制器优化设计 NP 规模。种群的平均值表示为Xm=∑X,/NP,其中 热交换器优化设计)、人工神经网络优化11等。 ÷-1 当前适应度值最好的个体被选为教师，即teacher 一般来说，原始的TLBO算法容易出现“早熟 在教学阶段，每个个体基于教师与种群的平均值 收敛”的现象，从而易于陷人局部最优。为了提 之差进行学习。新的个体更新公式为 高TLBO算法的寻优性能，很多学者提出了改进 Xinew =Xiol+r(Kteacher-Tg.Xmean) (1) 算法。比如，Rao等I提出了ETLBO算法，该算 式中：X,oa表示第i个个体学习之前的个体；r 法将精英策略引入TLBO算法中，保留每代中的 为[0,1]之间的均匀随机数，表示学习步长；T 最优解，并随机对精英个体进行变异操作，其主 round[1+rand(0,1),取值1或2，表示教学因子。 要目的是提高算法的收敛速度和寻优精度；Yu 若X,ew的适应度值优于X,la,则更新个体；否则， 等提出了TLBO算法，该算法在TLBO算法中 不更新。 引入教学反馈阶段和差分算法中的交叉变异策 1.1.2学习阶段 略，并在算法后期加入混沌扰动机制；Zou等61 在TLBO算法的学习阶段中，个体的更新公 提出了DGSTLBO算法，该算法在教学阶段引入 式为 动态分组教学策略，在学习阶段加入量子行为策 X2ew=Xpou+r…(X。-X),f(Xp)<f(X) (2) 略，以增加种群的多样性和避免算法早熟收敛； Xp.new =Xpold+r.(X:-Xp),f(Xi)<f(X) Chen等提出了VTTLBO算法，该算法将种群的 式中：pH,p,1∈(1,2，…，NP):f(X)为适应度函数。 数量以先增后减的方式来进行动态调整。在种群 若X,ew的适应度值优于X2,oa,则更新个体；否 数量增加阶段利用高斯分布生成个体，并在减少 则，不更新。 阶段进行相同个体的去重操作，其主要目的是减 1.2混沌映射 少计算成本以及增强算法的收敛精度和速度。 混沌是指确定性动力学系统产生的一种不可 Wu等I提出了NIWTLBO算法，在该算法中，利 预测的、类似随机性的运动，最显著的特点是初 用非线性惯性权重因子来控制个体的学习速率， 值敏感性。混沌模型不仅具有随机性、初值敏感 同时使用动态惯性权重因子代替原有随机数，仿 性，同时还有一个很重要的性质是遍历性。由于 真结果表明此改进策略提高了算法的收敛速率和 混沌序列是遍历的，它已被越来越多地应用到智 寻优性能。Shahbeig等提出了TLBO-PSO算 能优化算法中。其主要被用来初始化种群20，以 法，该算法将改进的变异模糊自适应的P$O算法 及能够对个体进行随机次数的扰动使其跳出局部 与TLBO算法进行结合，目的在于提高算法的寻 最优)，从而在个体周围进行遍历搜索。借鉴文 优精度从而解决多目标优化问题。上述研究结果 献[21]中的混沌扰动策略，所提算法利用Logist- 均表明，将改进策略引入TLBO算法中可以提高 ics搜索策略来对个体进行更新，公式为

解的存在，但是 Nash 并没有给出求解纳什均衡的 一般性方法。传统的求解方法如 Lemke-Howson 算法[ 2 ] 、牛顿算法[ 3 ] 、同伦算法[ 4 ]等均存在一定 的局限性；特别是对于高维的博弈模型 (如 3 维 及以上的矩阵策略)，传统算法的计算复杂求解成 本较高。除了传统的优化方法，许多学者还利用 遗传算法[5] 、免疫算法[6] 、粒子群算法[7] 、蚁群算法[8] 等启发式算法来求解博弈纳什均衡问题，这为 求解非合作博弈问题提供了一种新的有效途径和 方法。 教与学优化算法 (teaching-learning-based op￾timization，TLBO) 是 Rao 等 [9-10]于 2011 年提出，它 是一种模拟教师教学与学生学习的群体智能优化 算法。由于该算法参数设置少、操作简便、寻优 性能好，引起了国内外学者的重视。目前它已被 成功应用于各个领域，如 LQR 控制器优化设计[11] 、 热交换器优化设计[12] 、人工神经网络优化[13]等。 一般来说，原始的 TLBO 算法容易出现“早熟 收敛”的现象，从而易于陷入局部最优。为了提 高 TLBO 算法的寻优性能，很多学者提出了改进 算法。比如，Rao 等 [14]提出了 ETLBO 算法，该算 法将精英策略引入 TLBO 算法中，保留每代中的 最优解，并随机对精英个体进行变异操作，其主 要目的是提高算法的收敛速度和寻优精度；Yu 等 [15]提出了 ITLBO 算法，该算法在 TLBO 算法中 引入教学反馈阶段和差分算法中的交叉变异策 略，并在算法后期加入混沌扰动机制；Zou 等 [16] 提出了 DGSTLBO 算法，该算法在教学阶段引入 动态分组教学策略，在学习阶段加入量子行为策 略，以增加种群的多样性和避免算法早熟收敛； Chen 等 [17]提出了 VTTLBO 算法，该算法将种群的 数量以先增后减的方式来进行动态调整。在种群 数量增加阶段利用高斯分布生成个体，并在减少 阶段进行相同个体的去重操作，其主要目的是减 少计算成本以及增强算法的收敛精度和速度。 Wu 等 [18]提出了 NIWTLBO 算法，在该算法中，利 用非线性惯性权重因子来控制个体的学习速率， 同时使用动态惯性权重因子代替原有随机数，仿 真结果表明此改进策略提高了算法的收敛速率和 寻优性能。Shahbeig 等 [19]提出了 TLBO-PSO 算 法，该算法将改进的变异模糊自适应的 PSO 算法 与 TLBO 算法进行结合，目的在于提高算法的寻 优精度从而解决多目标优化问题。上述研究结果 均表明，将改进策略引入 TLBO 算法中可以提高 算法的寻优性能。 为了能更进一步提高 TLBO 的搜索性能，本 文提出一种基于混沌搜索和权重学习的教与学优 化 (TLBO-CSWL) 算法。仿真结果表明，所提算 法的整体优化性能明显优于其他所比较的算法。 最后，将改进的算法应用于非合作博弈纳什均衡 问题的求解。 1 预备知识 1.1 标准的教与学优化算法 标准 TLBO 算法[9-10]主要包括两个阶段，教学 阶段与学习阶段。 1.1.1 教学阶段 Xi = (xi,1, xi,2,··· , xi,D),i = 1,2,··· ,NP Xmean = ∑NP i=1 Xi/NP ，表示第 i 个 个体，其中，D 为优化问题的维数，NP 表示种群 规模。种群的平均值表示为 ，其中 当前适应度值最好的个体被选为教师，即 Xteacher。 在教学阶段，每个个体基于教师与种群的平均值 之差进行学习。新的个体更新公式为 Xi,new = Xi,old +r·(Xteacher −TF · Xmean) (1) 式中：Xi, ol d 表示第 i 个个体学习之前的个体；r 为[0, 1]之间的均匀随机数，表示学习步长；TF= round[1+rand(0, 1)]，取值 1 或 2，表示教学因子。 若 Xi, new 的适应度值优于 Xi, old，则更新个体；否则， 不更新。 1.1.2 学习阶段 在 TLBO 算法的学习阶段中，个体的更新公 式为    Xp,new = Xp,old +r· ( Xp − Xl ) , f ( Xp ) < f (Xl) Xp,new = Xp,old +r· ( Xl − Xp ) , f (Xl) < f ( Xp ) (2) 式中：p≠l, p, l ∈ (1,2,··· ,NP) ；f (X) 为适应度函数。 若 Xp, new 的适应度值优于 Xp, old，则更新个体；否 则，不更新。 1.2 混沌映射 混沌是指确定性动力学系统产生的一种不可 预测的、类似随机性的运动，最显著的特点是初 值敏感性。混沌模型不仅具有随机性、初值敏感 性，同时还有一个很重要的性质是遍历性。由于 混沌序列是遍历的，它已被越来越多地应用到智 能优化算法中。其主要被用来初始化种群[20] ，以 及能够对个体进行随机次数的扰动使其跳出局部 最优[21] ，从而在个体周围进行遍历搜索。借鉴文 献[21]中的混沌扰动策略，所提算法利用 Logist￾ics 搜索策略来对个体进行更新，公式为 第 5 期 柳缔西子，等：基于混沌搜索和权重学习的教与学优化算法及其应用 ·819·

·820· 智能系统学报 第13卷 xew=Xld'l-(1-xold） (3) 的均匀随机数，然后根据式(2)对个体进行更新。 式中：xoa和xew分别表示混沌映射之前和混沌映 4)混沌搜索：利用2.2部分随机对个体进行 射之后的变量，x∈[0,1：μ∈[0,4]为控制参数，当 混沌扰动操作，并更新个体。 μ=4时，Logistics映射将处于完全混沌状态。 5)判定程序是否达到最大评价次数，若没有 达到，则转至2)；如达到，则执行6)。 2基于混沌搜索和权重学习的教与 6)输出最优解。 学优化算法 3仿真测试 2.1权重学习 在原始的TLBO算法中，教学阶段主要是使 为验证TLBO-CSWL算法的有效性，本文选 用当前最佳个体来指导种群进化，这将会造成算 取了文献[17刀中的18个测试函数，其中f~5为单 法陷入局部最优。因此，本文提出一种权重学习 峰函数，6一io为多峰函数，~g为旋转函数。改 的策略，基于个体适应度值产生一个可以代表种 进算法分别与jDE21、SaDE21、PS0 wFIPS24 群适应度水平的综合个体Xegh,并且引导其他 CLPSO21、TLBO9-,1o、ETLBO4、VTTLBO714等算 个体向其学习。这可以缓解算法“早熟”现象的 法进行对比。根据文献[17]的设定，最大的函数 发生。 评价次数均为50000。对于每个测试函数，所有 1)计算种群的最大适应度值及每个个体的 算法均独立运行30次。为了保证结论的可靠性， 权重 采用Friedman2、Dunn27、Holm和Hochberg2检 fmax =max(f(X;)) (4) 验来对结果进行统计分析，其中，显著水平设定 If (Xi)-fmaxl w:= (5) 为5%。 NP v)-a 3.1TLBO-CSWL算法与其他算法的比较 3.1.1与其他算法在10维测试上的比较 2)计算加权平均个体 在该实验中，所有算法的种群规模设定为 NP j=1,2,…,D 30,仿真结果如表1所示。由表1可知，TLB0- Xweight.j= (6) CSWL在函数f、、6、A、f6、f、f2、fi4、fis、fm上均 3)改进后的教学阶段更新公式为 有很好的寻优效果，性能明显优于其他所比较算 Xinew =Xiold +r(Xeacher -TgXmean)+ (7) 法。但在函数、、f、fs上，所有其他算法的寻 r(Xweight-Xiold) 优性能都略优于TLBO-CSWL算法，其主要原因 式中r=N0.5,0.2)。若Xew的适应度值优于X 有两个方面：1)虽然所提算法使用正态分布和权 则更新个体；否则，不更新。 重学习来提高原始TLBO的搜索效率，但在某种 2.2混沌搜索 为了提高TLBO算法的全局搜索能力，将混 程度上却降低了算法的全局搜索能力；2)每种算 法都有自身的寻优特性，到目前为止，没有一种 沌搜索策略加入到该算法中。混沌搜索的执行步 骤如下： 算法能够在所有的测试函数上都能表现得最好， 1)对种群中的所有个体进行适应度值降序排 因此，所提算法在某些测试函数上表现的差，也 列（最小化问题）： 符合没有免费午餐定理2。而对于其余测试函 2)随机取出一个排名前10的个体； 数，TLBO-CSWL所获得的结果与所比较算法中 3)利用式(3)对选择的个体进行混沌扰动，产 获得的最好结果相同。同时，利用非参数的统计 生混沌个体chaos; 方法来对实验结果进行分析，所得结果见表2、3 4)若Xhao的适应度值优于X,则更新个体； 所示。从表2可知，TLBO-CSWL算法的整体性 否则，不更新。 能是最好的。从表3可以看出，所提算法的整体 2.3TLBO-CSWL算法的实现步骤 性能要显著好于PSOwFIPS算法和CLPSO算 1)初始化：设定种群大小NP,维数D,最大评 法。另外，虽然TLBO-CSWL的整体性能在统计 价次数，初始化种群。 意义上没有显著好于SaDE、ETLBO、TLBO、 2)教学阶段：根据式（⑦）对个体进行更新。 jDE、VTTLBO,但是从结果来看，所提算法的整 3)学习阶段：利用正态分布随机数代替式(2) 体性能优于其他算法

xnew = xold · µ ·(1− xold) (3) µ µ 式中：xold 和 xnew 分别表示混沌映射之前和混沌映 射之后的变量，x∈[0, 1]; ∈[0, 4]为控制参数，当 =4 时，Logistics 映射将处于完全混沌状态。 2 基于混沌搜索和权重学习的教与 学优化算法 2.1 权重学习 在原始的 TLBO 算法中，教学阶段主要是使 用当前最佳个体来指导种群进化，这将会造成算 法陷入局部最优。因此，本文提出一种权重学习 的策略，基于个体适应度值产生一个可以代表种 群适应度水平的综合个体 Xweight，并且引导其他 个体向其学习。这可以缓解算法“早熟”现象的 发生。 1) 计算种群的最大适应度值及每个个体的 权重 fmax = max(f (Xi)) (4) wi = | f (Xi)− fmax| ∑NP i=1 | f (Xi)− fmax| (5) 2) 计算加权平均个体 xweight, j = ∑NP i=1 wi×xi, j , j = 1,2,··· ,D (6) 3) 改进后的教学阶段更新公式为 Xi,new =Xi,old +r·(Xteacher −TF · Xmean)+ r· ( Xweight − Xi,old) (7) 式中 r =N(0.5, 0.2)。若 Xi, new 的适应度值优于 Xi, old, 则更新个体；否则，不更新。 2.2 混沌搜索 为了提高 TLBO 算法的全局搜索能力，将混 沌搜索策略加入到该算法中。混沌搜索的执行步 骤如下： 1) 对种群中的所有个体进行适应度值降序排 列 (最小化问题)； 2) 随机取出一个排名前 10 的个体； 3) 利用式 (3) 对选择的个体进行混沌扰动，产 生混沌个体 Xchaos； 4) 若 Xchaos 的适应度值优于 Xi，则更新个体； 否则，不更新。 2.3 TLBO-CSWL 算法的实现步骤 1) 初始化：设定种群大小 NP，维数 D，最大评 价次数，初始化种群。 2) 教学阶段：根据式 (7) 对个体进行更新。 3) 学习阶段：利用正态分布随机数代替式 (2) 的均匀随机数，然后根据式 (2) 对个体进行更新。 4) 混沌搜索：利用 2.2 部分随机对个体进行 混沌扰动操作，并更新个体。 5) 判定程序是否达到最大评价次数，若没有 达到，则转至 2)；如达到，则执行 6)。 6) 输出最优解。 3 仿真测试 为验证 TLBO-CSWL 算法的有效性，本文选 取了文献[17]中的 18 个测试函数，其中 f1~f5 为单 峰函数，f6~f10 为多峰函数，f11~f18 为旋转函数。改 进算法分别与 jDE[22] 、SaDE[23] 、PSOwFIPS[24] 、 CLPSO[25] 、TLBO[9-10] 、ETLBO[14] 、VTTLBO[17]等算 法进行对比。根据文献[17]的设定, 最大的函数 评价次数均为 50 000。对于每个测试函数，所有 算法均独立运行 30 次。为了保证结论的可靠性， 采用 Friedman[26] 、Dunn[27] 、Holm 和 Hochberg[28]检 验来对结果进行统计分析，其中，显著水平设定 为 5%。 3.1 TLBO-CSWL 算法与其他算法的比较 3.1.1 与其他算法在 10 维测试上的比较 在该实验中，所有算法的种群规模设定为 30，仿真结果如表 1 所示。由表 1 可知，TLBO￾CSWL 在函数 f1、f2、f3、f4、f6、f11、f12、f14、f15、f17 上均 有很好的寻优效果，性能明显优于其他所比较算 法。但在函数 f5、f10、f13、f18 上，所有其他算法的寻 优性能都略优于 TLBO-CSWL 算法，其主要原因 有两个方面：1) 虽然所提算法使用正态分布和权 重学习来提高原始 TLBO 的搜索效率，但在某种 程度上却降低了算法的全局搜索能力；2) 每种算 法都有自身的寻优特性，到目前为止，没有一种 算法能够在所有的测试函数上都能表现得最好， 因此，所提算法在某些测试函数上表现的差，也 符合没有免费午餐定理[29]。而对于其余测试函 数，TLBO-CSWL 所获得的结果与所比较算法中 获得的最好结果相同。同时，利用非参数的统计 方法来对实验结果进行分析，所得结果见表 2、3 所示。从表 2 可知，TLBO-CSWL 算法的整体性 能是最好的。从表 3 可以看出，所提算法的整体 性能要显著好于 PSOwFIPS 算法和 CLPSO 算 法。另外，虽然 TLBO-CSWL 的整体性能在统计 意义上没有显著好于 SaDE、ETLBO、TLBO、 jDE、VTTLBO，但是从结果来看，所提算法的整 体性能优于其他算法。 ·820· 智 能 系 统 学 报 第 13 卷

第5期 柳缔西子，等：基于混沌搜索和权重学习的教与学优化算法及其应用 ·821· 表110维仿真测试结果 Table 1 Experimental results on 10D 函数结果 jDE SaDE PSOwFIPS CLPSO TLBO ETLBO VTTLBO TLBO-CSWL 平均值 1.31x106 1.35x1071 3.98×1016 1.09x1018 3.29×10184 2.84x101661 3.56x10269 0.00 标准差 1.58×106 2.02×1071 6.09x106 1.50x1018 3.08×1018s 4.27x10167 0.00 0.00 平均值1.14×1021 1.89x1019 6.19x10 5.37×10 2.56x102 3.22x1079 3.50×10130 0.00 标准差 1.52×10213.54×10192.15x106 1.38×10 5.58x1082 5.07x109 5.05×10130 0.00 平均值697x108128×1072.18×107 2.59×1020 9.94x10187 6.50x10169 4.63×10 0.00 标准差1.39×1031 2.52×1074 1.39x1017 1.76×1020 1x10187 5.49x10170 0.00 0.00 平均值1.31×1016.65×10313.23×109 2.66×103 1.51×1089 2.94×1087 1.02×10139 0.00 fA 标准差1.30×1011,48×103 2.23x109 2.37×103 1.62x1089 3.10x1087 321x10139 0.00 平均值 5.14×107 2.62 4.51 2.45 4.96x10 1.46×10 1.13 8.06 5 标准差 9.47×107 1.50 7.17×102 1.00 4.21×10 1.38×10 5.06×10 0.24 平均值 3.36×105 3.28×1015 8.04×109 4.28×1010 3.43×10s 3.37x105 1.78×105 0.00 标准差 4.27x106 2.51×1016 4.33×109 2.89x1010 318×1015 1.05x1015 1.87x1015 0.00 平均值 0.00 0.00 1.89 2.76×109 3.06 3.02 1.09 0.00 标准差 0.00 0.00 1.03 3.94×109 1.52 1.86 1.52 0.00 平均值 0.00 0.00 4.24×104 6.33x102 0.00 0.00 0.00 0.00 标准差 0.00 0.00 6.60x10 6.08×102 0.00 0.00 0.00 0.00 平均值 0.00 1.48×103 7.59x102 4.15×103 6.48×103 2.42×102 3.82×108 0.00 标准差 0.00 3.31×103 5.19x102 5.68×103 9.71x103 3.69x102 1.21×10 0.00 平均值 1.27x1041.27x10 3.69x102 1.27×10 6.68×103 7.03x102 7.92×102 9.79x10 标准差 0.00 0.00 3.41×102 1.22x109 1.51×102 1.81x102 1.90x10 3.82×102 平均值5.63×1083.32×1046 8.42×1015 7.05x101 1.23×10173 2.21x10161 3.09×10279 0.00 标准差1.26×1077.42x1046 8.03x105 1.55x100 2.37x10174 3.04x10161 0.00 0.00 平均值 7.13x1031 6.80x106 2.88×109 1.78×103 4.18×1089 2.18×108% 1.50x10-138 0.00 2 标准差1.31×1005.81x106 9.64×1010 1.31×103 6.95x1089 4.82×1086 4.75×10138 0.00 平均值3.61×102 2.08 4.55 7 2.50 2.63 5.02 8.71 标准差 7.94×102 1.82 5.29×10 6.39 2.33 2.87 2.53 0.16 平均值 2.84×10l5 3.21x105 9.98×109 1.68×10 3.52x1015 3.49x105 2.13×105 0.00 fa 标准差1.59×105 2.38×1016 2.82×109 2.04×107 96.05×1016 327×1016 1.83x1015 0.00 平均值 3.59 5.78 9.31 6.11 4.38 3.00 2.55 0.00 fis 标准差 1.84 1.85 1.96 3.00 8.91×10 1.22 2.14 0.00 平均值 9.27x102 0.00 2.55×102 1.44×101 0.00 0.00 0.00 0.00 标准差 2.07×10 0.00 2.95×102 1.21x10 0.00 0.00 0.00 0.00 平均值 1.40x102 6.90×103 1.02x10 2.73×102 2.81x103 6.77×103 5.40x100 0.00 标准差9.09×103 6.83×103 3.85×102 2.35×102 6.29x103 5.15x103 1.70x109 0.00 平均值 1.27×104 3.59×102 2.81×102 2.32×102 5.58×10 5.69×10 7.77×102 1.37x103 标准差 0.00 3.54×102 1.91×102 1.04×102 2.76×102 2.63×10 3.05x102 2.26×103

表 1 10 维仿真测试结果 Table 1 Experimental results on 10D 函数 结果 jDE SaDE PSOwFIPS CLPSO TLBO ETLBO VTTLBO TLBO-CSWL f1 平均值 1.31×10-76 1.35×10-71 3.98×10-16 1.09×10-18 3.29×10-184 2.84×10-1661 3.56×10-269 0.00 标准差 1.58×10-76 2.02×10-71 6.09×10-16 1.50×10-18 3.08×10-185 4.27×10-167 0.00 0.00 f2 平均值 1.14×10-21 1.89×10-19 6.19×10-6 5.37×10-1 2.56×10-82 3.22×10-79 3.50×10-130 0.00 标准差 1.52×10-21 3.54×10-19 2.15×10-6 1.38×10-1 5.58×10-82 5.07×10-79 5.05×10-130 0.00 f3 平均值 6.97×10-78 1.28×10-74 2.18×10-17 2.59×10-20 9.94×10-187 6.50×10-169 4.63×10-1 0.00 标准差 1.39×10-31 2.52×10-74 1.39×10-17 1.76×10-20 1×10-187 5.49×10-170 0.00 0.00 f4 平均值 1.31×10-31 6.65×10-31 3.23×10-9 2.66×10-3 1.51×10-89 2.94×10-87 1.02×10-139 0.00 标准差 1.30×10-31 1.48×10-31 2.23×10-9 2.37×10-3 1.62×10-89 3.10×10-87 3.21×10-139 0.00 f5 平均值 5.14×10-7 2.62 4.51 2.45 4.96×10-1 1.46×10-1 1.13 8.06 标准差 9.47×10-7 1.50 7.17×10-2 1.00 4.21×10-1 1.38×10-1 5.06×10-1 0.24 f6 平均值 3.36×10-15 3.28×10-15 8.04×10-9 4.28×10-10 3.43×10-15 3.37×10-15 1.78×10-15 0.00 标准差 4.27×10-16 2.51×10-16 4.33×10-9 2.89×10-10 3.18×10-15 1.05×10-15 1.87×10-15 0.00 f7 平均值 0.00 0.00 1.89 2.76×10-9 3.06 3.02 1.09 0.00 标准差 0.00 0.00 1.03 3.94×10-9 1.52 1.86 1.52 0.00 f8 平均值 0.00 0.00 4.24×10-4 6.33×10-12 0.00 0.00 0.00 0.00 标准差 0.00 0.00 6.60×10-4 6.08×10-12 0.00 0.00 0.00 0.00 f9 平均值 0.00 1.48×10-3 7.59×10-2 4.15×10-3 6.48×10-3 2.42×10-2 3.82×10-8 0.00 标准差 0.00 3.31×10-3 5.19×10-2 5.68×10-3 9.71×10-3 3.69×10-2 1.21×10-7 0.00 f10 平均值 1.27×10-4 1.27×10-4 3.69×10-2 1.27×10-4 6.68×10-3 7.03×102 7.92×102 9.79×102 标准差 0.00 0.00 3.41×10-2 1.22×10-9 1.51×102 1.81×102 1.90×102 3.82×102 f11 平均值 5.63×10-58 3.32×10-46 8.42×10-15 7.05×10-11 1.23×10-173 2.21×10-161 3.09×10-279 0.00 标准差 1.26×10-57 7.42×10-46 8.03×10-15 1.55×10-10 2.37×10-174 3.04×10-161 0.00 0.00 f12 平均值 7.13×10-31 6.80×10-46 2.88×10-9 1.78×10-3 4.18×10-89 2.18×10-86 1.50×10-138 0.00 标准差 1.31×10-30 5.81×10-36 9.64×10-10 1.31×10-3 6.95×10-89 4.82×10-86 4.75×10-138 0.00 f13 平均值 3.61×10-2 2.08 4.55 7 2.50 2.63 5.02 8.71 标准差 7.94×10-2 1.82 5.29×10-1 6.39 2.33 2.87 2.53 0.16 f14 平均值 2.84×10-15 3.21×10-15 9.98×10-9 1.68×10-7 3.52×10-15 3.49×10-15 2.13×10-15 0.00 标准差 1.59×10-15 2.38×10-16 2.82×10-9 2.04×10-7 96.05×10-16 3.27×10-16 1.83×10-15 0.00 f15 平均值 3.59 5.78 9.31 6.11 4.38 3.00 2.55 0.00 标准差 1.84 1.85 1.96 3.00 8.91×10-1 1.22 2.14 0.00 f16 平均值 9.27×10-2 0.00 2.55×10-2 1.44×10-1 0.00 0.00 0.00 0.00 标准差 2.07×10-1 0.00 2.95×10-2 1.21×10-1 0.00 0.00 0.00 0.00 f17 平均值 1.40×10-2 6.90×10-3 1.02×10-1 2.73×10-2 2.81×10-3 6.77×10-3 5.40×10-10 0.00 标准差 9.09×10-3 6.83×10-3 3.85×10-2 2.35×10-2 6.29×10-3 5.15×10-3 1.70×10-9 0.00 f18 平均值 1.27×10-4 3.59×102 2.81×102 2.32×102 5.58×102 5.69×102 7.77×102 1.37×103 标准差 0.00 3.54×102 1.91×102 1.04×102 2.76×102 2.63×102 3.05×102 2.26×103 第 5 期 柳缔西子，等：基于混沌搜索和权重学习的教与学优化算法及其应用 ·821·

·822· 智能系统学报 第13卷 表2 Friedman测试在10维函数上得到的排序 于TLBO-CSWL。对于函数fio,从结果来看， Table 2 Ranking obtained by Friedman's test on 10D TLBO及其改进算法的性能比改进的差分进化算 算法 排序 法差，这主要是由算法的本身搜索特性所决定 TLBO-CSWL 2.8889 的。对于函数fi,虽然TLBO-CSWL的性能比 jDE、SaDE和PSOwFIPS差，但比CLPSO和 VTTLBO 3.2500 TLBO及其改进算法要好。对于函数g,TLBO- iDE 3.7222 CSWL的性能表现要比其他所比较算法差，其主 TLBO 4.0833 要原因可能是所提方法虽然可以加快TLBO的收 ETLBO 4.4167 敛速度，但也损失了算法一部分全局搜索的能 SaDE 4.4167 力。在其余测试函数中，TLBO-CSWL的寻优结 CLPSO 6.3333 果与所比较算法中获得的最好的结果相同。统计 PSOwFIPS 6.8889 分析结果见表5和表6。由表5可知，本文所提出 的TLBO-CSWL算法与其他算法相比具有优越的 3.1.2与其他算法在30维测试上的比较 整体性能。由表6可知，TLBO-CSWL算法的性 在该实验中，所有算法的种群规模设定为 能要显著性优于PSOwFIPS算法和CLPSO算 40。仿真结果见表4，从表4可以看出本文算法 法。此外，虽然TLBO-CSWL的寻优性能在统计 获得的平均结果在f、、万、f4、6、f方、fi、2、i4、 学意义上没有显著性地优于其他比较算法，但是 f5上均明显优于其他所比较算法。对于函数， 结合以上分析可知，TLBO-CSWL算法在解决 除了CLPSO外，其他比较算法的整体性能都要好 18个测试函数问题上整体表现得最好。 表3I0维测试结果Bonferroni-.Dunn、Holm以及Hochberg检验的p-Values Table 3 p-Values obtained by Bonferroni-Dunn's,Holm's,and Hochberg's procedures on experimental results with 10D 算法 未调整p Bonferroni-Dunn p Holm p Hochberg p PSOwFIPS 4.8990 9.63×106 6.73×106 6.74×106 6.74×106 CLPSO 4.2186 2.46×105 1.72×104 1.48×10 1.48×10 SaDE 1.8711 6.13x102 0.4293 0.3066 0.2453 ETLBO 1.8711 6.13×102 0.4293 0.3066 0.2453 TLBO 1.4629 0.1435 1.0000 0.4305 0.4305 jDE 1.0206 0.3074 1.0000 0.6149 0.6149 VTTLBO 0.4423 0.6583 1.0000 0.6583 0.6583 表430维仿真测试结果 Table 4 Experimental results on 30D 函数 结果 iDE SaDE PSOwFIPS CLPSO TLBO ETLBO VTTLBO TLBO-CSWL 平均值 1.95x1022 3.84×1023 1.43 1.94×10 4.04×1011 2.66×105 4.85×1018 0.00 标准差 2.76×102 2.15x1023 2.78×10 7.79×102 3.20x1011 1.84x105 1.06x10157 0.00 平均值 2.06×10 1.06×10 3.82×103 1.16×10 1.08×102 3.42×1022 124×102 1.27x10251 标准差 6.71 6.53 1.01×103 2.72×103 1.43x102 4.72×102 1.79×1032 0.00 平均值 3.92×1023 3.00x1024 2.17x10 2.25×102 5.38×1011 8.21×10% 2.50x101s8 0.00 5 标准差 3.86×1023 2.47×1024 7.69×10 6.43×103 3.43x1011 1.11×105 2.48×10158 0.00 平均值 1.35 1.50×101 1.11×102 2.30x102 5.11x10 1.92x101 8.06x1018 0.00 标准差 1.68 1.31×10 1.89×10 5.45×10 8.59x101 1.93×101 L.11x107 0.00 平均值 2.18×10 2.52×10 2.73×10 6.84×10 2.38×10 2.38×10 2.28×10 2.83×10 标准差2.59×10 1.36 2.99×10 2.84×10 7.01×10 8.57x10 4.23×10 0.44

3.1.2 与其他算法在 30 维测试上的比较 在该实验中，所有算法的种群规模设定为 40。仿真结果见表 4，从表 4 可以看出本文算法 获得的平均结果在 f1、f2、f3、f4、f6、f7、f11、f12、f14、 f15 上均明显优于其他所比较算法。对于函数 f5， 除了 CLPSO 外，其他比较算法的整体性能都要好 于 TLBO-CSWL。对于函数 f 1 0，从结果来看， TLBO 及其改进算法的性能比改进的差分进化算 法差，这主要是由算法的本身搜索特性所决定 的。对于函数 f13，虽然 TLBO-CSWL 的性能比 jDE、SaDE 和 PSOwFIPS 差，但比 CLPSO 和 TLBO 及其改进算法要好。对于函数 f18，TLBO￾CSWL 的性能表现要比其他所比较算法差，其主 要原因可能是所提方法虽然可以加快 TLBO 的收 敛速度，但也损失了算法一部分全局搜索的能 力。在其余测试函数中，TLBO-CSWL 的寻优结 果与所比较算法中获得的最好的结果相同。统计 分析结果见表 5 和表 6。由表 5 可知，本文所提出 的 TLBO-CSWL 算法与其他算法相比具有优越的 整体性能。由表 6 可知，TLBO-CSWL 算法的性 能要显著性优于 PSOwFIPS 算法和 CLPSO 算 法。此外，虽然 TLBO-CSWL 的寻优性能在统计 学意义上没有显著性地优于其他比较算法，但是 结合以上分析可知，TLBO-CSWL 算法在解决 18 个测试函数问题上整体表现得最好。 表 2 Friedman 测试在 10 维函数上得到的排序 Table 2 Ranking obtained by Friedman’s test on 10D 算法 排序 TLBO-CSWL 2.888 9 VTTLBO 3.250 0 jDE 3.722 2 TLBO 4.083 3 ETLBO 4.416 7 SaDE 4.416 7 CLPSO 6.333 3 PSOwFIPS 6.888 9 表 3 10 维测试结果 Bonferroni-Dunn、Holm 以及 Hochberg 检验的 p-Values Table 3 p-Values obtained by Bonferroni-Dunn’s, Holm’s, and Hochberg’s procedures on experimental results with 10D 算法 z 未调整 p Bonferroni-Dunn p Holm p Hochberg p PSOwFIPS 4.899 0 9.63×10-6 6.73×10-6 6.74×10-6 6.74×10-6 CLPSO 4.218 6 2.46×10-5 1.72×10-4 1.48×10-4 1.48×10-4 SaDE 1.871 1 6.13×10-2 0.429 3 0.306 6 0.245 3 ETLBO 1.871 1 6.13×10-2 0.429 3 0.306 6 0.245 3 TLBO 1.462 9 0.143 5 1.000 0 0.430 5 0.430 5 jDE 1.020 6 0.307 4 1.000 0 0.614 9 0.614 9 VTTLBO 0.442 3 0.658 3 1.000 0 0.658 3 0.658 3 表 4 30 维仿真测试结果 Table 4 Experimental results on 30D 函数 结果 jDE SaDE PSOwFIPS CLPSO TLBO ETLBO VTTLBO TLBO-CSWL f1 平均值 1.95×10-22 3.84×10-23 1.43 1.94×10-1 4.04×10-111 2.66×10-95 4.85×10-158 0.00 标准差 2.76×10-22 2.15×10-23 2.78×10-1 7.79×10-2 3.20×10-111 1.84×10-95 1.06×10-157 0.00 f2 平均值 2.06×10 1.06×10 3.82×103 1.16×104 1.08×10-22 3.42×10-22 1.24×10-32 1.27×10-251 标准差 6.71 6.53 1.01×103 2.72×103 1.43×10-22 4.72×10-22 1.79×10-32 0.00 f3 平均值 3.92×10-23 3.00×10-24 2.17×10-1 2.25×10-2 5.38×10-111 8.21×10-96 2.50×10-158 0.00 标准差 3.86×10-23 2.47×10-24 7.69×10-2 6.43×10-3 3.43×10-111 1.11×10-95 2.48×10-158 0.00 f4 平均值 1.35 1.50×10-1 1.11×102 2.30×102 5.11×10-11 1.92×10-11 8.06×10-18 0.00 标准差 1.68 1.31×10-1 1.89×10 5.45×10 8.59×10-11 1.93×10-11 1.11×10-17 0.00 f5 平均值 2.18×10 2.52×10 2.73×10 6.84×10 2.38×10 2.38×10 2.28×10 2.83×10 标准差 2.59×10-1 1.36 2.99×10-1 2.84×10 7.01×10-1 8.57×10-1 4.23×10-1 0.44 ·822· 智 能 系 统 学 报 第 13 卷