24经典算法的信息利用率与性能 纯随机搜索算法( Monte carlo)每次在空间中随机取点进行评估,没有利用 评估信息。 Luus-Jaakola(LJ)算法每次 IURMc=0.中心,「为半径的超立方体内随机采 一个点。如果它的适应度值比門刁町对,丌么就替代刚才的点,否则将半径乘 以一个糸数γ。它每次利用了两个点的透应度值的比较来决定下一步的采样分 布 IURLg gH(f()) 其中9+78 -los 丌 g+1g+1-g+1 北示大旁计算智能实验蜜
2.4 经典算法的信息利用率与性能 • 纯随机搜索算法(Monte Carlo)每次在空间中随机取点进行评估,没有利用 评估信息。 • Luus-Jaakola(LJ)算法每次在以当前点为中心,r为半径的超立方体内随机采 一个点。如果它的适应度值比刚才的好,那么就替代刚才的点,否则将半径乘 以一个系数γ。它每次利用了两个点的适应度值的比较来决定下一步的采样分 布。 其中 16
24经典算法的信息利用率与性能 (μ,λ)-进化策略每次用μ个父代通过交又和变异生成λ个子代,然后再从入个子代 中选出μ个父代,周而复始。它利用了λ个个体中最好的个的下标信息。 (9-1)log ⅠUR (,ES( gH(f(x) 协方差矩阵自适应进化策略(CMA-ES)是印,λ)-进化策略的改进版,利用前μ 个个体加权计算系样分布的均值和协方差。它利用了最好的μ个个体的下标和 排名。 (9-1)lo TURCMA-ES(g) aH(()) 北示大旁计算智能实验蜜
2.4 经典算法的信息利用率与性能 • (μ,λ)-进化策略每次用μ个父代通过交叉和变异生成λ个子代,然后再从λ个子代 中选出μ个父代,周而复始。它利用了λ个个体中最好的μ个的下标信息。 • 协方差矩阵自适应进化策略(CMA-ES)是(μ,λ)-进化策略的改进版,利用前μ 个个体加权计算采样分布的均值和协方差。它利用了最好的μ个个体的下标和 排名。 17
24经典算法的信息利用率与性能 根据上述计算,凵J的信息利用率高于MC,而CMA-ES的信息利用率高于(μ,λ-ES。 这说明信息利用率的指标能够准确地捕捉到算法利用信息的程度。 下面分三个层面考察信息利用与性能的联糸。 同一个算法的不同参数 同一种类的不同算法 不同种类的算法 利用CEC2013的28个测试函数进行测试,维数为5维,最大评估次数为50000, 每个算法独立运行51次。 北示大旁计算智能实验蜜
2.4 经典算法的信息利用率与性能 • 根据上述计算,LJ的信息利用率高于MC,而CMA-ES的信息利用率高于(μ,λ)-ES。 这说明信息利用率的指标能够准确地捕捉到算法利用信息的程度。 • 下面分三个层面考察信息利用与性能的联系。 – 同一个算法的不同参数 – 同一种类的不同算法 – 不同种类的算法 • 利用CEC2013的28个测试函数进行测试,维数为5维,最大评估次数为50000, 每个算法独立运行51次。 18
2.4经典算法的信息利用率与性能 (u,A)-ES在不同参数下的性能与|UR的变化趋势 吾平均排名 40yA(平移后) 7440V(平移后) --6---- -9----6“--- (a)A=10 (b)A=20 每平均律 母平均律名 440)A(平移后) ◇ocyA(平移后) 030405060,70809 (c)A=30 (d)A=40 示计算智能实验蜜
2.4 经典算法的信息利用率与性能 • (μ,λ)-ES在不同参数下的性能与IUR的变化趋势: 19
2.4经典算法的信息利用率与性能 同一种类的不同算法利用信息的方式「EMc (A, A)-ES CMA-ES MC vs U 相似,因此信息利用率对性能的影响也2王m:3 801E09 很关键。 3802E4070.00400218E+070.00E+00113E08 4423E4030.00E+00220E+040.00E+00 L. 13E-0 58.00E+016.79E+011.95E050.00E+00 ·凵J性能好于MC,CMA-ES性能好于 69.94E+00251E+01246E+007,86E01 7202E+017.10E+0 66E+015.66E+00 (μ,入)-ES,这与|UR的关糸一致。 818E+01201E+01203E+01210E401342E0216 9253E+001.67E+002.37E+001.08E+00148 10230E+01178E+00130E401416E402680E08 1122E4014E0167E400657E4030H87E0 12210E+0113401120E+01736E+00112E0 1321401190E+01181E41128E+0112 4E02 143.78E402753E402135E+024.6E+02 153.84E+026.85E+025.27E+024.52E+0 16743E01534E-01827E.01149E400 L.IIE-OI 173.25E+01223E+01987E+00107E+01 1.78E03365E01 18343E+01182E401101E+0110E+01 989E01 19408E400721E01545E01482E40197E094E01 20123E400185E240250E+001.92E+0010E05597E6 21323E+02305E+0225E+02280E+0219AE0 89E0 22591E+0279E+02401E+02720E402 2412E+02204E+02190+12174E4126346E4 251.27E+02196E+02198E+021.81E+0 60 261.01E+02238E+02167E+02198E+02 E01 27357E+02352E402365E402327E+02425E01247E0 28305E+023.0402325E+02315E+402859E01 203E01 14 北示大旁计算智能实验蜜
2.4 经典算法的信息利用率与性能 • 同一种类的不同算法利用信息的方式 相似,因此信息利用率对性能的影响也 很关键。 • LJ性能好于MC,CMA-ES性能好于 (μ,λ)-ES,这与IUR的关系一致。 20