拉格朗日乘子法 ●目标函数 mn S- OC
拉格朗日乘子法 ⚫ 目标函数 S = C C C min p
拉格朗日乘子法 ●采用拉格朗日乘子形式,目标函数变为, D
拉格朗日乘子法 ⚫ 采用拉格朗日乘子形式,目标函数变为, p c min s c || c || 2 2 − +
拉格朗日乘子法 口采用牛顿法求解拉格朗日约束问题步骤: 1.先设初始点,常用欠定系统的最小模 解 2求解出本次迭代的牛顿下降方向和在该 方向下的最优步长,更新迭代向量 3.若不满足终止条件,转到2继续迭代
拉格朗日乘子法 ❑采用牛顿法求解拉格朗日约束问题步骤: ➢ 1.先设初始点 ,常用欠定系统的最小模 解 ➢ 2.求解出本次迭代的牛顿下降方向 和在该 方向下的最优步长 ,更新迭代向量 ➢ 3.若不满足终止条件,转到2继续迭代 (0) x ( ) (i) n x ( ) (i 1) (i) (i) x = x + n x +
MP ● Mallat /!Zhang采用了匹配追踪( Matching pursuit, MP)在 小波库中来对信号逐步的分解,其思想是直接从信号 分解的库出发,在使均方误差下降最快的方向上〈选 取相关系数最大的原子),通过逐步的迭代来分解信 号,其每迭代一次,就抽取出过完备库中的一个适当 的“原子”,通过多次迭代,在满足收敛条件时,就 可以得到信号的稀疏表达
MP ⚫ Mallat和Zhang采用了匹配追踪(Matching pursuit,MP)在 小波库中来对信号逐步的分解,其思想是直接从信号 分解的库出发,在使均方误差下降最快的方向上(选 取相关系数最大的原子),通过逐步的迭代来分解信 号,其每迭代一次,就抽取出过完备库中的一个适当 的“原子” ,通过多次迭代,在满足收敛条件时,就 可以得到信号的稀疏表达
MP的迭代步骤 ()初始化。0=0.20=,R为法代中的残差 (】)选取最佳原子计算残差2和混合过完备库中中的原子间的相关系数 相关性最大所应的原子找出,即a2=m(,9 3)更新。将上一步中找出的原子加入到信号8中,并把其从残美中易除,即 =)+a,列,=
MP 的迭代步骤