西安电子科技大学：《矩阵论》研究生课程教学课件（讲义，2015）21 范数理论

全面最小二乘法 冬引理 ·设X∈Cmxn 61 ·且存在奇异值分解X=U ·其中01≥02≥…≥0>0 … VH (s<r) ·则K-Ye=minK-Zle rankz=s 正交相抵或酉相抵的矩阵与F范数相同 lexu@mail.xidian.edu.cn 矩阵论

lexu@mail.xidian.edu.cn mail.xidian.edu.cn 矩 阵 论 6 全面最小二乘法 引理  设 • 且存在奇异值分解 • 其中  又设  则 m n X Cr   1 H r m n XU V 0                 12 r       0 1 H s m n Y U V (s r) 0                  F F m n z C rankz s X Y min X Z      正交相抵或酉相抵的矩阵与F范数相同

全面最小二乘法 定理1 ·设A∈Cm如 ·且[Ab]∈Ca具有如下的奇异值分解 VH,(,2022…之0) ·则使方程(C+△)=0具有非零解，且F范数最小 的△存在，并且△=O+1 lexu@mail.xidian.edu.cn 矩阵论

lexu@mail.xidian.edu.cn mail.xidian.edu.cn 矩 阵 论 7 全面最小二乘法 定理1  设 • 且 具有如下的奇异值分解  则使方程(C+△)v=0具有非零解，且F范数最小 的△存在，并且 m n A Cn   m (n 1) Ab Cn 1        1 H 1 2 n1 n 1 C U V ,( ) 0                        F  n 1

全面最小二乘法 定理2 ·设ont为C的n-k+1重奇异值 ·且Vk,Vk+2,,Vn+1相应的为CHC的属于(n- k+1)重特征值σ的正交归一特征向量 则使方程(C+△)=0具有非零的解且F范数最小 s 的△为A=-Cy,v/v ·而方程的解则为v=V。 ▣其中V,∈S.=span{Vk+1,Vk+2,Vn} lexu@mail.xidian.edu.cn 矩阵论

lexu@mail.xidian.edu.cn mail.xidian.edu.cn 矩 阵 论 8 全面最小二乘法 定理2  设σn+1为C的n-k+1重奇异值  且vk+1,vk+2，…，vn+1相应的为CHC的属于(n￾k+1)重特征值 的正交归一特征向量  则使方程(C+△)v=0具有非零的解且F范数最小 的△为  而方程的解则为v=vs  其中 2 n 1 H H Cv v v v ss s s v S span v , v , v s c k1 k2 n1        

全面最小二乘法 定理3 ·在定理2的条件下，全面最小二乘解存在的充要 条件为 ·t时weq=[desa0 ·则最小二乘解为x=。} lexu@mail.xidian.edu.cn 矩阵论 9

lexu@mail.xidian.edu.cn mail.xidian.edu.cn 矩 阵 论 9 全面最小二乘法 定理3  在定理2的条件下，全面最小二乘解存在的充要 条件为 • 向量 不正交于Sc • 此时 • 则最小二乘解为 T n 1 n e0 0          个   1  c y v q q S, 0                   1 x  y 