学习与量化 ■矢量量子化规则 矢量量子化可以按照不同的规则进 行优化。原型可以扩展以使矢量量子化 均方误差最小或使某些数字性能规则最 优。更一般的,量子化矢量可以估计样 本模式的未知的概率分布,即,原型矢 量的分布可以统计的代表样本模式的未 知分布
学习与量化 ◼ 矢量量子化规则 矢量量子化可以按照不同的规则进 行优化。原型可以扩展以使矢量量子化 均方误差最小或使某些数字性能规则最 优。更一般的,量子化矢量可以估计样 本模式的未知的概率分布,即,原型矢 量的分布可以统计的代表样本模式的未 知分布
非监督学习 ■描述样本模式x在样本空间R中的连续分 布的概率密度函数叫(x)未知,通过学习 来更精确的估计p(x)。 非监督学习不作p(x)的假设,只是利用 最少限度的信息 利用“无标志”的模式样本,“盲目” 处理模式样本,其计算复杂度小,精 确度小,但是速度快,适用于高速环境
非监督学习 ◼ 描述样本模式x在样本空间 中的连续分 布的概率密度函数 未知,通过学习 来更精确的估计 。 ◼ 非监督学习不作 的假设,只是利用 最少限度的信息 。 ◼ 利用“无标志”的模式样本,“盲目” 处理模式样本 ,其计算复杂度小,精 确度小,但是速度快,适用于高速环境。 n R p x( ) p x( ) p x( ) X
监督学习 监督器假设了一种样本模式分组结构或 p(x)性能。 ■监督学习算法依赖于每个学习样本的分 组隶属度信息,即,假设R"分成: D,D2…Dk,而X∈D并且XD(≠) 所以算法可以检查出错误分组或计算出 “错误”信息或矢量
监督学习 ◼ 监督器假设了一种样本模式分组结构或 性能 。 ◼ 监督学习算法依赖于每个学习样本的分 组隶属度信息,即,假设 分成: 所以算法可以检查出错误分组或计算出 “错误”信息或矢量。 p x( ) n R D D D X D X D 1 2 j i , ,..., , i j K 而 并且 ( )
监督学习 ■计算较复杂,精确度较髙,但是速度较 慢
监督学习 ◼ 计算较复杂,精确度较高,但是速度较 慢
在神经网络中的区别 监督学习利用在所有可能的突触值的联 系空间中估计出的梯度下降,来估计依 赖于的未知均方性能的测度梯度。监督 器利用分组隶属度信息来确定数字误差 信号或矢量,以引导估计出的梯度下降
在神经网络中的区别 ◼ 监督学习利用在所有可能的突触值的联 系空间中估计出的梯度下降,来估计依 赖于的未知均方性能的测度梯度。监督 器利用分组隶属度信息来确定数字误差 信号或矢量,以引导估计出的梯度下降