第3章小波与小波变换 第3章小波与小波变换 (征求意见稿) 清华大学计算机科学与技术系 智能技术与系统国家重点实验室 林福宗 2001-9-25 小波是近十几年才发展起来并迅速应用到图像处理和语音分析等众多领域的一种数学 工具,是继110多年前的傅立叶( (Joseph Fourier)分析之后的一个重大突破,无论是对古老的 自然学科还是对新兴的高新技术应用学科都产生了强烈冲击 小波理论是应用数学的一个新领域。要深入理解小波理论需要用到比较多的数学知识。 本章企图从工程应用角度出发,用比较直观的方法来介绍小波变换和它的应用,为读者深入 研究小波理论和应用提供一些背景材料 3.1小波介绍 311小波简史 傅立叶理论指出,一个信号可表示成一系列正弦和余弦函数之和,叫做傅立叶展开式 用傅立叶表示一个信号时,只有频率分辨率而没有时间分辨率,这就意味我们可以确定信号 中包含的所有频率,但不能确定具有这些频率的信号出现在什么时候。为了继承傅立叶分析 的优点,同时又克服它的缺点,人们一直在寻找新的方法 20世纪初,哈尔( Alfred haar)对在函数空间中寻找一个与傅立叶类似的基非常感兴趣。 909年他发现了小波,并被命名为哈尔小波( Haar wavelets),他最早发现和使用了小波。 0世纪70年代,当时在法国石油公司工作的年轻的地球物理学家 Jean morlet提出了小 波变换WT( wavelet transform)的概念。 进入20世纪80年代,法国的科学家 Y.Meyer和他的同事开始为此开发系统的小波分 析方法。 Meyer于1986年创造性地构造出具有一定衰减性的光滑函数,他用缩放( dilation 与平移 translations)均为2/(j≥0的整数)的倍数构造了L(R)空间的规范正交基,使小波得 到真正的发展 小波变换的主要算法则是由法国的科学家 Stephane Mallat在1988年提出[]l他在构造 正交小波基时提出了多分辨率的概念,从空间上形象地说明了小波的多分辨率的特性,提出 了正交小波的构造方法和快速算法,叫做Malt算法1]。该算法统一了在此之前构造正交 小波基的所有方法,它的地位相当于快速傅立叶变换在经典傅立叶分析中的地位 Inrid Daubechies, Ronald Coifman和 Victor Wickerhauser等著名科学家把这个小波理论 引入到工程应用方面做出了极其重要的贡献。例如, Inrid daubechies于1988年最先揭示了 小波变换和滤波器组( filter banks)之间的内在关系[2],使离散小波分析变成为现实。在信号 处理中,自从 S Mallat和 Inrid daubechies发现滤波器组与小波基函数有密切关系之后,小 波在信号(如声音信号,图像信号等)处理中得到极其广泛的应用
第 3 章 小波与小波变换 1 第 3 章 小波与小波变换 (征求意见稿) 清华大学计算机科学与技术系 智能技术与系统国家重点实验室 林福宗 2001-9-25 小波是近十几年才发展起来并迅速应用到图像处理和语音分析等众多领域的一种数学 工具，是继 110 多年前的傅立叶(Joseph Fourier)分析之后的一个重大突破，无论是对古老的 自然学科还是对新兴的高新技术应用学科都产生了强烈冲击。 小波理论是应用数学的一个新领域。要深入理解小波理论需要用到比较多的数学知识。 本章企图从工程应用角度出发，用比较直观的方法来介绍小波变换和它的应用，为读者深入 研究小波理论和应用提供一些背景材料。 3.1 小波介绍 3.1.1 小波简史 傅立叶理论指出，一个信号可表示成一系列正弦和余弦函数之和，叫做傅立叶展开式。 用傅立叶表示一个信号时，只有频率分辨率而没有时间分辨率，这就意味我们可以确定信号 中包含的所有频率，但不能确定具有这些频率的信号出现在什么时候。为了继承傅立叶分析 的优点，同时又克服它的缺点，人们一直在寻找新的方法。 20 世纪初，哈尔(Alfred Haar)对在函数空间中寻找一个与傅立叶类似的基非常感兴趣。 1909 年他发现了小波，并被命名为哈尔小波(Haar wavelets)，他最早发现和使用了小波。 20 世纪 70 年代，当时在法国石油公司工作的年轻的地球物理学家 Jean Morlet 提出了小 波变换 WT(wavelet transform)的概念。 进入 20 世纪 80 年代，法国的科学家 Y.Meyer 和他的同事开始为此开发系统的小波分 析方法。Meyer 于 1986 年创造性地构造出具有一定衰减性的光滑函数，他用缩放(dilations) 与平移(translations)均为 j 2 ( j ³ 0 的整数)的倍数构造了 2 L (R)空间的规范正交基，使小波得 到真正的发展。 小波变换的主要算法则是由法国的科学家 Stephane Mallat 在 1988 年提出[1]。他在构造 正交小波基时提出了多分辨率的概念，从空间上形象地说明了小波的多分辨率的特性，提出 了正交小波的构造方法和快速算法，叫做 Mallat 算法[1]。该算法统一了在此之前构造正交 小波基的所有方法，它的地位相当于快速傅立叶变换在经典傅立叶分析中的地位。 Inrid Daubechies，Ronald Coifman 和 Victor Wickerhauser 等著名科学家把这个小波理论 引入到工程应用方面做出了极其重要的贡献。例如，Inrid Daubechies 于 1988 年最先揭示了 小波变换和滤波器组(filter banks)之间的内在关系[2]，使离散小波分析变成为现实。在信号 处理中，自从 S.Mallat 和 Inrid Daubechies 发现滤波器组与小波基函数有密切关系之后，小 波在信号(如声音信号，图像信号等)处理中得到极其广泛的应用
第3章小波与小波变换 经过十几年的努力,这门学科的理论基础已经基本建立,并成为应用数学的一个新领域 这门新兴学科的出现引起了许多数学家和工程技术人员的极大关注,是国际科技界和众多学 术团体高度关注的前沿领域 312小波概念 小波是定义在有限间隔而且其平均值为零的一种函数,它的波形如图3-0(b)所示。图 (a)是大家所熟悉的正弦波,图(b)是从许多使用比较广泛的小波中挑选出的几种一维小波。 在图(b)所示的小波中,缩放函数和小波函数的名称大多数是以开发者的名字命名的 例如 Moret小波函数是 Grossmann和 Morlet在1984年开发的,db6缩放函数和db6小波函 数是 Daubechies开发的开发几种小波之一, Meyer缩放函数和 Meyer小波函数是 Meyer开 发的。但也有不少例外,例如Sym6缩放函数和sym6小波函数则是 symlets的简写,是 Daubechies提议开发的几种对称小波之一,coi2缩放函数和coi2小波函数是 Daubechies 应 R. Coifman的请求而开发的几种小波之 与图(a)相比,图(b)所示的小波具有有限的持续时间和突变的频率和振幅,波形可以是 不规则的,也可以是不对称的,在整个时间范围里的幅度平均值为零。而正弦波和余弦波具 有无限的持续时间,它可从负无穷扩展到正无穷,波形是平滑的,它的振幅和频率也是恒定 (a)正弦波 rican Hat小波函数 Myr小波函数 Haar缩放函数 Har小波函数 4b6缩放函数 db6小波函数 5m缩函数 m6小波函数 oif2繒放函数 coif2小波函数
第 3 章 小波与小波变换 2 经过十几年的努力，这门学科的理论基础已经基本建立，并成为应用数学的一个新领域。 这门新兴学科的出现引起了许多数学家和工程技术人员的极大关注，是国际科技界和众多学 术团体高度关注的前沿领域。 3.1.2 小波概念 小波是定义在有限间隔而且其平均值为零的一种函数，它的波形如图 3-01(b)所示。图 (a)是大家所熟悉的正弦波，图(b)是从许多使用比较广泛的小波中挑选出的几种一维小波。 在图(b)所示的小波中，缩放函数和小波函数的名称大多数是以开发者的名字命名的， 例如 Moret 小波函数是 Grossmann 和 Morlet 在 1984 年开发的，db6 缩放函数和 db6 小波函 数是 Daubechies 开发的开发几种小波之一，Meyer 缩放函数和 Meyer 小波函数是 Meyer 开 发的。但也有不少例外，例如 Sym6 缩放函数和 sym6 小波函数则是 symlets 的简写，是 Daubechies 提议开发的几种对称小波之一， coif2 缩放函数和 coif2 小波函数是 Daubechies 应 R. Coifman 的请求而开发的几种小波之一。 与图(a)相比，图(b)所示的小波具有有限的持续时间和突变的频率和振幅，波形可以是 不规则的，也可以是不对称的，在整个时间范围里的幅度平均值为零。而正弦波和余弦波具 有无限的持续时间，它可从负无穷扩展到正无穷，波形是平滑的，它的振幅和频率也是恒定 的
第3章小波与小波变换 (b)部分小波 图3-01小波与正弦波 在众多的小波中,选择什么样的小波对信号进行分析是一个至关重要的问题。使用的小 波不同,分析得到数据也不同,这是关系到能否达到使用小波分析的目的问题。如果没有现 成的小波可用,那么还需要自己开发合用的小波 313小波分析 信号分析一般是为了获得时间和频率域之间的相互关系。傅立叶变换提供了有关频率域 的信息,但时间方面的局部化信息却基本丢失。与傅立叶变换不同,小波变换通过平移母小 波( mother wavelet)可获得信号的时间信息,而通过缩放小波的宽度(或者叫做尺度)可获得信 号的频率特性。对母小波的缩放和平移操作是为了计算小波的系数,这些系数代表小波和局 部信号之间的相互关系。本节将介绍小波分析中常用的三个基本概念:连续小波变换、离散 小波变换和小波重构 1.连续小波变换 傅立叶分析是把一个信号分解成各种不同频率的正弦波,因此正弦波是傅立叶变换的基 函数。同样,小波分析是把一个信号分解成将原始小波经过移位和缩放之后的一系列小波, 因此小波同样可以用作表示一些函数的基函数。可以说,凡是能够用傅立叶分析的函数都可 以用小波分析,因此小波变换也可以理解为用经过缩放和平移的一系列函数代替傅立叶变换 的正弦波。 仔细观察图3-02所示的正弦波和小波可以发现,用不规则的小波分析变化激烈的信号 也许比用平滑的正弦波更有效,或者说对信号的基本特性描述得更好。 (a)正弦波 (b)小波(d10) 图3-02傅立叶分析与小波分析使用的基函数 数学上傅立叶分析的过程实际上是用傅立叶变换表示, )=「f()e 这个式子的含义就是,傅立叶变换是信号f(1)与复数指数e°(e= cost- Isnot) 之积在信号存在的整个期间里求和。傅立叶变换的结果是傅立叶系数F(O),它是频率ω的 函数。 同样,连续小波变换( continuous wavelet transform,CWT)用下式表示 C(scale, position)= f(oy(scale, position, t )dt 这个式子的含义就是,小波变换是信号∫(m)与被缩放和平移的小波函数v之积在信号存在 的整个期间里求和。CWT变换的结果是许多小波系数C,这些系数是缩放因子( scale)和位 置( position)的函数
第 3 章 小波与小波变换 3 (b) 部分小波 图 3-01 小波与正弦波 在众多的小波中，选择什么样的小波对信号进行分析是一个至关重要的问题。使用的小 波不同，分析得到数据也不同，这是关系到能否达到使用小波分析的目的问题。如果没有现 成的小波可用，那么还需要自己开发合用的小波。 3.1.3 小波分析 信号分析一般是为了获得时间和频率域之间的相互关系。傅立叶变换提供了有关频率域 的信息，但时间方面的局部化信息却基本丢失。与傅立叶变换不同，小波变换通过平移母小 波(mother wavelet)可获得信号的时间信息，而通过缩放小波的宽度(或者叫做尺度)可获得信 号的频率特性。对母小波的缩放和平移操作是为了计算小波的系数，这些系数代表小波和局 部信号之间的相互关系。本节将介绍小波分析中常用的三个基本概念：连续小波变换、离散 小波变换和小波重构。 1. 连续小波变换 傅立叶分析是把一个信号分解成各种不同频率的正弦波，因此正弦波是傅立叶变换的基 函数。同样，小波分析是把一个信号分解成将原始小波经过移位和缩放之后的一系列小波， 因此小波同样可以用作表示一些函数的基函数。可以说，凡是能够用傅立叶分析的函数都可 以用小波分析，因此小波变换也可以理解为用经过缩放和平移的一系列函数代替傅立叶变换 的正弦波。 仔细观察图 3-02 所示的正弦波和小波可以发现，用不规则的小波分析变化激烈的信号 也许比用平滑的正弦波更有效，或者说对信号的基本特性描述得更好。 图 3-02 傅立叶分析与小波分析使用的基函数 数学上傅立叶分析的过程实际上是用傅立叶变换表示， ( ) ( ) j t F f t e dt w w +¥ - -¥ = ò 这个式子的含义就是，傅立叶变换是信号 f t( ) 与复数指数 j t e - w ( cos sin j t e t j t w w w - = - ) 之积在信号存在的整个期间里求和。傅立叶变换的结果是傅立叶系数 F( ) w ，它是频率w 的 函数。 同样，连续小波变换(continuous wavelet transform，CWT )用下式表示， C(scale, position) f (t)y (scale, position t, )dt +¥ -¥ = ò 这个式子的含义就是，小波变换是信号 f t( ) 与被缩放和平移的小波函数y 之积在信号存在 的整个期间里求和。CWT 变换的结果是许多小波系数C ，这些系数是缩放因子(scale)和位 置(position)的函数
第3章小波与小波变换 CWT的变换过程可分成如下5个步骤 步骤1:把小波v()和原始信号∫(1)的开始部分进行比较。 步骤2:计算系数C。该系数表示该部分信号与小波的近似程度。系数C的值越高表示 信号与小波越相似,因此系数C可以反映这种波形的相关程度。 步骤3:把小波向右移,距离为k,得到的小波函数为v(t-k),然后重复步骤1和2 再把小波向右移,得到小波v(-2k),重复步骤1和2。按上述步骤一直进行下去,直到 信号∫(1)结束 步骤4:扩展小波v(1),例如开展一倍,得到的小波函数为v(t/2)。 步骤5:重复步骤1~4 CWT的整个变换过程如图3-03所示。 v(-2k) v(-3k) 图3-03连续小波变换的过程 小波变换完成之后得到的系数是在不同的缩放因子下由信号的不同部分产生的。这些小 波系数、缩放因子和时间之间的关系和它们的含义可以用图3-04(a)表示,该图是用 MATLAB 软件绘制的。图(a)是用二维图像表示的小波变换分析图,x轴表示沿信号的时间方向上的位 置,y轴表示缩放因子,每个xy点的颜色表示小波系数C的幅度大小。图(b)是用三维图 像表示的小波变换分析图,z轴表示小波变换之后的系数
第 3 章 小波与小波变换 4 CWT 的变换过程可分成如下 5 个步骤： 步骤 1: 把小波y ( )t 和原始信号 f t( ) 的开始部分进行比较。 步骤 2: 计算系数C 。该系数表示该部分信号与小波的近似程度。系数C 的值越高表示 信号与小波越相似，因此系数C 可以反映这种波形的相关程度。 步骤 3: 把小波向右移，距离为k ，得到的小波函数为y ( ) t k - ，然后重复步骤 1 和 2。 再把小波向右移，得到小波y ( ) t k - 2 ，重复步骤 1 和 2。按上述步骤一直进行下去，直到 信号 f t( ) 结束。 步骤 4: 扩展小波y ( )t ，例如开展一倍，得到的小波函数为y (/) t 2 。 步骤 5: 重复步骤 1~4。 CWT 的整个变换过程如图 3-03 所示。 图 3-03 连续小波变换的过程 小波变换完成之后得到的系数是在不同的缩放因子下由信号的不同部分产生的。这些小 波系数、缩放因子和时间之间的关系和它们的含义可以用图 3-04(a)表示，该图是用 MATLAB 软件绘制的。图(a)是用二维图像表示的小波变换分析图，x 轴表示沿信号的时间方向上的位 置， y 轴表示缩放因子，每个 x y- 点的颜色表示小波系数C 的幅度大小。图(b)是用三维图 像表示的小波变换分析图， z 轴表示小波变换之后的系数
第3章小波与小波变换 31 系数 值高 21 值低 3950400040504100415042004250 (a)二维图 时间 (b)三维图 图3-04连续小波变换分析图[4 小波的缩放因子与信号频率之间的关系可以这样来理解。缩放因子小,表示小波比较窄, 度量的是信号细节,表示频率比较高;相反,缩放因子大,表示小波比较宽,度量的是 信号的粗糙程度,表示频率比较低 2.离散小波变换 在计算连续小波变换时,实际上也是用离散的数据进行计算的,只是所用的缩放因子和 平移参数比较小而已。不难想象,连续小波变换的计算量是惊人的。为了解决计算量的问题, 缩放因子和平移参数都选择2/(j>0的整数)的倍数。使用这样的缩放因子和平移参数的小 波变换叫做双尺度小波变换( dyadic wavelet transform),它是离散小波变换( discrete wavele transform,DwT)的一种形式。从文献看,离散小波变换通常指的就是双尺度小波变换 使用离散小波分析得到的小波系数、缩放因子和时间关系如图3-05所示。图(a)是20世 纪40年代使用 Gabor开发的短时傅立叶变换( short time Fourier transform,STF)得到的时间 频率关系图,图(b是20世纪80年代使用 Morlet开发的小波变换得到的时间-缩放因子(反 映频率)关系图
第 3 章 小波与小波变换 5 (a) 二维图 (b) 三维图 图 3-04 连续小波变换分析图[4] 小波的缩放因子与信号频率之间的关系可以这样来理解。缩放因子小，表示小波比较窄， 度量的是信号细节，表示频率w 比较高；相反，缩放因子大，表示小波比较宽，度量的是 信号的粗糙程度，表示频率w 比较低。 2. 离散小波变换 在计算连续小波变换时，实际上也是用离散的数据进行计算的，只是所用的缩放因子和 平移参数比较小而已。不难想象，连续小波变换的计算量是惊人的。为了解决计算量的问题， 缩放因子和平移参数都选择 j 2 ( j .>0 的整数)的倍数。使用这样的缩放因子和平移参数的小 波变换叫做双尺度小波变换(dyadic wavelet transform)，它是离散小波变换(discrete wavelet transform，DWT)的一种形式。从文献看，离散小波变换通常指的就是双尺度小波变换。 使用离散小波分析得到的小波系数、缩放因子和时间关系如图 3-05 所示。图(a)是 20 世 纪 40 年代使用 Gabor 开发的短时傅立叶变换(short time Fourier transform，STFT)得到的时间 -频率关系图，图(b)是 20 世纪 80 年代使用 Morlet 开发的小波变换得到的时间-缩放因子(反 映频率)关系图