工程科学学报，第39卷.第10期：1584-1590,2017年10月 Chinese Journal of Engineering,Vol.39,No.10:1584-1590,October 2017 D0L:10.13374/j.issn2095-9389.2017.10.018;htp:/journals..usth.edu.cn 基于深度卷积神经网络的地磁导航方向适配性分析 肖晶)，齐晓慧)，段修生)区，王俭臣) 1)陆军工程大学，石家庄0500032)中国人民解放军驻西北工业大学军事代表室，西安710065 区通信作者，E-mail:sjzdxsh@163.com 摘要针对地磁导航方向适配性分析时人工提取的特征主观性较强且难以表达深层的结构性特征的问题，提出一种基于 深度卷积神经网络(convolutional neural network,CNN)的地磁导航方向适配性分析方法.首先，利用Gabor滤波器的方向选择 特性建立了6个典型方向的适配特征图：然后，设计了卷积神经网络对深层次的方向适配特征进行提取，并通过混和粒子群 算法(hybrid particle swarm optimization,HPSO)对卷积神经网络的训练参数进行优选：最后，通过仿真实验对所提方法进行了 验证.结果表明，该方法可有效避免复杂的计算以及人工特征提取的盲目性，实现了地磁导航方向适配性分析的自动化，且 所提方法的准确率高于传统的BP网络和支持向量机，对地磁导航和航迹规划具有指导意义. 关键词地磁导航；适配性分析；方向适配性；卷积神经网络；Gbor滤波器 分类号TP391.1 Direction-matching-suitability analysis for geomagnetic navigation based on convolu- tional neural networks XIAO Jing),QI Xiao-hui),DUAN Xiu-sheng,WANG Jian-chen2) 1)Army Engineering University,Shijiazhuang 050003,China 2)Govemment Representative Office in Northwestem Polytechnical University,Xi'an 710065,China Corresponding author,E-mail:sjzdxsh@163.com ABSTRACT Aimed at the problems of artificial direction matching features being too subjective to analyze magnetic matching suita- bility and deep architectural features that can't be extracted,a new matching suitability analysis method based on a convolutional neural network(CNN)is proposed.First,direction-matching-suitability feature maps in six typical directions are established using the Gabor filter's direction selection characteristics.Second,a CNN is designed to extract the deep direction features.The training parameters of the CNN are optimized with a hybrid particle swarm optimization(HPSO)algorithm.Finally,simulation experiments are conducted to verify the proposed method.Results show that the method can effectively avoid complicated calculations and blindness when artificially extracting direction features,and the direction-matching-suitability analysis for magnetic navigation can be achieved automatically.The method's analysis accuracy is higher than in the traditional BP neural network(BPNN)and support vector machine(SVM),and has practical implications for geomagnetic navigation and route planning. KEY WORDS geomagnetic navigation;matching suitability analysis;direction matching suitability;convolutional neural networks; Gabor filter 地磁导航是一种基于地球地理信息的导航方式，要补充.地磁导航的精度不仅与导航算法有关，还与 具有无源、无辐射、隐蔽性强和误差不随时间积累的特 地磁图的特征密切相关：在磁场特征明显、信息量丰富 点，可进行全天候、全地域导航，是惯性导航方式的重 的区域进行导航能够有效提高导航的精度和实时性. 收稿日期：2016-12-05 基金项目：武器装备军内科研重点资助项目(2014551)
工程科学学报,第 39 卷,第 10 期:1584鄄鄄1590,2017 年 10 月 Chinese Journal of Engineering, Vol. 39, No. 10: 1584鄄鄄1590, October 2017 DOI: 10. 13374 / j. issn2095鄄鄄9389. 2017. 10. 018; http: / / journals. ustb. edu. cn 基于深度卷积神经网络的地磁导航方向适配性分析 肖 晶1) , 齐晓慧1) , 段修生1) 苣 , 王俭臣2) 1) 陆军工程大学, 石家庄 050003 2) 中国人民解放军驻西北工业大学军事代表室, 西安 710065 苣通信作者, E鄄mail: sjzdxsh@ 163. com 摘 要 针对地磁导航方向适配性分析时人工提取的特征主观性较强且难以表达深层的结构性特征的问题,提出一种基于 深度卷积神经网络(convolutional neural network, CNN)的地磁导航方向适配性分析方法. 首先,利用 Gabor 滤波器的方向选择 特性建立了 6 个典型方向的适配特征图;然后,设计了卷积神经网络对深层次的方向适配特征进行提取,并通过混和粒子群 算法(hybrid particle swarm optimization, HPSO)对卷积神经网络的训练参数进行优选;最后,通过仿真实验对所提方法进行了 验证. 结果表明,该方法可有效避免复杂的计算以及人工特征提取的盲目性,实现了地磁导航方向适配性分析的自动化,且 所提方法的准确率高于传统的 BP 网络和支持向量机,对地磁导航和航迹规划具有指导意义. 关键词 地磁导航; 适配性分析; 方向适配性; 卷积神经网络; Gabor 滤波器 分类号 TP391郾 1 Direction鄄matching鄄suitability analysis for geomagnetic navigation based on convolu鄄 tional neural networks XIAO Jing 1) , QI Xiao鄄hui 1) , DUAN Xiu鄄sheng 1) 苣 , WANG Jian鄄chen 2) 1) Army Engineering University, Shijiazhuang 050003, China 2) Government Representative Office in Northwestern Polytechnical University, Xi爷an 710065, China 苣Corresponding author, E鄄mail: sjzdxsh@ 163. com ABSTRACT Aimed at the problems of artificial direction matching features being too subjective to analyze magnetic matching suita鄄 bility and deep architectural features that can蒺t be extracted, a new matching suitability analysis method based on a convolutional neural network (CNN) is proposed. First, direction鄄matching鄄suitability feature maps in six typical directions are established using the Gabor filter蒺s direction selection characteristics. Second, a CNN is designed to extract the deep direction features. The training parameters of the CNN are optimized with a hybrid particle swarm optimization (HPSO) algorithm. Finally, simulation experiments are conducted to verify the proposed method. Results show that the method can effectively avoid complicated calculations and blindness when artificially extracting direction features, and the direction鄄matching鄄suitability analysis for magnetic navigation can be achieved automatically. The method蒺s analysis accuracy is higher than in the traditional BP neural network (BPNN) and support vector machine (SVM), and has practical implications for geomagnetic navigation and route planning. KEY WORDS geomagnetic navigation; matching suitability analysis;direction matching suitability; convolutional neural networks; Gabor filter 收稿日期: 2016鄄鄄12鄄鄄05 基金项目: 武器装备军内科研重点资助项目(2014551) 地磁导航是一种基于地球地理信息的导航方式, 具有无源、无辐射、隐蔽性强和误差不随时间积累的特 点,可进行全天候、全地域导航,是惯性导航方式的重 要补充. 地磁导航的精度不仅与导航算法有关,还与 地磁图的特征密切相关:在磁场特征明显、信息量丰富 的区域进行导航能够有效提高导航的精度和实时性
肖晶等：基于深度卷积神经网络的地磁导航方向适配性分析 ·1585· 地磁适配性分析就是研究地磁场特征在定位过程中表 特征，提高了地磁导航方向适配性分析的精度和 征地理位置的能力.早期适配性研究的对象为区域适 效率. 配性[-]，反映了某一区域在不同方向上的“平均”适 1磁场导航方向适配特征图的提取 配性能，然而地磁匹配是“一维序列”的匹配，匹配性 能还与载体进入匹配区的方向密切相关.方向适配性 1.1二维Gabor滤波器 可以对磁场区域各个方向的匹配性能进行描述，不仅 1985年，Daugnan在Gabor变换的基础上提出了 是对适配性理论的进一步深入和完善，也为载体的航 二维Gaor滤波器，它在空间域中是一个被复正弦函 迹规划提供了更明确的指导 数调制的高斯函数，定义如下： 适配性研究的关键在于适配特征的提取.赵建虎 等[)利用灰度共生矩阵(gray level co-occurrence ma- G(x,y）=2mo.0 ex exp (j2). tix,GLCM)提取了磁场在4个主方向上的二阶矩、对 (1) 比度、相关性、嫡等特征，从空域角度初步探讨了地磁 其中，(x',y)表示坐标(x,y)逆时针旋转0角后的坐 导航方向适配性的分析方法：Wang等)计算了磁场的 标，由式(2)计算得到： 灰度共生矩阵并对磁场进行Gabor滤波，提取了不同 cos 6 sin x 方向上的磁场标准差作为方向特征，并借鉴基因表达 (2) -sin0cos0八yJ 式编程(gene expression programming,GEP)和支持向 式(1)和式(2)中，x,y表示空间坐标系下一个位 量机(support vector machine,SVM)建立了地磁导航方 置的横、纵坐标，σ，和o,为高斯函数在x轴和y轴方向 向适配性的决策方案：徐晓苏等[利用地形粗糙度、地 的标准差，决定滤波器窗口的大小，∫决定了Gabor滤 形高度熵等特征值构建了灰色决策矩阵，并在此基础 波器的中心频率，0控制滤波器方向，取值范围为[0°， 上利用熵值赋权法计算了各决策属性的权重，得到了 360). 地形适配性的评价指标：张凯等[)基于BP神经网络 显然，式(1)由实部和虚部两部分构成，可以改 建立了地形适配区特征参量与匹配性能的模型：刘玉 写为： 霞等[]还基于信息嫡和投影寻踪理论得到了不同区域 适配性的综合评价指标.这些方法虽然实现了适配性 的评价，尤其是BP网络、支持向量机等智能分类器的 引入，将适配性特征通过机器学习的方式融入分类 G.(x,y）=2m,0, 器，在适配性研究中得到了广泛关注，但是它们仍然 (3) 无法避免人为因素的影响.此外，基于统计理论提取 其中，G.(x,y)和G.(x,y)分别为Gabor滤波器的实 的灰度共生矩阵特征难以实现磁场任意方向的适配 部和虚部.可见，G(x,y)是偶对称的，G(x,y)是奇 性分析，相关理论还有待进一步研究：为了保证有效 对称的，且二者相位正交.因此，选定一组方向0,02， 特征的获取，一些与方向适配性分析无关或弱相关 …,0,经Gabor滤波后可得原始图像在不同方向上的 的特征也参与决策，增加了适配性分析方法的复杂 滤波响应 度.另一方面，传统神经网络参数和计算单元有限， L.2基于Gabor滤波器的磁场方向适配特征图的建立 对复杂函数的表达能力有限，学习能力也有限，难以 设地磁场中一个候选匹配区的磁场归一化处理后 表征样本的结构性特征，而且处理大量样本时的效 的数据为I(x,y),则基于Gabor滤波器的不同磁场方 率也不高. 向的特征图可以通过I(x,y)与G(x,y)和G.(x,y) 近年来，深度学习方法的出现在机器学习和特 的卷积得到： 征提取领域引发了一场革命，相比于传统的神经网 络，深度神经网络无需人工提取特征，它可以利用输 (T(x,y)=I(x,y)*G.(x,y), 入样本逐层深人地进行特征学习，进而自动提取到 T.(x,y)=I(x,y)*G.(x,y), (4) 样本更全面、更深层次的抽象特征.因此，将深度神 (T(x,y)=T(x,y)+T(x,y). 经网络用于地磁导航方向适配性的研究，不仅可以 其中，T.(x,y)和T.(x,y)分别为Gabor滤波器实部和 避免人工特征提取时主观性较强且缺乏指导的问 虚部滤波后该候选匹配区的原始响应，代表了候选匹 题，而且更全面的特征描述还有利于提高方向适配 配区磁场在滤波器方向上的滤波结果，T(x,y)为滤波 性分析方法的准确率。基于此，本文在频域内构建了 器实部和虚部响应的幅值，“”是卷积算子 磁场的方向适配特征图，从图像识别的角度利用深 研究表明，二维Gabor滤波器的实部对斑点的检 度卷积神经网络自动提取了磁场不同方向的适配性 测能力较好，而虚部对边缘的检测能力较好[).为了
肖 晶等: 基于深度卷积神经网络的地磁导航方向适配性分析 地磁适配性分析就是研究地磁场特征在定位过程中表 征地理位置的能力. 早期适配性研究的对象为区域适 配性[1鄄鄄3] ,反映了某一区域在不同方向上的“平均冶适 配性能,然而地磁匹配是“一维序列冶的匹配,匹配性 能还与载体进入匹配区的方向密切相关. 方向适配性 可以对磁场区域各个方向的匹配性能进行描述,不仅 是对适配性理论的进一步深入和完善,也为载体的航 迹规划提供了更明确的指导. 适配性研究的关键在于适配特征的提取. 赵建虎 等[4] 利用灰度共生矩阵( gray level co鄄occurrence ma鄄 trix,GLCM)提取了磁场在 4 个主方向上的二阶矩、对 比度、相关性、熵等特征,从空域角度初步探讨了地磁 导航方向适配性的分析方法;Wang 等[5]计算了磁场的 灰度共生矩阵并对磁场进行 Gabor 滤波,提取了不同 方向上的磁场标准差作为方向特征,并借鉴基因表达 式编程( gene expression programming, GEP) 和支持向 量机(support vector machine, SVM)建立了地磁导航方 向适配性的决策方案;徐晓苏等[6]利用地形粗糙度、地 形高度熵等特征值构建了灰色决策矩阵,并在此基础 上利用熵值赋权法计算了各决策属性的权重,得到了 地形适配性的评价指标;张凯等[7] 基于 BP 神经网络 建立了地形适配区特征参量与匹配性能的模型;刘玉 霞等[8]还基于信息熵和投影寻踪理论得到了不同区域 适配性的综合评价指标. 这些方法虽然实现了适配性 的评价,尤其是 BP 网络、支持向量机等智能分类器的 引入,将适配性特征通过机器学习的方式融入分类 器,在适配性研究中得到了广泛关注,但是它们仍然 无法避免人为因素的影响. 此外,基于统计理论提取 的灰度共生矩阵特征难以实现磁场任意方向的适配 性分析,相关理论还有待进一步研究;为了保证有效 特征的获取,一些与方向适配性分析无关或弱相关 的特征也参与决策,增加了适配性分析方法的复杂 度. 另一方面,传统神经网络参数和计算单元有限, 对复杂函数的表达能力有限,学习能力也有限,难以 表征样本的结构性特征,而且处理大量样本时的效 率也不高. 近年来,深度学习方法的出现在机器学习和特 征提取领域引发了一场革命,相比于传统的神经网 络,深度神经网络无需人工提取特征,它可以利用输 入样本逐层深入地进行特征学习,进而自动提取到 样本更全面、更深层次的抽象特征. 因此,将深度神 经网络用于地磁导航方向适配性的研究,不仅可以 避免人工特征提取时主观性较强且缺乏指导的问 题,而且更全面的特征描述还有利于提高方向适配 性分析方法的准确率. 基于此,本文在频域内构建了 磁场的方向适配特征图,从图像识别的角度利用深 度卷积神经网络自动提取了磁场不同方向的适配性 特征,提 高 了 地 磁 导 航 方 向 适 配 性 分 析 的 精 度 和 效率. 1 磁场导航方向适配特征图的提取 1郾 1 二维 Gabor 滤波器 1985 年,Daugnan 在 Gabor 变换的基础上提出了 二维 Gabor 滤波器,它在空间域中是一个被复正弦函 数调制的高斯函数,定义如下[9] : G(x,y) = 1 2仔滓x滓y exp [ - ( 1 2 x忆 2 滓 2 x + y忆 2 滓 2 ) ] y exp (j2仔fx忆). (1) 其中,(x忆, y忆)表示坐标(x, y)逆时针旋转 兹 角后的坐 标,由式(2)计算得到: æ x忆 è ç ö ø ÷ y忆 = cos 兹 sin 兹 - sin 兹 cos æ è ç ö ø ÷ 兹 æ è ç ö ø ÷ x y . (2) 式(1)和式(2)中,x, y 表示空间坐标系下一个位 置的横、纵坐标,滓x和 滓y为高斯函数在 x 轴和 y 轴方向 的标准差,决定滤波器窗口的大小,f 决定了 Gabor 滤 波器的中心频率,兹 控制滤波器方向,取值范围为[0毅, 360毅). 显然,式(1) 由实部和虚部两部分构成,可以改 写为: Ge(x,y) = 1 2仔滓x滓y exp [ - ( 1 2 x忆 2 滓 2 x + y忆 2 滓 2 ) ] y cos(j2仔fx忆), Go(x,y) = 1 2仔滓x滓y exp [ - ( 1 2 x忆 2 滓 2 x + y忆 2 滓 2 ) ] y sin (j2仔fy忆) ì î í ï ï ï ï . (3) 其中,Ge(x, y)和 Go ( x, y)分别为 Gabor 滤波器的实 部和虚部. 可见,Ge(x, y)是偶对称的,Go ( x, y)是奇 对称的,且二者相位正交. 因此,选定一组方向 兹1 ,兹2 , …,兹n ,经 Gabor 滤波后可得原始图像在不同方向上的 滤波响应. 1郾 2 基于 Gabor 滤波器的磁场方向适配特征图的建立 设地磁场中一个候选匹配区的磁场归一化处理后 的数据为 I(x, y),则基于 Gabor 滤波器的不同磁场方 向的特征图可以通过 I(x, y)与 Ge( x, y)和 Go ( x, y) 的卷积得到: Te(x,y) = I(x,y)*Ge(x,y), To(x,y) = I(x,y)*Go(x,y), T(x,y) = T 2 e(x,y) + T 2 o(x,y) ì î í ïï ïï . (4) 其中,Te(x,y)和 To(x, y)分别为 Gabor 滤波器实部和 虚部滤波后该候选匹配区的原始响应,代表了候选匹 配区磁场在滤波器方向上的滤波结果,T( x,y)为滤波 器实部和虚部响应的幅值,“*冶是卷积算子. 研究表明,二维 Gabor 滤波器的实部对斑点的检 测能力较好,而虚部对边缘的检测能力较好[10] . 为了 ·1585·
·1586· 工程科学学报，第39卷，第10期 综合利用实部和虚部的滤波图像，本文选取T(x,y)为 研究对象，并对其进行二维傅里叶变换，如式(5)： P,=六 ∑T(x,y)e-ww+m.(5) 其中，T(x,y)的大小为M×N,4,v为离散频率变量. 求F(以，)的幅值即可得到磁场在一个方向上的适配 特征图.这里对T(x,y)进行傅里叶变换主要是因为 磁场在频域内的方向适配特征图的对比度更明显，更 有利于后续深度神经网络的学习和识别. 图1给出了一个归一化磁场图像（大小为20× 20)及其在0°，30°，60°，90°，120°和150°6个方向上的 Gabor滤波图像经傅里叶变换后的方向适配特征图， 其中各方向适配特征图的大小都为20×20. 需要说明的是，本文与地磁方向适配特征图对应 (e) (f) g 的类别标签通过匹配仿真实验得到，将匹配正确率大 图1某磁场在6个方向上的方向适配特征图.(a)归一化磁场： 于90%的方向视为“适合匹配”，归为类别“1”，其他的 (b)0方向特征图：(c)30方向特征图：(d)60°方向特征图：(e) 视为“不适合匹配”，归为类别“0”.由于篇幅限制，匹 90°方向特征图：(f)120°方向特征图：(g)150°方向特征图 配算法的原理和实现不详细讨论，可参考文献[11- Fig.I Feature maps of direction matching suitability in six directions in a magnetic area:(a)normalized magnetic area;(b)feature map 13]. in0°：(c）fealure map in30°：(d)feature map in60°：(e）feature 2基于深度卷积神经网络的方向适配性分 map in90°：(f)feature map in120°；(g)feature ma即in150° 析方法 如图2所示，该卷积神经网络共包含7层：一个输 卷积神经网络(convolutional neural networks, 入层，两个卷积层C1和C3,两个降采样层S2和S4,一 CNN)可以对图像进行有效识别，与一般处理图像 个全连接层F5和一个输出层.卷积层的功能是基于 的神经网络相比，卷积神经网络具有以下优势[]： 卷积核完成特征图的提取，其中特征图的大小由卷积 (1)输入图像与网络的拓扑结构能够更好地吻合； 核的大小决定，特征图的个数由卷积核的种类决定；子 (2)特征提取在网络训练的过程中自动完成，避免 采样层，又称为池化层，对上一级的特征图进行降采 了人工特征选择的主观性：(3)权重共享机制可以 样，在完成特征映射的同时缩减输入数据的规模，减少 有效减小网络的训练参数，降低了网络的复杂性， 计算量.有关地磁导航方向适配性分析的卷积神经网 适应性更强. 络结构详细描述如下： 2.1面向地磁导航方向适配性分析的卷积神经网络 (1)输人层：输人图像为第1节在频域内建立的 的结构 基于Gabor滤波器的磁场方向适配特征图，图像大小 图2给出了本文设计的用于地磁导航方向适配性 为20×20. 分析的卷积神经网络的结构图： (2)C1层：卷积层，用于提取输入层特征.卷积核 S2层 C3层 S4层 C1层 输出层 特征图数日：6 特征图数日：16 特征图数日：16 F5层 输入层 特征图数目：6 特征图大小：8×8 特征图大小：4x4 神经元数目：30神经元 数目：1 大小：20x20 特征图大小：18x18 特征图大小：9x9 方向适配性 卷积 降采样 卷积 降采样 全连接 输出 特征图 映射 图2地磁导航方向适配性分析的卷积神经网络结构图 Fig.2 Structure chart of CNN for direction-matching-suitability analysis of a magnetic area
工程科学学报,第 39 卷,第 10 期 综合利用实部和虚部的滤波图像,本文选取 T( x,y)为 研究对象,并对其进行二维傅里叶变换,如式(5): F(滋,淄) = 1 MN 移 M-1 x = 0 移 N-1 y = 0 T(x,y)e - j2仔(滋x / M + 淄y / N) . (5) 其中,T(x, y)的大小为 M 伊 N,滋, 淄 为离散频率变量. 求 F(滋, 淄)的幅值即可得到磁场在一个方向上的适配 特征图. 这里对 T( x, y)进行傅里叶变换主要是因为 磁场在频域内的方向适配特征图的对比度更明显,更 有利于后续深度神经网络的学习和识别. 图 1 给出了一个归一化磁场图像(大小为 20 伊 20)及其在 0毅,30毅,60毅,90毅,120毅和 150毅6 个方向上的 Gabor 滤波图像经傅里叶变换后的方向适配特征图, 其中各方向适配特征图的大小都为 20 伊 20. 图 2 地磁导航方向适配性分析的卷积神经网络结构图 Fig. 2 Structure chart of CNN for direction鄄matching鄄suitability analysis of a magnetic area 需要说明的是,本文与地磁方向适配特征图对应 的类别标签通过匹配仿真实验得到,将匹配正确率大 于90% 的方向视为“适合匹配冶,归为类别“1冶,其他的 视为“不适合匹配冶,归为类别“0冶. 由于篇幅限制,匹 配算法的原理和实现不详细讨论,可参考文献[11鄄鄄 13]. 2 基于深度卷积神经网络的方向适配性分 析方法 卷 积 神 经 网 络 ( convolutional neural networks, CNN) 可以对图像进行有效识别,与一般处理图像 的神经网络相比,卷积神经网络具有以下优势[14] : (1) 输入图像与网络的拓扑结构能够更好地吻合; (2) 特征提取在网络训练的过程中自动完成,避免 了人工特征选择的主观性;( 3 ) 权重共享机制可以 有效减小网络的训练参数,降低了网络的复杂性, 适应性更强. 2郾 1 面向地磁导航方向适配性分析的卷积神经网络 的结构 图 2 给出了本文设计的用于地磁导航方向适配性 分析的卷积神经网络的结构图: 图 1 某磁场在 6 个方向上的方向适配特征图. (a)归一化磁场; (b)0毅方向特征图;(c)30毅方向特征图;( d)60毅方向特征图;( e) 90毅方向特征图;(f)120毅方向特征图;(g)150毅方向特征图 Fig. 1 Feature maps of direction matching suitability in six directions in a magnetic area: (a) normalized magnetic area; (b) feature map in 0毅; (c) feature map in 30毅; (d) feature map in 60毅; (e) feature map in 90毅; (f) feature map in 120毅; (g) feature map in 150毅 如图 2 所示,该卷积神经网络共包含 7 层:一个输 入层,两个卷积层 C1 和 C3,两个降采样层 S2 和 S4,一 个全连接层 F5 和一个输出层. 卷积层的功能是基于 卷积核完成特征图的提取,其中特征图的大小由卷积 核的大小决定,特征图的个数由卷积核的种类决定;子 采样层,又称为池化层,对上一级的特征图进行降采 样,在完成特征映射的同时缩减输入数据的规模,减少 计算量. 有关地磁导航方向适配性分析的卷积神经网 络结构详细描述如下: (1)输入层:输入图像为第 1 节在频域内建立的 基于 Gabor 滤波器的磁场方向适配特征图,图像大小 为 20 伊 20. (2)C1 层:卷积层,用于提取输入层特征. 卷积核 ·1586·
肖晶等：基于深度卷积神经网络的地磁导航方向适配性分析 ·1587· 的大小决定了神经元感受区域的范围，较小的卷积核 因此，本文基于任务驱动法分析参数与实际问题需求 无法提取有效的局部特征，而较大的卷积核又无法描 之间的关系，选取最符合问题要求的参数，并利用混合 述高度复杂的信息.本文在大量实验的基础上选取本 粒子群算法(hybrid particle swarm optimization,HP- 层卷积核的大小为3×3，卷积后得到大小为18×18 $0)算法，通过设置合理的目标函数实现各个参数的 的特征图.由于每个卷积核只能提取到某一类特征， 优选，提高卷积神经网络的分类精度.优化方法的原 本文同时利用6个卷积核对输入图像进行卷积，得到 理如图3. 6种不同的特征图. 如图，卷积神经网络的参数优化方法主要包括两 (3)S2层：子采样层，对C1层输出的特征图进行 部分：粒子群的更新搜索和不同参数条件下代价函数 降采样，一般缩放因子取2时就能取得较好的效果. 的求取.本文以不同参数训练后卷积神经网络对测试 大小为18×18的特征图通过2×2的子采样后得到 集的错分率（式(6）)为代价函数，所选的卷积神经网 大小为9×9的特征图.这意味着C1层特征图上的 络训练参数应能使测试集的错分率最低. 4个像素合并成S2层输出图像上的一个像素.常见 的子采样的方法有最大值合并、平均值合并及随机 N(PredictionC =@n RealC =@ 合并，本文采取随机合并方法.此外，降采样层只是 ∑N(PredictionC=w,) 在C1层特征图的基础上进行降采样，不改变特征图 的数目. 100%(i≠j). (6) (4)C3层：卷积层，对S2层输出的特征图进行特 其中，N(PredictionC=w,nRealC=o,)表示样本类别 征提取.过程与C1层相似，不同的是本层取16个大 为w,而错将其分类为o,的样本数，N(RealC=w,)为实 小为2×2的卷积核完成特征提取，得到16个大小为8 际样本类别为ω，的数目. ×8的特征图. 开始 (5)S4层：降采样层，对C3输出的特征图降采样， 产生粒子群 将粒子赋值给CNN的 缩放因子为2.与S2层原理类似，降采样后得到16个 学习率和惯性系数 大小为4×4的特征图 粒子群更新 初始化CNN和网络训练 (6)F5层：全连接层，再次对特征进行映射.S4层 共有16×4×4=256个神经元，每个神经元与F5层的 网路测试，求测试集的 一个神经元连接，若设置F5层所含神经元数目为30， 满足终止条件 代价函数值 则S4层到F5层的连接可以视为将S4层的特征图映 是1 射为30个256维的特征向量. 结束 (7)输出层：给出地磁导航方向适配性分析的结 图3基于混合粒子群算法的卷积神经网络参数优化原理图 论.本文以“适合匹配”和“不适合匹配”对地磁方向 Fig.3 Parameters optimization schematic diagram of CNN based on 适配性进行划分，因此本层只设1个神经元，作为深度 the HPSO algorithm 神经网络的最终输出，当输出为1时表示“适合匹 配”，为0时表示“不适合匹配”. 这里随机选取800个磁场方向适配特征图作为卷 卷积神经网络的学习训练分为两个阶段：预训练 积神经网络参数优化时的训练集，另取100个特征图 与微调5-).第一个阶段为从底层至顶层的非监督学 作为测试集，完成卷积神经网络训练参数的优选。混 习，通过最小化重构误差获得待识别图像的隐层表示， 合粒子群算法的参数设置如下：学习率的搜索范围为 进而实现深度网络的初始化：第二个阶段为从顶层至 [0.1,3],惯性系数的搜索范围为[0,0.95]，种群规 底层的监督学习，通过带标签数据集的训练，误差自顶 模为15和30次迭代过程中代价函数的变化如图4 向下传播，对网络进行微调.由于深度网络的初始化 所示。 是通过学习输入数据的结构特征得到，而非随机设置， 可见，仅通过两次迭代，测试集的错分代价函数值 因此该初值更接近全局最优，可以取得更好的效果. 就由32%降低到了6%，说明了卷积神经网络训练参 此外，卷积神经网络通过感受区域和权值共享机制有 数优选方法的有效性，此时，学习率α=0.7896，惯性 效减少了网络需要训练的参数的个数，提高了网络的 系数n=0.3961. 运行效率. 至此，用于地磁导航方向适配性分析的卷积神经 2.2卷积神经网络的参数设置 网络得以确定，通过大量训练集进行网络学习和训练 卷积神经网络的学习效果不仅与网络的结构有 后即可用于方向适配性的分析，以下通过仿真实验进 关，还与学习过程中的学习率、惯性系数等参数相关. 行验证
肖 晶等: 基于深度卷积神经网络的地磁导航方向适配性分析 的大小决定了神经元感受区域的范围,较小的卷积核 无法提取有效的局部特征,而较大的卷积核又无法描 述高度复杂的信息. 本文在大量实验的基础上选取本 层卷积核的大小为 3 伊 3,卷积后得到大小为 18 伊 18 的特征图. 由于每个卷积核只能提取到某一类特征, 本文同时利用 6 个卷积核对输入图像进行卷积,得到 6 种不同的特征图. (3)S2 层:子采样层,对 C1 层输出的特征图进行 降采样,一般缩放因子取 2 时就能取得较好的效果. 大小为 18 伊 18 的特征图通过 2 伊 2 的子采样后得到 大小为 9 伊 9 的特征图. 这意味着 C1 层特征图上的 4 个像素合并成 S2 层输出图像上的一个像素. 常见 的子采样的方法有最大值合并、平均值合并及随机 合并,本文采取随机合并方法. 此外,降采样层只是 在 C1 层特征图的基础上进行降采样,不改变特征图 的数目. (4)C3 层:卷积层,对 S2 层输出的特征图进行特 征提取. 过程与 C1 层相似,不同的是本层取 16 个大 小为 2 伊 2 的卷积核完成特征提取,得到 16 个大小为 8 伊 8 的特征图. (5)S4 层:降采样层,对 C3 输出的特征图降采样, 缩放因子为 2. 与 S2 层原理类似,降采样后得到 16 个 大小为 4 伊 4 的特征图. (6)F5 层:全连接层,再次对特征进行映射. S4 层 共有 16 伊 4 伊 4 = 256 个神经元,每个神经元与 F5 层的 一个神经元连接,若设置 F5 层所含神经元数目为 30, 则 S4 层到 F5 层的连接可以视为将 S4 层的特征图映 射为 30 个 256 维的特征向量. (7)输出层:给出地磁导航方向适配性分析的结 论. 本文以“适合匹配冶 和“不适合匹配冶 对地磁方向 适配性进行划分,因此本层只设 1 个神经元,作为深度 神经网络的最终输出,当输出为 1 时表示“ 适合匹 配冶,为 0 时表示“不适合匹配冶. 卷积神经网络的学习训练分为两个阶段:预训练 与微调[15鄄鄄16] . 第一个阶段为从底层至顶层的非监督学 习,通过最小化重构误差获得待识别图像的隐层表示, 进而实现深度网络的初始化;第二个阶段为从顶层至 底层的监督学习,通过带标签数据集的训练,误差自顶 向下传播,对网络进行微调. 由于深度网络的初始化 是通过学习输入数据的结构特征得到,而非随机设置, 因此该初值更接近全局最优,可以取得更好的效果. 此外,卷积神经网络通过感受区域和权值共享机制有 效减少了网络需要训练的参数的个数,提高了网络的 运行效率. 2郾 2 卷积神经网络的参数设置 卷积神经网络的学习效果不仅与网络的结构有 关,还与学习过程中的学习率、惯性系数等参数相关. 因此,本文基于任务驱动法分析参数与实际问题需求 之间的关系,选取最符合问题要求的参数,并利用混合 粒子群算法( hybrid particle swarm optimization, HP鄄 SO)算法,通过设置合理的目标函数实现各个参数的 优选,提高卷积神经网络的分类精度. 优化方法的原 理如图 3. 如图,卷积神经网络的参数优化方法主要包括两 部分:粒子群的更新搜索和不同参数条件下代价函数 的求取. 本文以不同参数训练后卷积神经网络对测试 集的错分率(式(6))为代价函数,所选的卷积神经网 络训练参数应能使测试集的错分率最低. J = 移 2 i = 1 移 2 j = 1 N(PredictionC = 棕j 疑 RealC = 棕i) 移 2 i = 1 N(PredictionC = 棕i) 伊 100% (i屹j). (6) 其中,N( PredictionC = 棕j疑RealC = 棕i ) 表示样本类别 为 棕i而错将其分类为 棕j的样本数,N(RealC = 棕i)为实 际样本类别为 棕i的数目. 图 3 基于混合粒子群算法的卷积神经网络参数优化原理图 Fig. 3 Parameters optimization schematic diagram of CNN based on the HPSO algorithm 这里随机选取 800 个磁场方向适配特征图作为卷 积神经网络参数优化时的训练集,另取 100 个特征图 作为测试集,完成卷积神经网络训练参数的优选. 混 合粒子群算法的参数设置如下:学习率的搜索范围为 [0郾 1, 3],惯性系数的搜索范围为[0, 0郾 95],种群规 模为 15 和 30 次迭代过程中代价函数的变化如图 4 所示。 可见,仅通过两次迭代,测试集的错分代价函数值 就由 32% 降低到了 6% ,说明了卷积神经网络训练参 数优选方法的有效性,此时,学习率 琢 = 0郾 7896,惯性 系数 浊 = 0郾 3961. 至此,用于地磁导航方向适配性分析的卷积神经 网络得以确定,通过大量训练集进行网络学习和训练 后即可用于方向适配性的分析,以下通过仿真实验进 行验证. ·1587·
·1588· 工程科学学报，第39卷，第10期 35 12 。预测的适配性标签 ·实际的适配性标签 1.0 ①000 0 25 0.8 0.6 10 0.2 0 0 000m00 -0.2 10 1520 25 30 020406080100120140160180200 迭代次数 测试样本编号 图4混合粒子群算法代价函数变化曲线 图6卷积神经网络对测试集的适配性预测结果 Fig.4 Fitness curve of the HPSO algorithm cost function Fig.6 Test samples'suitability analysis results from the CNN 为了比较算法性能，这里将本文算法与文献[5] 3地磁导航方向适配性分析仿真实验 和[7]所用的经典的BP网络、支持向量机进行比较 本文以全球地磁异常场模型NDGC-720为基础， BP网络与支持向量机的方向适配特征在候选匹配区 通过Kriging插值法建立了经度范围[34E,39E],纬 磁场数据经Gabor滤波所得图像的基础上，由人工进 度范围[47.812N,53.812N]内Y分量的区域地磁异 行提取，见表1，这16个特征综合了地磁适配性分析 常场模型（图5）作为磁场参考，并考虑载体的运动约 相关文献-3，]的常用特征 束、测量设备的误差等因素将该区域划分为若干个大 表1人工提取的方向适配特征 小为20×20为磁场的方形区域作为候选匹配区，将各 Table I Artificial direction matching features for direction suitability a- 区域磁场视为图像进行归一化处理，再通过Gabor滤 nalysis 波和二维傅里叶变换得到其在6个方向上的方向适配 宏观特征 微观特征 特征图. 地磁粗糙度、东向粗糙 磁场均值、地磁标准差、度、北向粗糙度、粗糙方 磁场起伏 累加梯度均值、峰态系差比、标准差与均值之 2000 2000 数，偏态系数 比、坡度均值、坡度标准 1500 差、分形维数 1000 1000 磁场信息量地磁费歇信息量 地磁信息熵 500 1000 磁场唯一性相关系数 -2000 -500 为了保证能提取到有效特征，Gabor滤波实部、虚 52 38 -1000 纬度 50 3 -1500 部及幅值图像的上述特征都用于B即网络和支持向量 4834 经度 机的训练和测试.此外，为了减小BP网络随机初始权 图5NDGC-720模型Y分量的一个区域地磁场 值给分类结果带来的影响，统计10次BP网络的分类 Fig.5 Local magnetic map of the Y component of the NDGC-720 正确率并以其平均值作为网络最终的分类正确率.训 model 练过程中BP网络的隐层节点数设置为40，支持向量 在上述方向适配特征图中随机选择1000个样本 机的惩罚因子等参数通过遍历网格搜索进行优选，参 对作为训练集，其中500个样本来自类别“1”，500个 数搜索范围都设置为[-4,4].统计三种算法对测试 来自类别“0”：再在其余样本中取200个作为测试集， 集的分类正确率及平均训练一次网络所用的时间，如 其中“1”类样本和“0”类样本各为100.利用第2节设 表2所示： 计的卷积神经网络进行训练和预测，结果如图6所示： 从分类正确率的角度看，BP网络仅利用Gabor滤 由图可见，绝大部分的测试集都够能被正确分类 波幅值图的标准差进行适配性分析时，其准确率只有 经计算，测试集的分类正确率达到了92.0%，证明所 66.5%,而基于Gabor滤波幅值图像提取的16个统计 设计的卷积神经网络可以对不同方向特征图的适配性 特征和基于Gabor滤波实部和虚部图像的2×l6=32 进行评估. 个特征的准确率相当，分别为88.7%和89.0%，这是
工程科学学报,第 39 卷,第 10 期 图 4 混合粒子群算法代价函数变化曲线 Fig. 4 Fitness curve of the HPSO algorithm cost function 3 地磁导航方向适配性分析仿真实验 本文以全球地磁异常场模型 NDGC鄄鄄720 为基础, 通过 Kriging 插值法建立了经度范围[34毅E, 39毅E],纬 度范围[47郾 812毅N, 53郾 812毅N]内 Y 分量的区域地磁异 常场模型(图 5)作为磁场参考,并考虑载体的运动约 束、测量设备的误差等因素将该区域划分为若干个大 小为 20 伊 20 为磁场的方形区域作为候选匹配区,将各 区域磁场视为图像进行归一化处理,再通过 Gabor 滤 波和二维傅里叶变换得到其在 6 个方向上的方向适配 特征图. 图 5 NDGC鄄鄄720 模型 Y 分量的一个区域地磁场 Fig. 5 Local magnetic map of the Y component of the NDGC鄄鄄 720 model 在上述方向适配特征图中随机选择 1000 个样本 对作为训练集,其中 500 个样本来自类别“1冶,500 个 来自类别“0冶;再在其余样本中取 200 个作为测试集, 其中“1冶类样本和“0冶类样本各为 100. 利用第 2 节设 计的卷积神经网络进行训练和预测,结果如图 6 所示: 由图可见,绝大部分的测试集都够能被正确分类. 经计算,测试集的分类正确率达到了 92郾 0% ,证明所 设计的卷积神经网络可以对不同方向特征图的适配性 进行评估. 图 6 卷积神经网络对测试集的适配性预测结果 Fig. 6 Test samples蒺 suitability analysis results from the CNN 为了比较算法性能,这里将本文算法与文献[5] 和[7]所用的经典的 BP 网络、支持向量机进行比较. BP 网络与支持向量机的方向适配特征在候选匹配区 磁场数据经 Gabor 滤波所得图像的基础上,由人工进 行提取,见表 1,这 16 个特征综合了地磁适配性分析 相关文献[1鄄鄄3, 17]的常用特征. 表 1 人工提取的方向适配特征 Table 1 Artificial direction matching features for direction suitability a鄄 nalysis 宏观特征 微观特征 磁场起伏 磁场均值、地磁标准差、 累加梯度均值、峰态系 数、偏态系数 地磁粗糙度、东向粗糙 度、北向粗糙度、粗糙方 差比、标准差与均值之 比、坡度均值、坡度标准 差、分形维数 磁场信息量 地磁费歇信息量 地磁信息熵 磁场唯一性 相关系数 为了保证能提取到有效特征,Gabor 滤波实部、虚 部及幅值图像的上述特征都用于 BP 网络和支持向量 机的训练和测试. 此外,为了减小 BP 网络随机初始权 值给分类结果带来的影响,统计 10 次 BP 网络的分类 正确率并以其平均值作为网络最终的分类正确率. 训 练过程中 BP 网络的隐层节点数设置为 40,支持向量 机的惩罚因子等参数通过遍历网格搜索进行优选,参 数搜索范围都设置为[ - 4, 4]. 统计三种算法对测试 集的分类正确率及平均训练一次网络所用的时间,如 表 2 所示: 从分类正确率的角度看,BP 网络仅利用 Gabor 滤 波幅值图的标准差进行适配性分析时,其准确率只有 66郾 5% ,而基于 Gabor 滤波幅值图像提取的 16 个统计 特征和基于 Gabor 滤波实部和虚部图像的 2 伊 16 = 32 个特征的准确率相当,分别为88郾 7% 和89郾 0% ,这是 ·1588·