《工程科学学报》：基于一维卷积特征与手工特征融合的集成超限学习机心跳分类方法

工程科学学报 Chinese Journal of Engineering 基于一维卷积特征与手工特征融合的集成超限学习机心跳分类方法 许越凡肖文栋曹征涛 Ensemble extreme learning machine approach for heartbeat classification by fusing Id convolutional and handerafted features XU Yue-fan.XIAO Wen-dong,CAO Zheng-tao 引用本文： 许越凡，肖文栋，曹征涛.基于一维卷积特征与手工特征融合的集成超限学习机心跳分类方法[J.工程科学学报，2021， 43(9):1224-1232.doi:10.13374.issn2095-9389.2021.01.12.005 XU Yue-fan,XIAO Wen-dong,CAO Zheng-tao.Ensemble extreme learning machine approach for heartbeat classification by fusing 1d convolutional and handcrafted features[J].Chinese Journal of Engineering,2021,43(9):1224-1232.doi:10.13374/j.issn2095- 9389.2021.01.12.005 在线阅读View online::htps/ldoi.org10.13374/.issn2095-9389.2021.01.12.005 您可能感兴趣的其他文章 Articles you may be interested in 一维卷积神经网络特征提取下微震能级时序预测 Time series prediction of microseismic energy level based on feature extraction of one-dimensional convolutional neural network 工程科学学报.2021,43(7)：1003 https:doi.org10.13374.issn2095-9389.2020.11.22.001 基于极限学习机ELM的连俦坯质量预测 Quality prediction of the continuous casting bloom based on the extreme learning machine 工程科学学报.2018,40(7)：815htps:doi.org/10.13374j.issn2095-9389.2018.07.007 基于集成神经网络的剩余寿命预测 Remaining useful life prediction based on an integrated neural network 工程科学学报.2020,42(10：1372 https::1doi.org/10.13374j.issn2095-9389.2019.10.10.005 基于卷积神经网络的反无人机系统声音识别方法 Sound recognition method of an anti-UAV system based on a convolutional neural network 工程科学学报.2020,42(11：1516htps:1doi.org10.13374.issn2095-9389.2020.06.30.008 基于支持向量回归与极限学习机的高炉铁水温度预测 Prediction of blast furnace hot metal temperature based on support vector regression and extreme learning machine 工程科学学报.2021,43(4：569 https:doi.org10.13374.issn2095-9389.2020.05.28.001 卷积神经网络在矿区预测中的研究与应用 Research and application of convolutional neural network in mining area prediction 工程科学学报.2020,42(12：1597htps:/doi.org/10.13374.issn2095-9389.2020.01.02.001

基于一维卷积特征与手工特征融合的集成超限学习机心跳分类方法 许越凡 肖文栋 曹征涛 Ensemble extreme learning machine approach for heartbeat classification by fusing 1d convolutional and handcrafted features XU Yue-fan, XIAO Wen-dong, CAO Zheng-tao 引用本文: 许越凡, 肖文栋, 曹征涛. 基于一维卷积特征与手工特征融合的集成超限学习机心跳分类方法[J]. 工程科学学报, 2021, 43(9): 1224-1232. doi: 10.13374/j.issn2095-9389.2021.01.12.005 XU Yue-fan, XIAO Wen-dong, CAO Zheng-tao. Ensemble extreme learning machine approach for heartbeat classification by fusing 1d convolutional and handcrafted features[J]. Chinese Journal of Engineering, 2021, 43(9): 1224-1232. doi: 10.13374/j.issn2095- 9389.2021.01.12.005 在线阅读 View online: https://doi.org/10.13374/j.issn2095-9389.2021.01.12.005 您可能感兴趣的其他文章 Articles you may be interested in 一维卷积神经网络特征提取下微震能级时序预测 Time series prediction of microseismic energy level based on feature extraction of one-dimensional convolutional neural network 工程科学学报. 2021, 43(7): 1003 https://doi.org/10.13374/j.issn2095-9389.2020.11.22.001 基于极限学习机(ELM)的连铸坯质量预测 Quality prediction of the continuous casting bloom based on the extreme learning machine 工程科学学报. 2018, 40(7): 815 https://doi.org/10.13374/j.issn2095-9389.2018.07.007 基于集成神经网络的剩余寿命预测 Remaining useful life prediction based on an integrated neural network 工程科学学报. 2020, 42(10): 1372 https://doi.org/10.13374/j.issn2095-9389.2019.10.10.005 基于卷积神经网络的反无人机系统声音识别方法 Sound recognition method of an anti-UAV system based on a convolutional neural network 工程科学学报. 2020, 42(11): 1516 https://doi.org/10.13374/j.issn2095-9389.2020.06.30.008 基于支持向量回归与极限学习机的高炉铁水温度预测 Prediction of blast furnace hot metal temperature based on support vector regression and extreme learning machine 工程科学学报. 2021, 43(4): 569 https://doi.org/10.13374/j.issn2095-9389.2020.05.28.001 卷积神经网络在矿区预测中的研究与应用 Research and application of convolutional neural network in mining area prediction 工程科学学报. 2020, 42(12): 1597 https://doi.org/10.13374/j.issn2095-9389.2020.01.02.001

工程科学学报.第43卷.第9期：1224-1232.2021年9月 Chinese Journal of Engineering,Vol.43,No.9:1224-1232,September 2021 https://doi.org/10.13374/j.issn2095-9389.2021.01.12.005;http://cje.ustb.edu.cn 基于一维卷积特征与手工特征融合的集成超限学习机 心跳分类方法 许越凡12)，肖文栋12,3)，曹征涛4区 1)北京科技大学自动化学院，北京1000832)北京市工业波谱成像工程技术研究中心，北京1000833)北京科技大学顺德研究生院，顺 德5283994)空军特色医学中心，北京100142 ☒通信作者，E-mail:czhengtao@126.com 摘要融合手工特征和深度特征，提出了一种集成超限学习机心跳分类方法.手工提取的特征明确地表征了心电信号的特 定特性，如相邻心跳时间间隔反映了心跳信号的时域特性，小波系数反映了心跳信号的时频特性.同时设计了一维卷积神经 网络对心跳信号特征进行自动提取.基于超限学习机(Extreme leaning machine,ELM),将上述特征融合进行心跳分类.，由于 ELM初始参数的随机给定可能导致其性能不稳定，进一步提出了一种基于袋装(Bagging)策略的多个ELM集成方法，使分类 结果更加稳定且模型泛化能力更强.利用麻省理工心律失常公开数据集对所提方法进行了验证，分类准确率达到了99.02%， 实验结果也表明基于融合特征的分类准确率高于基于单独特征的分类准确率. 关键词心跳分类：特征融合：一维卷积神经网络：小波变换：集成超限学习机 分类号TP182 Ensemble extreme learning machine approach for heartbeat classification by fusing 1d convolutional and handcrafted features XU Yue-fan2).XIAO Wen-dong2),CAO Zheng-lao 1)School of Automation Electrical Engineering,University of Science and Technology Beijing,Beijing 100083,China 2)Beijing Engineering Research Center of Industrial Spectrum Imaging,Beijing 100083,China 3)Shunde Graduate School,University of Science and Technology Beijing,Shunde 528399,China 4)Air Force Medical Center,PLA,Beijing 100142,China Corresponding author,E-mail:czhengtao@126.com ABSTRACT Arrhythmia is a common cardiovascular disease whose occurrence is mainly related to two factors:cardiac pacing and conduction.Some severe arrhythmias can even threaten human life.An electrocardiogram (ECG)records the changes in electrical activity generated during each cardiac cycle of the heart,which can reflect the human cardiac health status and help diagnose arrhythmias.However,because of the brevity of conventional ECGs,arrhythmias,which occasionally occur in daily life,cannot be detected easily.Automatic ECG analysis-based long-term heartbeat monitoring is of great significance for the effective detection of accidental arrhythmias and then for taking indispensable measures to prevent cardiovascular diseases in time.An ensemble extreme learning machine (ELM)approach for heartbeat classification that fuses handcrafted features and deep features was proposed.The manually extracted features clearly characterize the heartbeat signal,where RR interval features reflect the time-domain characteristic, and the wavelet coefficient features reflect the time-frequency characteristic.A 1D convolutional neural network (1D CNN)was 收稿日期：2021-01-12 基金项目：国家重点研发计划课题资助项目(2017YFB1401203):佛山市科技创新专项资金资助项目(BK20AF005)

基于一维卷积特征与手工特征融合的集成超限学习机 心跳分类方法 许越凡1,2)，肖文栋1,2,3)，曹征涛4) 苣 1) 北京科技大学自动化学院，北京 100083    2) 北京市工业波谱成像工程技术研究中心，北京 100083    3) 北京科技大学顺德研究生院，顺 德 528399    4) 空军特色医学中心，北京 100142 苣通信作者，E-mail: czhengtao@126.com 摘    要    融合手工特征和深度特征，提出了一种集成超限学习机心跳分类方法. 手工提取的特征明确地表征了心电信号的特 定特性，如相邻心跳时间间隔反映了心跳信号的时域特性，小波系数反映了心跳信号的时频特性. 同时设计了一维卷积神经 网络对心跳信号特征进行自动提取. 基于超限学习机（Extreme leaning machine，ELM），将上述特征融合进行心跳分类. 由于 ELM 初始参数的随机给定可能导致其性能不稳定，进一步提出了一种基于袋装（Bagging）策略的多个 ELM 集成方法，使分类 结果更加稳定且模型泛化能力更强. 利用麻省理工心律失常公开数据集对所提方法进行了验证，分类准确率达到了 99.02%， 实验结果也表明基于融合特征的分类准确率高于基于单独特征的分类准确率. 关键词    心跳分类；特征融合；一维卷积神经网络；小波变换；集成超限学习机 分类号    TP182 Ensemble extreme learning machine approach for heartbeat classification by fusing 1d convolutional and handcrafted features XU Yue-fan1,2) ，XIAO Wen-dong1,2,3) ，CAO Zheng-tao4) 苣 1) School of Automation & Electrical Engineering, University of Science and Technology Beijing, Beijing 100083, China 2) Beijing Engineering Research Center of Industrial Spectrum Imaging, Beijing 100083, China 3) Shunde Graduate School, University of Science and Technology Beijing, Shunde 528399, China 4) Air Force Medical Center, PLA, Beijing 100142, China 苣 Corresponding author, E-mail: czhengtao@126.com ABSTRACT    Arrhythmia is a common cardiovascular disease whose occurrence is mainly related to two factors: cardiac pacing and conduction.  Some  severe  arrhythmias  can  even  threaten  human  life.  An  electrocardiogram  (ECG)  records  the  changes  in  electrical activity  generated  during  each  cardiac  cycle  of  the  heart,  which  can  reflect  the  human  cardiac  health  status  and  help  diagnose arrhythmias.  However,  because  of  the  brevity  of  conventional  ECGs,  arrhythmias,  which  occasionally  occur  in  daily  life,  cannot  be detected  easily.  Automatic  ECG  analysis-based  long-term  heartbeat  monitoring  is  of  great  significance  for  the  effective  detection  of accidental  arrhythmias  and  then  for  taking  indispensable  measures  to  prevent  cardiovascular  diseases  in  time.  An  ensemble  extreme learning  machine  (ELM)  approach  for  heartbeat  classification  that  fuses  handcrafted  features  and  deep  features  was  proposed.  The manually extracted features clearly characterize the heartbeat signal, where RR interval features reflect the time-domain characteristic, and  the  wavelet  coefficient  features  reflect  the  time –frequency  characteristic.  A  1D  convolutional  neural  network  (1D  CNN)  was 收稿日期: 2021−01−12 基金项目: 国家重点研发计划课题资助项目（2017YFB1401203）；佛山市科技创新专项资金资助项目（BK20AF005） 工程科学学报，第 43 卷，第 9 期：1224−1232，2021 年 9 月 Chinese Journal of Engineering, Vol. 43, No. 9: 1224−1232, September 2021 https://doi.org/10.13374/j.issn2095-9389.2021.01.12.005; http://cje.ustb.edu.cn

许越凡等：基于一维卷积特征与手工特征融合的集成超限学习机心跳分类方法 1225· designed to automatically extract deep features for heartbeat signals.These features were fused by an ELM for heartbeat classification. Because of the instability caused by the random assignment of ELM hidden layer parameters,the bagging ensemble strategy was introduced to integrate multiple ELMs to achieve stable classification performance and good generalization ability.The proposed approach was validated on the MIT-BIH arrhythmia public dataset.The classification accuracy reaches 99.02%,and the experimental results show that the performance of the proposed approach with fused features is better than those with only deep features and only handcrafted features. KEY WORDS heartbeat classification:feature fusion:ID convolutional neural network:wavelet transform:ensemble extreme learning machine 心律失常是由心脏电脉冲的频率、规律性、起 数据可直接输入到CNN中，利用CNN的逐层卷 搏位置或者传导的紊乱引起的四严重的心律失常 积操作，提取深层的特征，形成原始信号的抽象 甚至会威胁人类的生命.心电图(Electrocardiogram, 表示19 ECG)记录了人体心脏每一个心动周期所产生的 对于分类任务，往往通过在CNN网络最后一 电活动变化，是医生诊断心律失常的重要依据.由 层增加softmax层实现.CNN网络参数的训练一 于心律失常种类繁多，表现复杂，识别心律失常往 般采用反向传播(Back propagation,.BP)算法.但 往需要有丰富经验的医生.而且，常规的心电图检 是，该算法容易陷入局部最优，且非常耗时.为解 查仅仅持续几分钟，一些偶然发生的不规则心律 决上述问题，超限学习机(Extreme leaning machine, 失常并不能被检查出来.例如心源性猝死这种心 ELM)被提出，ELM是一种单隐含层前馈神经网 血管病，从发病到死亡持续时间短，基于传统的常 Single hidden layer feedforward neural network, 规心电图检查方式缺乏实时性，往往会耽误病人 SLFN),其中隐含层参数是随机生成的，不需要调 最好的治疗时间 整，而输出参数通过最小二乘法解析得到0因 动态心电图监测仪(Holter),是由Norman J. 此，其训练速度相比于BP算法是很快的.同时， Holter于1949年发明的可穿戴设备，它能够连续 ELM具有万能逼近能力，也就是说，随着隐含层节 监测病人日常生活中24h甚至更长时间的心脏电 点数的增加，网络能够以无限小的误差逼近非线 活动，这种长时程的记录有助于监测偶然发生的 性函数叫 心律失常.因此，基于动态心电图的自动心律失常 现有的心律失常分类方法往往只单独考虑手 分类方法对于及时发现和预防心血管疾病有着重 工提取的特征或者深度学习自动提取的特征，而 要的意义 融合深度卷积网络自动提取的特征和手工提取的 影响心电信号自动分类系统性能主要有两个 特征对心跳信号的表示更全面，并能产生更好的 因素，一是心电信号特征的提取，二是分类器的选 分类性能.为此，本文提出了一种融合手工特征和 择.特征提取的质量对心跳分类性能具有至关重 深度特征的集成超限学习机心跳分类方法.我们 要的影响，提取的特征对于不同类别的心律失常 设计了一种针对心跳信号分类的一维CNN结构， 应具有更好的离散性，而对同类心律失常具有相 利用其多层卷积操作提取了心电信号的深层特 似性.传统的心律失常分类方法使用手工提取的 征.另外又手工提取了心跳信号的特征，包括RR 特征，其特征是可解释的.之前的文献针对心电信 间期特征与小波系数特征.然后，我们融合这些特 号已经提取了各种各样的特征，包括相邻心跳时 征并将其作为ELM的输入，进行分类.为了弥补 间间隔特征(RR Intervals)P-引、形态学特征、小波 ELM随机生成参数而导致的分类结果不稳定的缺 特征5-6、高斯混合模型特征)和高阶统计量1等 陷，我们使用Bagging方法对多个ELM分类器进 对于心律失常分类任务，支持向量机四、k近邻© 行集成，得到更好的分类结果 等分类器已经被使用 1基本算法 近年来，由于自动提取特征的优势，学者们广 泛研究了卷积神经网络(Convolutional neural 11卷积神经网络 network,CNN),提出了各种不同结构的CNN-l, CNN是一类包含卷积计算且具有深度结构的 并成功应用于不同领域，包括人脸识别1切、语义 前馈神经网络，是深度学习的代表算法之一，不同 分割等.这种方法的特点是，具有原始结构的 维度的输入数据能够用不同类型的卷积来进行操

designed to automatically extract deep features for heartbeat signals. These features were fused by an ELM for heartbeat classification. Because  of  the  instability  caused  by  the  random  assignment  of  ELM  hidden  layer  parameters,  the  bagging  ensemble  strategy  was introduced  to  integrate  multiple  ELMs  to  achieve  stable  classification  performance  and  good  generalization  ability.  The  proposed approach was validated on the MIT-BIH arrhythmia public dataset. The classification accuracy reaches 99.02%, and the experimental results show that the performance of the proposed approach with fused features is better than those with only deep features and only handcrafted features. KEY  WORDS    heartbeat  classification； feature  fusion； 1D  convolutional  neural  network； wavelet  transform； ensemble  extreme learning machine 心律失常是由心脏电脉冲的频率、规律性、起 搏位置或者传导的紊乱引起的[1] . 严重的心律失常 甚至会威胁人类的生命. 心电图（Electrocardiogram, ECG）记录了人体心脏每一个心动周期所产生的 电活动变化，是医生诊断心律失常的重要依据. 由 于心律失常种类繁多，表现复杂，识别心律失常往 往需要有丰富经验的医生. 而且，常规的心电图检 查仅仅持续几分钟，一些偶然发生的不规则心律 失常并不能被检查出来. 例如心源性猝死这种心 血管病，从发病到死亡持续时间短，基于传统的常 规心电图检查方式缺乏实时性，往往会耽误病人 最好的治疗时间. 动态心电图监测仪（ Holter），是由 Norman J. Holter 于 1949 年发明的可穿戴设备，它能够连续 监测病人日常生活中 24 h 甚至更长时间的心脏电 活动，这种长时程的记录有助于监测偶然发生的 心律失常. 因此，基于动态心电图的自动心律失常 分类方法对于及时发现和预防心血管疾病有着重 要的意义. 影响心电信号自动分类系统性能主要有两个 因素，一是心电信号特征的提取，二是分类器的选 择. 特征提取的质量对心跳分类性能具有至关重 要的影响，提取的特征对于不同类别的心律失常 应具有更好的离散性，而对同类心律失常具有相 似性. 传统的心律失常分类方法使用手工提取的 特征，其特征是可解释的. 之前的文献针对心电信 号已经提取了各种各样的特征，包括相邻心跳时 间间隔特征（RR Intervals） [2−3]、形态学特征[4]、小波 特征[5−6]、高斯混合模型特征[7] 和高阶统计量[8] 等. 对于心律失常分类任务，支持向量机[9]、k 近邻[10] 等分类器已经被使用. 近年来，由于自动提取特征的优势，学者们广 泛 研 究 了 卷 积 神 经 网 络 （ Convolutional  neural network，CNN），提出了各种不同结构的 CNN[11−14] ， 并成功应用于不同领域，包括人脸识别[15−17]、语义 分割[18] 等. 这种方法的特点是，具有原始结构的 数据可直接输入到 CNN 中，利用 CNN 的逐层卷 积操作，提取深层的特征，形成原始信号的抽象 表示[19] . 对于分类任务，往往通过在 CNN 网络最后一 层增加 softmax 层实现. CNN 网络参数的训练一 般采用反向传播（Back propagation，BP）算法. 但 是，该算法容易陷入局部最优，且非常耗时. 为解 决上述问题，超限学习机（Extreme leaning machine， ELM）被提出. ELM 是一种单隐含层前馈神经网 络 （ Single  hidden  layer  feedforward  neural  network， SLFN），其中隐含层参数是随机生成的，不需要调 整，而输出参数通过最小二乘法解析得到[20] . 因 此，其训练速度相比于 BP 算法是很快的. 同时， ELM 具有万能逼近能力，也就是说，随着隐含层节 点数的增加，网络能够以无限小的误差逼近非线 性函数[21] . 现有的心律失常分类方法往往只单独考虑手 工提取的特征或者深度学习自动提取的特征，而 融合深度卷积网络自动提取的特征和手工提取的 特征对心跳信号的表示更全面，并能产生更好的 分类性能. 为此，本文提出了一种融合手工特征和 深度特征的集成超限学习机心跳分类方法. 我们 设计了一种针对心跳信号分类的一维 CNN 结构， 利用其多层卷积操作提取了心电信号的深层特 征. 另外又手工提取了心跳信号的特征，包括 RR 间期特征与小波系数特征. 然后，我们融合这些特 征并将其作为 ELM 的输入，进行分类. 为了弥补 ELM 随机生成参数而导致的分类结果不稳定的缺 陷，我们使用 Bagging 方法对多个 ELM 分类器进 行集成，得到更好的分类结果. 1    基本算法 1.1    卷积神经网络 CNN 是一类包含卷积计算且具有深度结构的 前馈神经网络，是深度学习的代表算法之一. 不同 维度的输入数据能够用不同类型的卷积来进行操 许越凡等： 基于一维卷积特征与手工特征融合的集成超限学习机心跳分类方法 · 1225 ·

·1226 工程科学学报，第43卷，第9期 作.二维卷积神经网络(2DCNN)由于其出色的自 动特征提取功能已经成功应用于图像分类2-2] 为了同时从空间和时间维度提取特征，针对三 维监控视频数据的三维卷积神经网络(3DCNN) i 被提出用来进行人类动作识别在我们的研 (a,b) 究中，心跳信号本质上是一维信号，为了避免从 一维到二维的转换，保留数据的原始结构，我们设 计了一种针对心跳信号的一维卷积神经网络(1D CNN). Input layer Hidden layer Output layer 在ID CNN中，卷积层的一维卷积操作用来从 图1ELM的基本结构 局部邻域提取特征.特征映射的实现过程是由卷 Fig.1 Basic structure of an extreme learning machine(ELM) 积核扫描其输入，然后将其结果存储到相应的特 分布随机生成，那么隐含层输出矩阵H可以由如 征映射的位置，卷积核大小相对于前一层的特征 下公式计算得到 映射往往较小，而且卷积层会有多个卷积核，每一 g(a1"x1+b1)·g(aL·x1+bL) 个都有不同的参数，这样可以提取多个局部特征， H= (2) 组成一系列的特征映射.假设在第i层的第j个特 g(a1…xN+b1)· 8(aL-XN+bL) INXL 征映射，在位置1的单元的值表示为其由下式 其中，g)为激活函数，a和b:为隐含层中第i个节 计算 点的参数.原始数据从输入层到隐含层的传播实 D ReLU (1) 际上是将数据从n维空间映射到了L维空间.隐 ==0 含层输出矩阵和网络输出矩阵之间的关系写成矩 其中，ReLU()为线性整流单元(Rectified linear 阵形式为 unit);bj为对于第j个特征映射的偏置；D为第 HB=T (3) i-1)层的通道数；d为通道的序号；wm为第i层 其中， 第j个特征映射的卷积核在位置s处的值，且该卷 积核连接到第-1)层的第m个特征映射；S;为卷 B 、 BLI .. BLm ILxm INI ..INm INxm 积核的大小 (4) 在卷积神经网络的子采样层中，特征映射的 在实际中训练数据的数量与隐含层节点数量 大小由对上一个卷积层的特征映射的局部邻域进 往往不相等，也就是说，隐含层输出矩阵H并不是 行池化而减少.CNN结构通过多个卷积和子采样 一个方阵，因此等式(3)的最小二乘解不唯一 堆叠而成 Bartlett指出，对于前馈神经网络，网络权重越小， 1.2超限学习机 该网络的泛化性能越好阿因此，输出参数β的最 ELM是一个具有单隐含层的前馈神经网络， 小范数的最小二乘解为 它包含输入层、隐含层、输出层共三层，其基本结 构如图1所示.ELM隐含层参数是随机生成的，输 A-HT (5) 出层参数基于最小二乘法解析得到.这种训练方 其中，H为H的Moore--Penrose广义逆矩阵 式是免迭代的，避免了常规反向传播训练会陷入 为了避免病态问题，根据岭回归理论，添加一 局部最优的缺点.黄广斌等)证明了ELM具有万 个正数C到矩阵HTH或者HHT的对角线可解决 能逼近能力.具体地，给定任何有界非常数的分段 这样，ELM的求解问题变为 连续激活函数，一个隐含层参数随机生成的网络， Minimize :=C (6) 仅仅通过调整其输出参数就能够以任意小的误差 逼近目标函数 然后，对B求偏导，并让其等于零，那么ELM的 假定我们有N个已标注的样本，其中 输出参数即可由下式求得 i=1,2,…,N且x:∈R”.对于有L个隐含层神经元的 (7) 广义SLFN,由于隐含层参数是根据任意连续概率

作. 二维卷积神经网络（2D CNN）由于其出色的自 动特征提取功能已经成功应用于图像分类[22−23] . 为了同时从空间和时间维度提取特征，针对三 维监控视频数据的三维卷积神经网络（3D CNN） 被提出用来进行人类动作识别[24] . 在我们的研 究中，心跳信号本质上是一维信号，为了避免从 一维到二维的转换，保留数据的原始结构，我们设 计了一种针对心跳信号的一维卷积神经网络（1D CNN）. v t i j 在 1D CNN 中，卷积层的一维卷积操作用来从 局部邻域提取特征. 特征映射的实现过程是由卷 积核扫描其输入，然后将其结果存储到相应的特 征映射的位置. 卷积核大小相对于前一层的特征 映射往往较小，而且卷积层会有多个卷积核，每一 个都有不同的参数，这样可以提取多个局部特征， 组成一系列的特征映射. 假设在第 i 层的第 j 个特 征映射，在位置 t 的单元的值表示为 ，其由下式 计算 v t i j = ReLU   bi j + ∑ D d=1 ∑ S i s=0 w s i jmv t+s (i−1)d   （1） ReLU(·) bi j (i−1) w s i jm (i−1) S i 其 中 ， 为 线 性 整 流 单 元 （ Rectified  linear unit） ； 为对于第 j 个特征映射的偏置 ； D 为第 层的通道数；d 为通道的序号； 为第 i 层 第 j 个特征映射的卷积核在位置 s 处的值，且该卷 积核连接到第 层的第 m 个特征映射； 为卷 积核的大小. 在卷积神经网络的子采样层中，特征映射的 大小由对上一个卷积层的特征映射的局部邻域进 行池化而减少. CNN 结构通过多个卷积和子采样 堆叠而成. 1.2    超限学习机 ELM 是一个具有单隐含层的前馈神经网络， 它包含输入层、隐含层、输出层共三层，其基本结 构如图 1 所示. ELM 隐含层参数是随机生成的，输 出层参数基于最小二乘法解析得到. 这种训练方 式是免迭代的，避免了常规反向传播训练会陷入 局部最优的缺点. 黄广斌等[21] 证明了 ELM 具有万 能逼近能力. 具体地，给定任何有界非常数的分段 连续激活函数，一个隐含层参数随机生成的网络， 仅仅通过调整其输出参数就能够以任意小的误差 逼近目标函数. xi i = 1,2,··· ,N xi ∈ R n 假 定 我 们 有 N 个 已 标 注 的 样 本 ， 其 中 且 . 对于有 L 个隐含层神经元的 广义 SLFN，由于隐含层参数是根据任意连续概率 分布随机生成，那么隐含层输出矩阵 H 可以由如 下公式计算得到 H =   g(a1 · x1 +b1) · · · g(aL · x1 +bL) . . . . . . . . . g(a1 · xN +b1) · · · g(aL · xN +bL)   N×L （2） 其中， g(·) 为激活函数， ai 和 bi 为隐含层中第 i 个节 点的参数. 原始数据从输入层到隐含层的传播实 际上是将数据从 n 维空间映射到了 L 维空间. 隐 含层输出矩阵和网络输出矩阵之间的关系写成矩 阵形式为 Hβ = T （3） 其中， β =   β11 ... β1m . . . . . . . . . βL1 ... βLm   L×m , T =   t11 ... t1m . . . . . . . . . tN1 ... tNm   N×m （4） β 在实际中训练数据的数量与隐含层节点数量 往往不相等，也就是说，隐含层输出矩阵 H 并不是 一个方阵 ，因此等式（ 3）的最小二乘解不唯一. Bartlett 指出，对于前馈神经网络，网络权重越小， 该网络的泛化性能越好[25] . 因此，输出参数 的最 小范数的最小二乘解为 ∧ β = H †T （5） 其中， H† 为 H 的 Moore−Penrose 广义逆矩阵. C HTH HHT 为了避免病态问题，根据岭回归理论，添加一 个正数 到矩阵 或者 的对角线可解决. 这样，ELM 的求解问题变为 Minimize : l = 1 2 ||β||2 + 1 2 C||T − Hβ||2 （6） 然后，对 β 求偏导，并让其等于零，那么 ELM 的 输出参数即可由下式求得 β = ( I C + H TH )−1 H TT （7） 1 1 i L 1 m Input layer Hidden layer Output layer n x1 xn βL βi β1 tm t1 (ai , bi ) 图 1    ELM 的基本结构 Fig.1    Basic structure of an extreme learning machine (ELM) · 1226 · 工程科学学报，第 43 卷，第 9 期

许越凡等：基于一维卷积特征与手工特征融合的集成超限学习机心跳分类方法 1227 2提出的方法 号分割为单个的心跳片段.特征提取阶段分为手 工特征提取和深度特征提取.手工特征包括时域 本节将对所提出的特征融合集成ELM心跳分 特征以及时频特征.同时使用ID CNN自动提取 类方法进行详细论述 心跳信号的深度特征.我们融合手工提取的特征 2.1总体结构 和深度特征，将其作为一个心跳信号的新的特征 图2展示了所提方法的总体结构，总共包括 表示.在心跳分类阶段，为了提升ELM分类性能 4个阶段，分别为ECG信号预处理、心跳分割、特 的稳定性，采用Bagging集成方法组合多个ELM 征提取和心跳分类.在预处理阶段消除了ECG信 分类器，最后以多数投票的方式得到最终的分类 号的基线漂移.在心跳分割阶段将连续的ECG信 结果 ECG signals 300 250 200 150 100 50 -50 500 1000 1500 2000 Sample index Preprocessing 250 200 150 100 Heartbeat 入A 50 segmentation Heartbeat signal 0 50100150200 Sample index Handcrafted feature Deep feature extraction extraction Time-domain feature Time-frequency ID CNN feature extraction feature extraction extraction ELM 1 ELM2 ELM Ensemble ELM Majority voting Heartbeat class 图2心跳分类算法总体结构 Fig.2 Overall structure of the heartbeat classification algorithm 2.2手工特征提取 多分辨分析的特点，而且在时频两域都具有表征 2.2.1RR间期特征提取 信号局部特征的能力.因此，适合于分析非平稳的 RR间期特征反应了心跳在时间域的特性.总 信号和提取信号的局部特征.离散小波变换 共4类RR间期信息被计算：前RR,即当前心跳与 (Discrete wavelet transform,DWT)是小波变换的一 前一个心跳的R峰的时间间隔；后RR,即当前心 种，它是将尺度参数和平移参数离散化.在本文 跳与后一个心跳的R峰的时间间隔：短期RR间 中，我们使用DWT作为特征提取器，提取心跳信 期，当前心跳的前十个RR间期的平均值；长期 号的局部特征.小波类型选择Daubechies1小波， RR间期.当前心跳的前五分钟RR间期的平均值. 小波分解层数为五层.小波分解第五层的近似系 2.2.2时频特征提取 数和细节系数被用来作为一个心跳片段的时频 小波变换是一种时间-频率分析方法，它具有 特征

2    提出的方法 本节将对所提出的特征融合集成 ELM 心跳分 类方法进行详细论述. 2.1    总体结构 图 2 展示了所提方法的总体结构，总共包括 4 个阶段，分别为 ECG 信号预处理、心跳分割、特 征提取和心跳分类. 在预处理阶段消除了 ECG 信 号的基线漂移. 在心跳分割阶段将连续的 ECG 信 号分割为单个的心跳片段. 特征提取阶段分为手 工特征提取和深度特征提取. 手工特征包括时域 特征以及时频特征. 同时使用 1D CNN 自动提取 心跳信号的深度特征. 我们融合手工提取的特征 和深度特征，将其作为一个心跳信号的新的特征 表示. 在心跳分类阶段，为了提升 ELM 分类性能 的稳定性，采用 Bagging 集成方法组合多个 ELM 分类器，最后以多数投票的方式得到最终的分类 结果. Voltage/mV 300 250 200 150 100 50 0 1000 1500 2000 500 0 −50 Preprocessing Heartbeat segmentation Time-domain feature extraction Time-frequency feature extraction 1D CNN feature extraction Deep feature extraction ECG signals ELM 1 ELM 2 ... ELM n Ensemble ELM Heartbeat signal Majority voting Heartbeat class Handcrafted feature extraction Voltage/mV Sample index Sample index 250 200 200 150 150 100 100 50 50 0 0 图 2    心跳分类算法总体结构 Fig.2    Overall structure of the heartbeat classification algorithm 2.2    手工特征提取 2.2.1    RR 间期特征提取 RR 间期特征反应了心跳在时间域的特性. 总 共 4 类 RR 间期信息被计算：前 RR，即当前心跳与 前一个心跳的 R 峰的时间间隔；后 RR，即当前心 跳与后一个心跳的 R 峰的时间间隔；短期 RR 间 期，当前心跳的前十个 RR 间期的平均值；长期 RR 间期，当前心跳的前五分钟 RR 间期的平均值. 2.2.2    时频特征提取 小波变换是一种时间−频率分析方法，它具有 多分辨分析的特点，而且在时频两域都具有表征 信号局部特征的能力. 因此，适合于分析非平稳的 信号和提取信号的局部特征 . 离散小波变换 （Discrete wavelet transform，DWT）是小波变换的一 种，它是将尺度参数和平移参数离散化. 在本文 中，我们使用 DWT 作为特征提取器，提取心跳信 号的局部特征. 小波类型选择 Daubechies 1 小波， 小波分解层数为五层. 小波分解第五层的近似系 数和细节系数被用来作为一个心跳片段的时频 特征. 许越凡等： 基于一维卷积特征与手工特征融合的集成超限学习机心跳分类方法 · 1227 ·