第17卷第3期 智能系统学报 Vol.17 No.3 2022年5月 CAAI Transactions on Intelligent Systems May 2022 D0:10.11992/tis.202101002 网络出版地址：https:/kns.cnki.net/kcms/detail/23.1538.TP.20220322.1652.004.html 支持向量机与神经网络相结合的板带凸度预测 刘明华，张强 (西安建筑科技大学治金工程学院，陕西西安710055) 摘要：为提高热轧生产过程中板带凸度的预测精度，提出了一种将粒子群优化算法(particle swarm optimiza- tion,PSO)、支持向量回归(support vector regression,.SVR)和BP神经网络(back propagation neural network, BPNN)相结合的板带凸度预测模型。采用PSO算法优化SVR模型的参数，建立了PSO-SVR板带凸度预测模 型.提出采用BPNN建立板带凸度偏差模型与PSO-SVR板带凸度模型相结合的方法对板带凸度进行预测。采 用现场数据对模型的预测精度进行验证，并采用统计指标评价模型的综合性能。仿真结果表明，与PSO-SV、 SVR、BPNN和GA-SVR模型进行比较，PSO-SVR+BPNN模型具有较高的学习能力和泛化能力，并且比GA- SVR模型运算时间短。 关键词：支持向量回归：神经网络；板带凸度：粒子群优化算法；热轧板带过程：机器学习；预测；大数据 中图分类号：TP16文献标志码：A文章编号：1673-4785(2022)03-0506-09 中文引用格式：刘明华，张强.支持向量机与神经网络相结合的板带凸度预测J.智能系统学报，2022,17(3)：506-514 英文引用格式：LIU Minghua,,ZHANG Qiang.Prediction of strip crown based on support vector machine and neural networkJl, CAAI transactions on intelligent systems,2022,17(3):506-514. Prediction of strip crown based on support vector machine and neural network LIU Minghua,ZHANG Qiang (School of Metallurgical Engineering,Xi'an University of Architecture and Technology,Xi'an 710055,China) Abstract:To improve the prediction accuracy of strip crown in a hot-rolled production process,a modeling method combining particle swarm optimization(PSO)algorithm,support vector regression(SVR),and BP neural network (BPNN)is proposed.The PSO algorithm was employed to optimize the parameters of the SVR model,and the PSO-SVR strip crown prediction model was established.A method combining the BPNN strip crown deviation model with the PSO-SVR strip crown model is also proposed to predict the strip crown.The prediction accuracy of the model was validated with field experimental data,and the comprehensive performance of the model was evaluated using stat- istical indicators.The simulation results show that in contrast to the PSO-SVR,SVR,BPNN,and GA-SVR models,the PSO-SVR+BPNN model exhibits a greater learning capacity and generalization ability.The computing time of the PSO-SVR+BPNN model is also less than that of the GA-SVR model. Keywords:support vector regression;neural network;strip crown;particle swarm optimization algorithm;hot strip rolling process,machine learning:prediction;big data 随着社会经济的发展和科学技术的进步，板带轧制是一个多变量、强耦合、非线性和时变性 带材是工农业生产中重要的金属材料，人们对板 的过程，而按照传统理论方法建立的板带凸度预 带材的质量要求越来越高。板形是板带轧制的 测模型)，在建模中假设和简化了轧制过程的诸 关键技术指标，主要包括板带凸度和平直度。目 多实际因素（将一个复杂非线性问题变成多个线 前，板带凸度一直存在严重的问题，其不良凸度 性问题等)，导致模型精确度较差，不能满足高精 会直接造成巨大的资源浪费或其他潜在风险。板 度轧制技术的要求。因此，迫切需要一种新的 收稿日期：2021-01-02.网络出版日期：2022-03-23. 方法建立具有高精度预测能力的板带凸度模型。 通信作者：刘明华.E-mail:Imhxauat(@I63.com. 与传统理论方法不同，人工智能方法是模
DOI: 10.11992/tis.202101002 网络出版地址: https://kns.cnki.net/kcms/detail/23.1538.TP.20220322.1652.004.html 支持向量机与神经网络相结合的板带凸度预测 刘明华，张强 （西安建筑科技大学 冶金工程学院, 陕西 西安 710055） 摘 要：为提高热轧生产过程中板带凸度的预测精度，提出了一种将粒子群优化算法 (particle swarm optimization, PSO)、支持向量回归 (support vector regression, SVR) 和 BP 神经网络 (back propagation neural network, BPNN) 相结合的板带凸度预测模型。采用 PSO 算法优化 SVR 模型的参数，建立了 PSO-SVR 板带凸度预测模 型，提出采用 BPNN 建立板带凸度偏差模型与 PSO-SVR 板带凸度模型相结合的方法对板带凸度进行预测。采 用现场数据对模型的预测精度进行验证，并采用统计指标评价模型的综合性能。仿真结果表明，与 PSO-SVR、 SVR、BPNN 和 GA-SVR 模型进行比较，PSO-SVR+BPNN 模型具有较高的学习能力和泛化能力，并且比 GASVR 模型运算时间短。 关键词：支持向量回归；神经网络；板带凸度；粒子群优化算法；热轧板带过程；机器学习；预测；大数据 中图分类号：TP16 文献标志码：A 文章编号：1673−4785(2022)03−0506−09 中文引用格式：刘明华, 张强. 支持向量机与神经网络相结合的板带凸度预测 [J]. 智能系统学报, 2022, 17(3): 506–514. 英文引用格式：LIU Minghua, ZHANG Qiang. Prediction of strip crown based on support vector machine and neural network[J]. CAAI transactions on intelligent systems, 2022, 17(3): 506–514. Prediction of strip crown based on support vector machine and neural network LIU Minghua，ZHANG Qiang (School of Metallurgical Engineering, Xi’an University of Architecture and Technology, Xi’an 710055, China) Abstract: To improve the prediction accuracy of strip crown in a hot-rolled production process, a modeling method combining particle swarm optimization (PSO) algorithm, support vector regression (SVR), and BP neural network (BPNN) is proposed. The PSO algorithm was employed to optimize the parameters of the SVR model, and the PSO–SVR strip crown prediction model was established. A method combining the BPNN strip crown deviation model with the PSO–SVR strip crown model is also proposed to predict the strip crown. The prediction accuracy of the model was validated with field experimental data, and the comprehensive performance of the model was evaluated using statistical indicators. The simulation results show that in contrast to the PSO–SVR, SVR, BPNN, and GA-SVR models, the PSO –SVR+BPNN model exhibits a greater learning capacity and generalization ability. The computing time of the PSO–SVR+BPNN model is also less than that of the GA-SVR model. Keywords: support vector regression; neural network; strip crown; particle swarm optimization algorithm; hot strip rolling process; machine learning; prediction; big data 随着社会经济的发展和科学技术的进步，板 带材是工农业生产中重要的金属材料，人们对板 带材的质量要求越来越高[1]。板形是板带轧制的 关键技术指标，主要包括板带凸度和平直度。目 前，板带凸度一直存在严重的问题，其不良凸度 会直接造成巨大的资源浪费或其他潜在风险[2]。板 带轧制是一个多变量、强耦合、非线性和时变性 的过程，而按照传统理论方法建立的板带凸度预 测模型[3] ，在建模中假设和简化了轧制过程的诸 多实际因素（将一个复杂非线性问题变成多个线 性问题等），导致模型精确度较差，不能满足高精 度轧制技术的要求[4]。因此，迫切需要一种新的 方法建立具有高精度预测能力的板带凸度模型。 与传统理论方法不同，人工智能方法[5] 是模 收稿日期：2021−01−02. 网络出版日期：2022−03−23. 通信作者：刘明华. E-mail: lmhxauat@163.com. 第 17 卷第 3 期 智 能 系 统 学 报 Vol.17 No.3 2022 年 5 月 CAAI Transactions on Intelligent Systems May 2022
·507· 刘明华，等：支持向量机与神经网络相结合的板带凸度预 第3期 拟人脑处理真实发生的过程，基于实验数据对目 为提高PSO-SVR模型的预测精度，本文提出 标值预测，可防止假设脱离实际和简化过于粗糙 采用BPNN建立板带凸度偏差模型与PSO-SVR 而产生的误差。随着人工智能技术的发展，许多 板带凸度模型相结合的方法对板带凸度进行预 学者开始将人工神经网络(ANN)-刀和支持向量 测。采用现场数据验证模型的预测性能，结果表 机(SVM)8引入轧制领域。针对采用传统理论 明，与PSO-SVR、SVR、BPNN和GA-SVR模型比 方法建立板带凸度模型考虑影响参数较少导致传 较，PSO-SVR+BPNN模型具有较高的学习能力和 统数学模型预测误差大的问题，方敏提出一种 泛化能力。 BP神经网络(BPNN)与有限元(FEM)模型相结合 的方法对板带凸度进行预测，将FEM仿真结果用 1建立PSO-SVR板带凸度预测模型 于训练和测试BPNN模型。仿真结果表明，BPNN 1.1板凸度的基本概念 与FEM相结合的板带凸度预测模型的预测精度 板凸度是指板带材横向的断面厚度差，即板 远高于传统数学模型的预测精度。针对传统BPNN 带的中间与边部厚度之差，板凸度的计算公式为 预测模型存在易陷入局部极小值点和收敛速度慢 等问题，朱永波等山采用自适应变异粒子群算法 C=h-+ 2 优化BPNN模型的权值和阈值，将已优化的BPNN 式中：C为板带凸度；h为中心厚度；h和h为边部 模型用于预测板带凸度。仿真结果表明，该模型 代表点厚度。 预测效果与传统BPNN模型相比有所改善。在以 板带凸度示意图如图1所示，其中e表示板材边 上研究中，ANN已经广泛应用于轧制领域且该模 部代表点距板材边上之间的距离，通常取e=25mm 型的预测精度高于传统数学模型的预测精度，但 或e=40mm处，本文分析中均取e=40mm。 它也有一些不足之处。ANN以传统统计学为基 础，它的内容是样本无穷大时的渐进理论，但现 实中样本往往是有限的，采用ANN方法建立的 板带凸度预测模型往往会产生过拟合现象。因 此，急需一种在样本有限的情况下，也可以实现 较高泛化能力的板带凸度模型。 与ANN方法不同，SVM是一种基于结构风 图1板带凸度示意图 Fig.1 Schematic diagram of strip crown 险最小化原理的算法，保证了该模型具有良好的 泛化能力。SVM以统计学理论为基础，根据有 1.2实验数据的采集与处理 限的样本在模型的复杂性和学习能力之间寻求最 从某中厚板厂的热轧生产线上获取670组 佳折中，以期获得最好的泛化能力3。支持向 Q355B板带轧制数据，作为实验样本，如表1所 量回归(SVR)是SVM在回归条件下的应用。Fei 示。选择轧前板材厚度H、轧后板材厚度H、轧 等6提出在样本有限的条件下，采用ANN方法 前温度T。、轧后温度T、轧前板材宽度B、轧制力 不适合建立预测模型，而采用SVR方法建立的预 F、轧制力矩P、轧制速度v、摩擦系数μ和轧前板 测模型具有较高的泛化性能。Wu等)在实验数 材凸度C作为输入变量，并选择轧后板材凸度 据有限的情况下，为提高SVR轧制力模型的预测 C作为输出变量。 精度，采用粒子群优化算法(PSO)优化SVR模型 从工厂收集的样本包含异常和嘈杂的数据， 参数，结果表明，PSO-SVR模型相比SVR和BPNN 会降低模型的准确度，为获得真实的分析结果， 模型具有较高的预测精度，且SVR比BPNN模型 利用T检验准则处理样本，舍去34组异常数据， 预测精度高。综上可得，在样本数据有限的情况 最终选择636组数据作为实验数据，其中500组 下，采用SVR建立模型可以避免ANN建立模型 数据作为训练集，剩余数据作为测试集。不同的 所产生的过拟合现象，采用PSO算法1剧可以提 影响因素通常具有数量级差异，将会降低模型的 高SVR模型的预测精度，即PSO-SVR模型具有 预测精度和训练速度。在建模之前，实验数据进 较高的泛化能力，但另一方面PSO算法优化参数 行归一化为[-1,1，归一化公式为 虽可以有效保证模型参数的有效性，但板带轧制 x=2×&-min(x) -1 过程干扰因素较多、测量数据存在误差和数据处 max(x;)-min(x) 理不当等因素都会导致输入数据存在偏差，使PSO 式中max(x)和min(c)分别为序列的最大值和最小 SVR模型难以准确地预测板带凸度。 值，i=1,2,…,l
拟人脑处理真实发生的过程，基于实验数据对目 标值预测，可防止假设脱离实际和简化过于粗糙 而产生的误差。随着人工智能技术的发展，许多 学者开始将人工神经网络 (ANN)[6-7] 和支持向量 机 (SVM)[8-9] 引入轧制领域。针对采用传统理论 方法建立板带凸度模型考虑影响参数较少导致传 统数学模型预测误差大的问题，方敏[10] 提出一种 BP 神经网络 (BPNN) 与有限元 (FEM) 模型相结合 的方法对板带凸度进行预测，将 FEM 仿真结果用 于训练和测试 BPNN 模型。仿真结果表明，BPNN 与 FEM 相结合的板带凸度预测模型的预测精度 远高于传统数学模型的预测精度。针对传统 BPNN 预测模型存在易陷入局部极小值点和收敛速度慢 等问题，朱永波等[11] 采用自适应变异粒子群算法 优化 BPNN 模型的权值和阈值，将已优化的 BPNN 模型用于预测板带凸度。仿真结果表明，该模型 预测效果与传统 BPNN 模型相比有所改善。在以 上研究中，ANN 已经广泛应用于轧制领域且该模 型的预测精度高于传统数学模型的预测精度，但 它也有一些不足之处。ANN 以传统统计学为基 础，它的内容是样本无穷大时的渐进理论，但现 实中样本往往是有限的，采用 ANN 方法建立的 板带凸度预测模型往往会产生过拟合现象。因 此，急需一种在样本有限的情况下，也可以实现 较高泛化能力的板带凸度模型。 与 ANN 方法不同，SVM 是一种基于结构风 险最小化原理的算法，保证了该模型具有良好的 泛化能力[12]。SVM 以统计学理论为基础，根据有 限的样本在模型的复杂性和学习能力之间寻求最 佳折中，以期获得最好的泛化能力[13-14]。支持向 量回归（SVR）是 SVM 在回归条件下的应用[15]。Fei 等 [16] 提出在样本有限的条件下，采用 ANN 方法 不适合建立预测模型，而采用 SVR 方法建立的预 测模型具有较高的泛化性能。Wu 等 [17] 在实验数 据有限的情况下，为提高 SVR 轧制力模型的预测 精度，采用粒子群优化算法（PSO）优化 SVR 模型 参数，结果表明，PSO-SVR 模型相比 SVR 和 BPNN 模型具有较高的预测精度，且 SVR 比 BPNN 模型 预测精度高。综上可得，在样本数据有限的情况 下，采用 SVR 建立模型可以避免 ANN 建立模型 所产生的过拟合现象，采用 PSO 算法[18] 可以提 高 SVR 模型的预测精度，即 PSO-SVR 模型具有 较高的泛化能力，但另一方面 PSO 算法优化参数 虽可以有效保证模型参数的有效性，但板带轧制 过程干扰因素较多、测量数据存在误差和数据处 理不当等因素都会导致输入数据存在偏差，使 PSOSVR 模型难以准确地预测板带凸度。 为提高 PSO-SVR 模型的预测精度，本文提出 采用 BPNN 建立板带凸度偏差模型与 PSO-SVR 板带凸度模型相结合的方法对板带凸度进行预 测。采用现场数据验证模型的预测性能，结果表 明，与 PSO-SVR、SVR、BPNN 和 GA-SVR 模型比 较，PSO-SVR+BPNN 模型具有较高的学习能力和 泛化能力。 1 建立 PSO-SVR 板带凸度预测模型 1.1 板凸度的基本概念 板凸度是指板带材横向的断面厚度差，即板 带的中间与边部厚度之差，板凸度的计算公式为 C = hc − he +he ′ 2 C hc he he 式中： 为板带凸度； 为中心厚度； 和 ′为边部 代表点厚度。 e e = 25 e = 40 e = 40 板带凸度示意图如图 1 所示，其中 表示板材边 部代表点距板材边上之间的距离，通常取 mm 或 mm 处，本文分析中均取 mm。 he hc he ′ e e 图 1 板带凸度示意图 Fig. 1 Schematic diagram of strip crown 1.2 实验数据的采集与处理 H0 H1 T0 T1 B F P v µ C0 C1 从某中厚板厂的热轧生产线上获取 670 组 Q355B 板带轧制数据，作为实验样本，如表 1 所 示。选择轧前板材厚度 、轧后板材厚度 、轧 前温度 、轧后温度 、轧前板材宽度 、轧制力 、轧制力矩 、轧制速度 、摩擦系数 和轧前板 材凸度 作为输入变量，并选择轧后板材凸度 作为输出变量。 从工厂收集的样本包含异常和嘈杂的数据， 会降低模型的准确度，为获得真实的分析结果， 利用 T 检验准则处理样本，舍去 34 组异常数据， 最终选择 636 组数据作为实验数据，其中 500 组 数据作为训练集，剩余数据作为测试集。不同的 影响因素通常具有数量级差异，将会降低模型的 预测精度和训练速度。在建模之前，实验数据进 行归一化为 [−1,1]，归一化公式为 x ′ i = 2× xi −min(xi) max(xi)−min(xi) −1 max(xi) min(xi) i = 1,2,··· ,l 式中 和 分别为序列的最大值和最小 值， 。 ·507· 刘明华，等：支持向量机与神经网络相结合的板带凸度预测 第 3 期
第17卷 智能系统学报 ·508· 表1热轧实验数据 Table 1 Experimental data of hot rolling 序列Ho/mm H/mmT/℃ T/℃ B/mm F/kN P/kN.m v/rm Co/mm C/mm 1 72.66 65.01 980.2 964.5 2309.64 13532.6 801.1 20 1.293 0.0484 0.08929 48.12 43.12 917.0 906.8 2613.54 17322.3 828.9 25 1.335 0.10565 0.12629 3 53.25 47.83 839.6 829.2 2107.04 19770.7 984.5 30 1.337 0.29848 0.31889 669 38.4 35.67 868.3 851.52309.64 13536.3 478.3 35 1.3290.13191 0.09457 670 65.76 58.83 986.4865.72613.54 19546.4 1101.3 20 1.1650.46068 0.21446 1.3SVR理论 踪个体极值和种群极值不断更新自己的位置和速 SVR是一种机器学习方法，SVR的基本思 度，使其向全局最优粒子的位置靠近，并试图在 想是通过(x)将非线性的低维不可分割数据映射 空间中搜索最优参数(C,g)2四。 到高维特征空间，并在该特征空间中执行线性 SVR。 2建立PSO-SVR+BPNN板带凸度预 SVR函数可以表述为 测模型 fx)=(w·x)+b (1) 2.1BPNN板带凸度偏差预测模型 式中：fx)为预测值；w为惯性权值；wx为w和x的 ANN通过调整节点之间的关系来处理信息， 内积：b为阈值。 具有强大的自学习能力。本文ANN采用常用的 引入两个松弛变量和'，优化问题可变成： BPNN模型，模型结构由一个输人层、单或多隐含 mw+c∑i+ 层和一个输出层组成。利用训练集检验SVR 模型的误差，并将误差数据集用于训练BPNN模 (wx)+b-y片≤E+5 型。因此，在本节选择轧后板带凸度的预测偏差 S.t. -(wx)-b≤E+5 5≥≥0，i=1,2,3,…,1 Xc作为BPNN模型的因变量，BPNN与SVR模型 式中：C为惩罚因子；和5为松弛变量；ε为不敏 的自变量保持一致，即BPNN模型输入层节点数 感损失参数。 为10，输出层节点数为1。在相同条件下，使用多 引入拉格朗日函数和基于强对偶关系，并将 隐含层所获得的预测结果并未比单隐含层网络拟 核函数K(x,x)=(x)·(x)代入化简，式(I)可以 合效果好，所以本文选择单隐含层进行建模，通 重写为 过经验公式和试凑法21确定单隐含层节点数为 6,输入层到隐含层的网络权值为ω，隐含层到输 fx)=∑(a-a)Kxr)+b 出层的网络权值为ωk,由以上参数绘制BPNN的 拓扑结构如图2。 式中a和a,是拉格朗日乘子向量。 输入层 选择核函数对于SVR至关重要，它将直接影 H 隐含层 响数据样本的非线性映射。为了获得更好的泛化 能力，选择RBF核函数用于SVR模型，公式为 输出层 K(xi,x)=exp(-glx;-xP) 式中g是RBF核函数的参数。 C和g是影响SVR模型预测精度的重要参数， 选择PSO算法优化二者的最佳组合，以确保模型 的最佳性能。 1.4PSO算法优化SVR模型参数 图2BPNN拓扑结构 PSO算法是一种基于群体智能原理的随机优 Fig.2 Topological structure of BPNN 化算法，由Kennedy和Eberhart在l995年提出。 2.2PSO-SVR+BPNN板带凸度预测模型 P$O算法受到鸟类觅食行为的启发并应用到解决 在实际应用中，板带轧制过程干扰因素较多， 优化问题20，粒子群在高维空间中随机分布并跟 测量数据存在误差和数据处理不当，这些问题都
表 1 热轧实验数据 Table 1 Experimental data of hot rolling 序列 H0 /mm H1 /mm T0 /℃ T1 /℃ B /mm F /kN P /kN·m v /r·m−1 µ C0 /mm C1 /mm 1 72.66 65.01 980.2 964.5 2309.64 13 532.6 801.1 20 1.293 0.0484 0.08929 2 48.12 43.12 917.0 906.8 2613.54 17 322.3 828.9 25 1.335 0.10565 0.12629 3 53.25 47.83 839.6 829.2 2107.04 19 770.7 984.5 30 1.337 0.29848 0.31889 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 669 38.4 35.67 868.3 851.5 2309.64 13 536.3 478.3 35 1.329 0.13191 0.09457 670 65.76 58.83 986.4 865.7 2613.54 19 546.4 1 101.3 20 1.165 0.46068 0.21446 1.3 SVR 理论 ϕ(x) SVR 是一种机器学习方法[15] ，SVR 的基本思 想是通过 将非线性的低维不可分割数据映射 到高维特征空间，并在该特征空间中执行线性 SVR。 SVR 函数可以表述为 f(x) = (w· x)+b (1) f(x) w w· x w x b 式中： 为预测值； 为惯性权值； 为 和 的 内积； 为阈值。 ξi ξi 引入两个松弛变量 和 ∗ ，优化问题可变成： min w,b, ξi,ξi ∗ 1 2 w 2 +C ∑l i=1 (ξi +ξi ∗ ) s.t. (w· xi)+b−yi ⩽ ε+ξi yi −(w· xi)−b ⩽ ε+ξi ∗ ξi ⩾ ξi ∗ ⩾ 0,i = 1,2,3,··· ,l C ξi ξi ∗ 式中： 为惩罚因子； 和 为松弛变量；ε为不敏 感损失参数。 K(xi , x) = φ(xi)·φ(x) 引入拉格朗日函数和基于强对偶关系，并将 核函数 代入化简，式 (1) 可以 重写为 f(x) = ∑l i=1 (αi ∗ −αi)K(xi , x)+b αi αi 式中 和 ∗是拉格朗日乘子向量。 选择核函数对于 SVR 至关重要，它将直接影 响数据样本的非线性映射。为了获得更好的泛化 能力，选择 RBF 核函数用于 SVR 模型，公式为 K(xi , x) = exp(−g|xi − x| 2 ) 式中 g 是 RBF 核函数的参数。 C 和 g 是影响 SVR 模型预测精度的重要参数， 选择 PSO 算法优化二者的最佳组合，以确保模型 的最佳性能。 1.4 PSO 算法优化 SVR 模型参数 PSO 算法是一种基于群体智能原理的随机优 化算法，由 Kennedy 和 Eberhart 在 1995 年提出[19]。 PSO 算法受到鸟类觅食行为的启发并应用到解决 优化问题[20] ，粒子群在高维空间中随机分布并跟 C,g 踪个体极值和种群极值不断更新自己的位置和速 度，使其向全局最优粒子的位置靠近，并试图在 空间中搜索最优参数（ ） [21]。 2 建立 PSO-SVR+BPNN 板带凸度预 测模型 2.1 BPNN 板带凸度偏差预测模型 XC ωi j ωjk ANN 通过调整节点之间的关系来处理信息， 具有强大的自学习能力。本文 ANN 采用常用的 BPNN 模型，模型结构由一个输入层、单或多隐含 层和一个输出层组成[22]。利用训练集检验 SVR 模型的误差，并将误差数据集用于训练 BPNN 模 型。因此，在本节选择轧后板带凸度的预测偏差 作为 BPNN 模型的因变量，BPNN 与 SVR 模型 的自变量保持一致，即 BPNN 模型输入层节点数 为 10，输出层节点数为 1。在相同条件下，使用多 隐含层所获得的预测结果并未比单隐含层网络拟 合效果好，所以本文选择单隐含层进行建模，通 过经验公式和试凑法[23] 确定单隐含层节点数为 6，输入层到隐含层的网络权值为 ，隐含层到输 出层的网络权值为 ，由以上参数绘制 BPNN 的 拓扑结构如图 2。 H0 H1 T0 T1 B F P v μ C0 输入层 隐含层 输出层 XC ωij ωih ... 图 2 BPNN 拓扑结构 Fig. 2 Topological structure of BPNN 2.2 PSO-SVR+BPNN 板带凸度预测模型 在实际应用中，板带轧制过程干扰因素较多， 测量数据存在误差和数据处理不当，这些问题都 第 17 卷 智 能 系 统 学 报 ·508·
·509· 刘明华，等：支持向量机与神经网络相结合的板带凸度预 第3期 会导致输入数据存在偏差，使PSO-SVR模型难以 正板带凸度的偏差。BPNN修正PSO-SVR模型 准确地描述板带凸度变化趋势。为提高该模型的 的预测误差，从而使PSO-SVR模型预测误差弱化， 预测精度，提出了将PSO-SVR板带凸度预测模型 将两者的优势进行组合，可以得到最佳的预测效 和BPNN板带凸度偏差模型相结合的方法对板带 果，PSO-SVR+BPNN模型预测板带凸度公式为 凸度进行预测。该方法的主要思想是在无外界因 C2'=C1'+Xe 素干扰的情况下，经过PSO算法优化的SVR模型 式中：c2'为PSO-SVR+BPNN模型的预测值；c,为PSO- 具有良好的泛化能力，能够很好地反映板带凸度变 SVR模型的预测值；x为BPNN模型的预测偏差。 化的主要趋势，用它来预测板带凸度的主值；BPNN 本文所提出的PSO-SVR+BPNN模型的建模 模型反映扰动因素对板带凸度的影响，用它来纠 过程如图3所示。 检验 /c8 PSO 训绮 K(xx) 训练集 训练完成 e (PSO-SVR →偏差数据集 变 ↓训练 K(xx) SVR 输入层 隐含层 T检验准则， 输出层 归一一化方法 训练完成 变量 BPNN 十、训练完成 测试 测试集 (PSO-SVR BPNN 评估PSO-SVR+BPNN 模型的性能 图3PSO-SVR+BPNN模型的建模流程 Fig.3 Modeling process of PSO-SVR+BPNN model 从工厂获取实验数据，并利用T检验准则和 归一化方法预处理实验数据，使其消除异常数据 和数量级差异。其次，采用PSO算法优化SVR模 型参数，利用训练集检验建立PSO-SVR模型时所 ME=2乳xom 产生的误差，并将误差数据集用于训练BPNN模 式中：y为模型的预测数据集；y为模型的目标数 型，将PSO-SVR与BPNN模型相结合进行预测板 据集。 带凸度。最后，利用测试集测试PSO-SVR+BPNN 模型的预测精度，并采用决定系数(R)、根均方误 3实验结果与分析 差(RMSE)、平均绝对误差(MAE)和平均绝对百 3.1PSO-SVR+BPNN模型与PSO-SVR、SVR和 分比误差(MAPE)用于评估模型的综合性能，公 BPNN模型比较 式为 为了体现PSO-SVR+BPNN模型综合性能的 ②w-22 优越性，采用PSO-SVR、SVR和BPNN建立板带 凸度模型，利用R、RMSE、MAE和MAPE评估模 2-②2-② 型的综合性能。在训练集和测试集上，4种模型 预测值与目标值的回归结果，如图4所示。从图4 可得，采用SVR的3种模型的回归性能明显优于 BPNN模型。在训练集和测试集上，BPNN模型 的R不高于0.995，而基于VR的3种模型的所
会导致输入数据存在偏差，使 PSO-SVR 模型难以 准确地描述板带凸度变化趋势。为提高该模型的 预测精度，提出了将 PSO-SVR 板带凸度预测模型 和 BPNN 板带凸度偏差模型相结合的方法对板带 凸度进行预测。该方法的主要思想是在无外界因 素干扰的情况下，经过 PSO 算法优化的 SVR 模型 具有良好的泛化能力，能够很好地反映板带凸度变 化的主要趋势，用它来预测板带凸度的主值；BPNN 模型反映扰动因素对板带凸度的影响，用它来纠 正板带凸度的偏差。BPNN 修正 PSO-SVR 模型 的预测误差，从而使 PSO-SVR 模型预测误差弱化， 将两者的优势进行组合，可以得到最佳的预测效 果，PSO-SVR+BPNN 模型预测板带凸度公式为 c2 ′ = c1 ′ + xc c2 ′ c1 ′ xc 式中： 为 PSO-SVR+BPNN 模型的预测值； 为 PSOSVR 模型的预测值； 为 BPNN 模型的预测偏差。 本文所提出的 PSO-SVR+BPNN 模型的建模 过程如图 3 所示。 变量 1 变量 2 变量 3 变量 n... ... ... ... T 检验准则, 归一化方法 训练集 训练 训练 检验 PSO SVR + BPNN BPNN PSO-SVR PSO-SVR c, g f (x) K (x1 , x) K (x2 , x) K (xk , x) 训练完成 训练完成 训练完成 测试集 测试 偏差数据集 评估 PSO-SVR+BPNN 模型的性能 输出层 输入层 隐含层 图 3 PSO-SVR+BPNN 模型的建模流程 Fig. 3 Modeling process of PSO-SVR+BPNN model 从工厂获取实验数据，并利用 T 检验准则和 归一化方法预处理实验数据，使其消除异常数据 和数量级差异。其次，采用 PSO 算法优化 SVR 模 型参数，利用训练集检验建立 PSO-SVR 模型时所 产生的误差，并将误差数据集用于训练 BPNN 模 型，将 PSO-SVR 与 BPNN 模型相结合进行预测板 带凸度。最后，利用测试集测试 PSO-SVR+BPNN 模型的预测精度，并采用决定系数 (R 2 )、根均方误 差 (RMSE)、平均绝对误差 (MAE) 和平均绝对百 分比误差 (MAPE) 用于评估模型的综合性能，公 式为 R 2 = l ∑l i=1 yiy ′ i − ∑l i=1 yi ∑l i=1 y ′ i 2 l ∑l i=1 yi 2 − ∑l i=1 yi 2 l ∑l i=1 y ′ i 2 − ∑l i=1 y ′ i 2 RMSE = vt 1 l ∑l i=1 (yi −y ′ i ) 2 MAE = 1 l ∑l i=1 yi −y ′ i MAPE = 1 l ∑l i=1 yi −y ′ i yi ×100% y ′ 式中： 为模型的预测数据集； y 为模型的目标数 据集。 3 实验结果与分析 3.1 PSO-SVR+BPNN 模型与 PSO-SVR、SVR 和 BPNN 模型比较 为了体现 PSO-SVR+BPNN 模型综合性能的 优越性，采用 PSO-SVR、SVR 和 BPNN 建立板带 凸度模型，利用 R 2 、RMSE、MAE 和 MAPE 评估模 型的综合性能。在训练集和测试集上，4 种模型 预测值与目标值的回归结果，如图 4 所示。从图 4 可得，采用 SVR 的 3 种模型的回归性能明显优于 BPNN 模型。在训练集和测试集上，BPNN 模型 的 R 2 不高于 0.995，而基于 SVR 的 3 种模型的所 ·509· 刘明华，等：支持向量机与神经网络相结合的板带凸度预测 第 3 期
第17卷 智能系统学报 ·510· 有R均高于0.997，这充分说明了基于SVR的3种 可以提高PSO-SVR模型的学习能力和泛化能力。 模型比BPNN模型的预测精度高。由此可见，基 图5描述了不同模型预测值与目标值的比 于SVR板带凸度预测模型具有较高的泛化能力。 较。从图5中可得，基于SVR的3种模型和BPNN 模型有较高预测精度，但无法直接地区别各模型 0.4 .PSO-SVR+BPNN.R2=0.998 2 的预测精度，因此分别从两个数据集上任意选取 ■PS0-SVRR2=0.9980 0.3 ◆SVR,R2-0.9978 五个连续的样本点测试模型的预测性能，如表2 ●BPNN.R2=0.9919 所示。表2清楚地显示PSO-SVR+BPNN模型与 0.2 PSO-SVR、SVR和BPNN模型之间的预测精度差 01 异。在训练集和测试集上，PSO-SVR+BPNN模型 预测值的相对误差在2%以内；PSO-SVR、SVR 和BPNN模型预测值中大部分数据，点的相对误差 分别在5%、8%和11%以内。以上结果表明，SVR 0 0.1 02 0.3 0.4 目标值/mm 与BPNN模型相比具有较高的预测性能，但低于 (a)训练集 PSO-SVR模型的预测性能；与PSO-SVR、SVR和 0.4 BPNN模型相比，PSO-SVR+BPNN模型的学习能 PSO-SVR+BPNN.R2-0.9998 ■PS0-SVRR2=0.9995 力和预测精度最高。 0.3 ◆SVR,R2=0.9982 BPNN.R2=0.9950 目标值 0.4 SVR BSVR+BPNN PSO-SVR 0.2 0.3 0, 0.2 0.1 -0.1 100 200300400500 -0.1 0 0.10.2 0.30.4 样本序号 目标值/mm (a)训练集 (b)测试集 图4PSO-SVR+BPNN、PSO-SVR、SVR和BPNN模型预 0.4 值SVR+BPNN·PSO-SVR SVR 测值与目标值的回归结果 0.3 Fig.4 Regression results of predicted values and target 0.2 values of PSO-SVR+BPNN、PSO-SVR、SVR and 0.1 BPNN models 0 图4描述了在训练集和测试集上，PSO-SVR -0.1 0 20 40 60 80 100120140 与SVR模型相比具有较大的R值，即PSO-SVR 样本序号 比SVR模型预测性能好。同理可得，与PSO-SVR (b)测试集 相比，PSO-SVR+BPNN模型具有较好的预测性 图5 PSO-SVR+BPNN、PSO-SVR、SVR和BPNN模型预 能。实验结果表明，采用PSO算法优化SVR模型 测值与目标值的比较 Fig.5 Comparison of predicted values and target values 参数，可以提高SVR模型的学习能力和泛化能力； for PSO-SVR+BPNN、PSO-SVR、SVR and BPNN 利用BPNN模型纠正PSO-SVR模型的预测偏差， models 表2部分样本数据下不同模型的相对误差 Table 2 Relative error of different models under partial sample data 目标值 PSO-SVR+BPNN PSO-SVR SVR BPNN 数据集序号 /mm 预测值/mm相对误差/% 预测值/mm相对误差% 预测值/mm相对误差/% 预测值/mm相对误差/% 1 0.24957 0.24974 -0.07 0.25164 -0.83 0.25200 -0.97 0.24694 1.05 2 0.09432 0.09396 0.38 0.09592 -1.70 0.09752 -3.39 0.09856 -4.50 训练集 3 -0.00472-0.00479 -1.48 -0.00494 -4.66 -0.00218 53.81 -0.01001 -112.08 4 -0.01173-0.01173 0.00 -0.00976 16.79 -0.00897 23.53 -0.01485 -26.60
有 R 2 均高于 0.997，这充分说明了基于 SVR 的 3 种 模型比 BPNN 模型的预测精度高。由此可见，基 于 SVR 板带凸度预测模型具有较高的泛化能力。 0 0.1 0.2 0.3 0.4 −0.1 0 0.1 0.2 0.3 0.4 预测值/mm 目标值/mm (a) 训练集 PSO-SVR+BPNN, R 2=0.998 2 PSO-SVR, R 2=0.998 0 SVR, R 2=0.997 8 BPNN, R 2=0.991 9 0 0.1 0.2 0.3 0.4 −0.1 0 0.1 0.2 0.3 0.4 预测值/mm 目标值/mm (b) 测试集 PSO-SVR+BPNN, R 2=0.999 8 PSO-SVR, R 2=0.999 5 SVR, R 2=0.998 2 BPNN, R 2=0.995 0 图 4 PSO-SVR+BPNN、PSO-SVR、SVR 和 BPNN 模型预 测值与目标值的回归结果 Fig. 4 Regression results of predicted values and target values of PSO-SVR+BPNN、PSO-SVR、SVR and BPNN models 图 4 描述了在训练集和测试集上，PSO-SVR 与 SVR 模型相比具有较大的 R 2 值，即 PSO-SVR 比 SVR 模型预测性能好。同理可得，与 PSO-SVR 相比，PSO-SVR+BPNN 模型具有较好的预测性 能。实验结果表明，采用 PSO 算法优化 SVR 模型 参数，可以提高 SVR 模型的学习能力和泛化能力； 利用 BPNN 模型纠正 PSO-SVR 模型的预测偏差， 可以提高 PSO-SVR 模型的学习能力和泛化能力。 图 5 描述了不同模型预测值与目标值的比 较。从图 5 中可得，基于 SVR 的 3 种模型和 BPNN 模型有较高预测精度，但无法直接地区别各模型 的预测精度，因此分别从两个数据集上任意选取 五个连续的样本点测试模型的预测性能，如表 2 所示。表 2 清楚地显示 PSO-SVR+BPNN 模型与 PSO-SVR、SVR 和 BPNN 模型之间的预测精度差 异。在训练集和测试集上，PSO-SVR+BPNN 模型 预测值的相对误差在 2% 以内；PSO-SVR、SVR 和 BPNN 模型预测值中大部分数据点的相对误差 分别在 5%、8% 和 11% 以内。以上结果表明，SVR 与 BPNN 模型相比具有较高的预测性能，但低于 PSO-SVR 模型的预测性能；与 PSO-SVR、SVR 和 BPNN 模型相比，PSO-SVR+BPNN 模型的学习能 力和预测精度最高。 −0.1 0 0.1 0.2 0.3 0.4 0 100 200 300 400 500 板带凸度/mm 样本序号 (a) 训练集 PSO-SVR+BPNN PSO-SVR SVR 目标值 BPNN −0.1 0 0.1 0.2 0.3 0.4 0 20 40 60 100 80 140 120 板带凸度/mm 样本序号 (b) 测试集 PSO-SVR+BPNN PSO-SVR SVR 目标值 BPNN 图 5 PSO-SVR+BPNN、PSO-SVR、SVR 和 BPNN 模型预 测值与目标值的比较 Fig. 5 Comparison of predicted values and target values for PSO-SVR+BPNN、PSO-SVR、SVR and BPNN models 表 2 部分样本数据下不同模型的相对误差 Table 2 Relative error of different models under partial sample data 数据集 序号 目标值 /mm PSO-SVR+BPNN PSO-SVR SVR BPNN 预测值/mm 相对误差/% 预测值/mm 相对误差/% 预测值/mm 相对误差/% 预测值/mm 相对误差/% 训练集 1 0.249 57 0.249 74 −0.07 0.251 64 −0.83 0.252 00 −0.97 0.246 94 1.05 2 0.094 32 0.093 96 0.38 0.095 92 −1.70 0.097 52 −3.39 0.098 56 −4.50 3 −0.004 72 −0.004 79 −1.48 −0.004 94 −4.66 −0.002 18 53.81 −0.010 01 −112.08 4 −0.011 73 −0.011 73 0.00 −0.009 76 16.79 −0.008 97 23.53 −0.014 85 −26.60 第 17 卷 智 能 系 统 学 报 ·510·