您的当前位置:首页正文

一种基于改进遗传算法的神经网络优化计算方式

2021-03-12 来源:好走旅游网
计算机技术应用

• the Application of Computer Technology

一种基于改进遗传算法的神经网络优化计算方式

文/姚江梅 黄裕锋

权,通过对其网络结构及连接权进行优化,可

构建BP神经网络并确定BP神经网络初始化权限值视域值。同时逐一对BP神经网络初始权限值视域值编码,并依据神经网络输出误差、适应度函数,输入数据训练BP神经网络及内部各染色体适应度值。在上述优化选择方式应用之后,可获得适应度较高的个体,经过进一步交叉变异操作,可得出每代种群中适应度较大的数值。在最大适应度值没有发生明显变化,或者最大适应度值已达到种群最大进化代数之后可停止优化,将获得的最佳染色体解码,并将最佳染色体得到的最优权限值视域值赋予BP神经网络。反之则重新输入数据训练BP神经网络,根据BP神经网络输出误差、适应度函数,进行各染色体适应度数值的计算。在获得各染色体适应度数值之后,可输入赋予最优权限值视域值的BP神经网络。经BP神经网络训练后,对输出误差进行计算。根据输出误差,结合梯度下降计算方式,可对BP神经网络进行权限值视域值优化更新。在BP神经网络输出误差达到预定训练次数,或者预先

其中v∈Tmxp,u∈Rmxp,o∈Tp,t∈Tb。

上述式子中,F1为神经网络总误差,ym(a0)为信号,ym(a)为网络实际输出。

设定精度时,结束训练,获得仿真结果。反之则返回输入数据赋予最优权限值视域值BP神经网络训练模块,进行重新训练。

摘 要本文以BP神经网络为例,介绍了优化遗传计算方式概念,阐述了基于优化遗传计算方式的神经网络优化计算方式研究背景,分析了基于优化遗传计算方式的神经网络优化计算方式设计方法,并对基于优化遗传计算方式的神经网络运行进行了仿真验证。以从根本上解决神经网络初始权值随机性确定,及网络结构判定阶段出现的网络振荡问题,同时避免整体神经网络陷入部分模块解困境。基于此,利用优化遗传计算方式全局性搜索特点,探究最佳神经网络连接权、网络结构的模式,可以为BP神经网络计算方式梯度信息依赖度弱化提供良好的帮助。

3 基于优化遗传计算方式的神经网络优

【关键词】优化遗传计算方式 神经网络优化计算方式 BP神经网络

化计算方式研究框架

在基于优化遗传计算方式的神经网络优化计算方式研究中,主要利用开关系数M代表神经网络各节点间连接关系,一般开关系数M取值为1/0。其中若开关系数M为1,表示神经网络两节点间存在连接关系;若开关系数M为0,则表示两节点间不存在连接关系。从数学层面进行分析,优化遗传——神经网络优化问题可描述如下:

BP神经网络是Back Propagation神经网络,其是一种多层前馈型网络,在网络训练中存在计算方式收敛速度过慢、收敛无法达到理想效果,整体工作性能不佳。考虑到以往神经网络设计规模过于庞大等问题,利用优化遗传计算方式,有望获得较为良好的网络拓扑结构、训练网络方法。因此,对基于优化遗传计算方式的神经网络优化计算方式进行适当分析非常必要。

1 优化遗传计算方式概述

遗传计算方式又可称之为Genetic Algorithm,其依据生物进化原理开发的一种自适应优化计算方式,具有突出的鲁棒性。遗传计算方式在实际应用中,主要以问题样本适应度函数为基础,对初始群体进行交叉、筛除、变异等一系列作业,以获得正确的学习、探究方式。而优化遗传计算方式则是面对全局解空间,在传统遗传计算方式的基础上引入具有一定竞争性的选择集成、多点自适应变异、实数编码及多点交叉等作业,提高遗传计算方式收敛速度,缩短二进制编码长度,从多个区域内寻找最佳解析方案。

4 基于优化遗传计算方式的神经网络优化计算方式设计及实现

4.1 基因编码及适应度函数筛选

基于实数编码过程简单、无部分模块极值风险的特点,本次主要以实数编码的方式作为主要编码方式。随后依据种群进化阶段适应度设置特点,采用数据训练的方式,进行BP神经网络初始化权限值视域值的训练。最后采用训练后的BP神经网络,进行预先判定,通过对预先判定数值、实际测量数值差的绝对值求和、求倒数,可得到适应度函数。基于优化遗传计算方式的神经网络优化适应度函数如下:

若F2=

为检测样本均方误差,则表明对BP网络输出数据稳定性评估F2较小,且网络输出稳定性较大。或者对BP网络输出数据稳定性评估F2大,网络输出稳定性较小。

在BP神经网络应用阶段,由于无法准确获知被逼近样本的数值,这种情况下,即使在网络误差F1为0的条件下,也无法保证F2与其要求相符。这种BP神经网络过拟合现象的出现,严重影响整体神经网络泛化能力,甚至可能会导致BP神经网络在实际应用方面无法发挥基础价值。因此,在神经网络计算方式设计阶段,需要确定一个给定误差φ,促使F2小于这一数值,以保证BP神经网络输出稳定。

在基于优化遗传计算方式的BP神经网络计算方式优化设计过程实现过程中,首先需要

2 基于优化遗传计算方式的神经网络优化计算方式研究优势

基于优化遗传计算方式搜索不需求解函数可微、不依赖梯度信息的特点。其可在约束条件下,通过求解适应度函数,在全局区域进行自适应动态搜索。采用优化遗传计算方式优化神经网络,主要针对神经网络结构及其连接

上述式子中,yi为BP神经网络实际输出数值,而b为BP神经网络输出节点个数,bi为经BP神经网络预先判定获得的数值。4.2 基于优化遗传计算方式的神经网络优化计

●基金项目:《基于空间网络流动视角的教师国际流动研究》2017年度教育部人文社会科学研究一般项目立项,项目批准号:17YJA880048。

138 •电子技术与软件工程󰀡󰀡Electronic Technology & Software Engineering

the Application of Computer Technology 计算机技术应用

算方式设计4.2.1 选择算子优化

比例选择算子、最优保存策略是遗传计算方式选择算子中应用范围较大的方式。其中比例选择算子主要是通过放回形式,进行随机样品选择的方式,整体运行模式较简单、便捷。19

初始种群适应度排布

31

表1:个体数为9的初始种群并依据适应度排布

52

83

104

45

76

217

118

19

表2:质量最优段

211

31

由于所选择样品的随机性,最终得出结果不可避免的存在一些误差;而最优保存策略主要以寻找生物群体中最优个体为目标,不考虑其余个体破坏种群的丰富性,进行优化。其在实际运行中部分模块收敛问题发生的几率较高。

针对上述情况,在选择算子过程中,可在最优保存策略的基础上,结合选择算子需求,设置一种新的选择操作计算方式。即面对生物种群,考虑其余个体破坏生物种群丰富性特征,选择最优个体。具体计算流程如下:

(1)在最优保存策略的基础上,可面对生物群落确定初始种群。并对种群内每一个体适应度数值进行核算。并将生物种群内个体,依据适应度数值,从小到大进行序列排布。

(2)对于排序排布已完成的个体,可依据顺序,将其进行平均分配,最终形成前段、中段、后段三个模块。其中前段生物种群质量最优,后段生物种群质量最差。同时依据(6/10;8/10;10/10)的比例。结合质量最优者多选、质量最差者少选的仿真,考虑其余各区段个体在生物种群丰富性中的影响,保留最优区域个体。相较于(3/10;7/10;10/10)等其他比例而言,(6/10;8/10;10/10)比例获得网络事先判定的误差较小,且历经时间进程较少。

(3)在依据上述比例选择出一定数量的个体之后,将其进行重新组合排布,获得一个新的生物种群。考虑到新的生物种群内部个体为(6/10;8/10;10/10)比例选取的模式,整体数量较少。因此,可从尾端入手,面对质量较优良生物个体,依据随机选择的方式,选择个体数与以往生物种群损失个数相等的种群。并将其拆入新生物种群组合模块,以保证整体生物种群的丰富性。

以种群数为9且内部标注有适应度值、个体标号的生物种群为例,其可用图形表示如下:

首先,确定个体数为9的初始种群并依据适应度从小到大的顺序排列(表1)。

其次,将排列完毕的种群个数依据顺序均分并依据(6/10;8/10;10/10)比例进行随机选择(表2、表3、表4)。

通过对上述数据进行分析,可得出随机选择段落中质量最优段个体数目为3*0.6=1.8;质量中等段个体数目为3*0.8=1.6;质量最差段个体数目为3*1.0=3。最后选择个体为(表5)。

表3:质量中等段

4565

2

6

表4:质量最差段

78934

8表5:最终选择个体5138672

9

1

4

6

3

表6:最终选择生物种群5

138672121112

9

1

4

6

3

7

7

8

最后,从生物群落尾端中选择个体,拆化计算方式实现及验证

除表5个体中,最终得出生物群落为(表6)。

通过对上述表格进行分析,可得出相较于5.1 基于优化遗传计算方式的神经网络优化计初始种群而言,最终得出生物种群平均适应度算方式实现

较为良好。且优化后选择计算方式,仅需进行适应度计算及适应度序列排布、分组插入等简本次基于优化遗传计算方式的BP神经网单操作,就可以获得最优种群个体。整体计算络计算方式实现主要以电火花加工为例,考虑量较小,且随机操作误差较小、收敛速度较快。到电火花加工机理复杂程度较高。且电火花碳4.2.2 交叉及变异操作

保护层生成影响因素较多,其具有突出的非线一方面,交叉操作主要是面对整体生物种性特征,无法采用一般数学模型进行概述。因群,从内部选择两个个体,依据一定发生几率,此,可采用基于优化遗传计算方式的BP神经促使两个体进行交叉,以得到新的个体。基于网络计算方式进行电火花加工非线性实验模型实数编码特点,在种群交叉阶段主要采用实数构建。其主要以电火花加工碳保护层实验数据交叉的方式。即选择第k个染色体b为样本,利用基于优化遗传计算方式的BP神k及第j个染色体b经网络计算方式,通过解码后,得出网络结构j,在第i位的交叉操作方式如下:

隐含层传递函数为tansig,神经网络输出层传

递函数为purelin。

上述式子中c∈[0,1]。

在基于优化遗传计算方式的BP神经网络另一方面,在生物种群变异操作中,需计算方式实际训练过程中,主要依据直接经验,要随机选择一个体,依据一定发生几率,进行设定初始权值为默认,训练函数为traingdx,变异操作,以获得新生物个体。如对第k个个隐层节点数量为8。在28000步时,可得到全体的第j个基因进行变异,主要变异方式如下:

局最优解,整体收敛速度较快。

5.2 基于优化遗传计算方式的神经网络优化计算方式验证

上述式子中,基因b(1)基于优化遗传计算方式的BP神kj的上界限为bmax,下部界限为bmin,f(h)=l2(1-h/Hmax)。其经网络计算方式优化参数设定,以函数中h及Hmax分别为当前迭代次数及最大进化y2=x221+x2为例,采用BP神经网络、基于优化次数,而l为位于[0,1]间随机数值。

遗传计算方式的神经网络优化计算方式分别对该函数进行拟合计算。随机生成1800个数值,

5 基于优化遗传计算方式的神经网络优

Electronic Technology & Software Engineering 电子技术与软件工程• 139

计算机技术应用

• the Application of Computer Technology

图1:BP神经网络预先判定值与期望数值相互比较

图2:基于遗传计算方式的BP神经网络计算方式误差曲线

图3:基于优化遗传计算方式的BP神经网络计算方式误差曲线

用1800个数值训练90个数进行预先判定,从稳定。通过对基于遗传计算方式的BP神经网两者预先判定结果误差、时间两个方面,进行络计算方式、基于优化遗传计算方式的BP神分析。依据上述操作要求,在优化遗传计算经网络误差曲线进行对比分析,可得出基于遗方式参数设定值,可以种群规模9、进化次数传计算方式的BP神经网络计算方式均需经3510、交叉发生几率0.2、变异发生几率0.1为步达到目标规定精确度,网络均方误差及总历标准。而在BP神经网络参数数值设置过程中,经时间进程分别为0.0093、330.32513s。而基可设定网络输入为2,网络输出为1,隐层节于优化遗传计算方式的BP神经网络计算方式点数值效果最佳时测试数为3,最大训练次数达到目标精确度步数为11步,总历经时间进及训练精度、学习度分别为90、0.00001、0.1。

程及均方误差分别为0.0055、290.254612s。(2)基于优化遗传计算方式的神经网络基于优化遗传计算方式的BP神经网络计算方优化计算方式验证主要针对基于遗传计算方式式总历经时间进程较少,且均方误差较小。这的BP神经网络计算方式进行拟合计算后数值。主要是由于优化后选择算子计算量较小,且优将其与优化后BP神经网络模型进行相互比较,化后遗传计算方式可在较短时间内计算出初始以判定基于优化遗传计算方式的神经网络优化权值,为BP神经网络寻找最优解提供良好的效果。最终得出优化结果为图1。

支撑,进而改善整体遗传计算方式质量,如图由上述数据可知,基于遗传计算方式的2、图3所示。

BP神经网络计算方式在终止代数18时仍未达到稳定状态,而基于优化遗传计算方式的BP6 总结

神经网络在经过13代时适应度曲线已区域平综上所述,BP神经网络在实际运行过程稳。表明基于优化遗传计算方式的BP神经网中主要依据误差逆向传播计算方式进行训练,络可在较短时间内获得合理的权限值视域值。在实际运行过程中极易陷入部分模块极小值或且经过遗传计算方式优化后,BP神经网络预部分模块收敛无法逃逸情况,据此,可利用优测误差均逐步降低,且整体误差变化幅度区域

化遗传计算方式,从编码及适应度函数选择、

140 •电子技术与软件工程󰀡󰀡Electronic Technology & Software Engineering

网络初始权限值视域值计算、适应度排序、最优种群组合等过程,经过进一步交叉及变异操作,可获得最佳网络计算方式。在提高整体神经网络运行准确度的同时,也可以避免部分模块收敛问题对神经网络运行效率的影响。

参考文献

[1]高航,薛凌云.基于优化遗传计算方式的

反向传播神经网络拟合LED光谱模型[J].激光与光电子学进展,2017(07):288-296.[2]张春生,刘树东,谭覃.基于优化遗传计

算方式优化BP神经网络的短时交通流量事先判定方法研究[J].天津城建大学学报,2017,23(02):143-148.

[3]毕志敏,王焱.基于优化遗传计算方式优

化Elman网络的板形识别方法[J].钢铁研究学报,2017,29(04):305-311.

[4]梅年丰,严良文,钱峰峰等.基于优化遗

传计算方式优化BP神经网络的螺杆式制冷机组能效事先判定[J].计量与测试技术,2018,45(05):18-21.

[5]杜云皓,仇锦先,冯绍元.优化GA-BP模

型在地下水位埋深事先判定中的应用[J].节水灌溉,2017(09):81-84.

[6]闫晶,毕强,李洁,et al.图书馆数字资

源聚合质量事先判定模型构建——基于优化遗传计算方式和BP神经网络[J].数据

分析与知识发现,2017,1(12):49-62.[7]王怡杰.基于优化遗传计算方式的A2-C0

型模糊逻辑系统设计及仿真[J].辽宁工业大学学报(自然科学版),2018,38(05):9-14.

[8]金京,杨明,杜豫冬,等.基于优化

遗传计算方式和神经网络的数据库访问控制方法[J]. 网络安全技术与应用,2017(10):39-42.

[9]龚晗义.基于优化遗传计算方式和

BP神经网络的人脸识别方法[J].武汉理工大学学报:信息与管理工程版,2018,40(05):22-26.

作者简介

姚江梅(1974-),女,湖南省宜章县人。硕士学历。助理研究员。研究方向为计算机科学与技术。

黄裕锋,男,高级工程师。研究方向为地理信息系统、大数据挖掘及分析应用、新媒体技术。

作者单位

广东工程职业技术学院 广东省广州市 510520

因篇幅问题不能全部显示,请点此查看更多更全内容