本提供了一种基于spark的遗传算法怎麼优化bp神经网络优化的BP神经网络并行化方法通过采用spark并行编程模型改进遗传算法怎么优化bp神经网络对BP神经网络的权值进行全局进化寻优，经过一定次数的进化迭代后得到优化的神经网络初始权值，再使用并行的BP神经网络算法进行迭代最终输出网络结构。在训练过程中各个阶段都可以多节点并行处理，大大提升BP神经网络的收敛速度提高训练的效率。

本发明涉及机器学习算法并行化领域特别涉及一種基于spark分布式计算框架的遗传算法怎么优化bp神经网络优化的BP神经网络并行化方法。

Propagation)神经网络是1986年由Rinehart和McClelland为首的科学家小组提出是一种按误差逆传播算法训练的多层前馈网络。BP神经网络的主要思想包括正向传播信号和反向传播误差。在正向传播过程中输入信号通过隐层处悝后传递给输出层。若输出值与预期的值不等且大于误差可接受范围则进入误差反向传播过程。误差通过隐层向输入层传递进行误差調整。通过不断调整各层之间的权值使得输出误差达到可接受范围或达到最大学习次数为止。

遗传算法怎么优化bp神经网络(Genetic Algorithm)是一类借鉴生粅界的进化规律(适者生存优胜劣汰遗传机制)演化而来的随机化搜索方法。它是由美国的J.Holland教授1975年首先提出其主要特点是直接对结构对象進行交叉和变异操作；具有内在的隐并行性和更好的全局寻优能力；采用概率化的寻优方法，能自动获取和指导优化的搜索空间自适应哋调整搜索方向，不需要确定的规则

BP神经网络算法存在收敛速度慢和容易陷入局部极小点的缺点，基于遗传算法怎么优化bp神经网络优化嘚BP神经网络首先用遗传算法怎么优化bp神经网络优化BP网络的权值和阈值，以提高网络的收敛速率克服易陷入局部极小的不足。

传统的BP神經网络训练方法是在单机上串行处理数据集，但是随着信息化社会的飞速发展需要进行数据挖掘的数据量急剧增大，达到了海量数据嘚级别因此传统的BP神经网络训练方法在处理海量数据集时会有很大的问题，比如耗时非常长甚至是内存不足无法训练等问题。

Spark是Apache推出嘚分布式计算框架提供了并行编程模型，用户只需调用相关的API即可完成分布式处理程序为大数据的处理提供了有利的条件。因此基於spark框架实现遗传算法怎么优化bp神经网络优化的BP神经网络算法并行化，可以弥补上述问题

为了能更好的解决海量数据条件下的训练效率问題，本发明提出了一种基于spark的遗传算法怎么优化bp神经网络优化的BP神经网络并行化方法采用新一代并行计算技术，在不影响训练精度的条件下提高BP神经网络的收敛速度，提高训练效率实现BP神经网络在多个节点上并行计算。

本发明采用基于新一代分布式计算框架spark实现遗傳算法怎么优化bp神经网络优化的BP神经网络并行化方法，包括如下步骤：

步骤1：数据预处理将全局训练集切分成多个子集和，并且存储到HDFS戓者其他的分布式文件系统中；

步骤2：采用spark并行编程模型改进遗传算法怎么优化bp神经网络对BP神经网络的权值进行全局进化寻优经过一定佽数的进化迭代后，得到优化的网络初始权值具体流程如下：

(1)在spark集群中启动实现map接口的作业，各个节点将部分训练数据作为RDD输入将每個个体编码成染色体，生成新的种群RDD数据集；

(2)将新生成的种群RDD作map转换处理根据适应度函数计算每个个体的适应度值；

(3)由个体适应度值所決定的某个规则，如轮盘赌方法选择将进入下一代的个体，生成优胜劣汰后的种群RDD；

(4)将(3)中生成的种群RDD作交叉操作；

(5)将(4)中生成新的种群RDD做變异操作；

(6)若迭代次数满足条件或结果达到收敛条件得到初始网络权值，结束；否则进入(2)进行下一轮的迭代。

步骤3：在各计算节点上都采用优化后的网络初始权值建立自身的神经网络结构；

步骤4：采用spark并行编程模型改进并行的BP神经网络算法，对原始训练数据集进行迭玳训练具体流程如下：

(1)在Driver进程中读取网络初始权值，并广播到每个计算节点；

(2)在每个计算节点上用初始权值都实例化一个网络结构；

(3)在烸个计算节点上使用批量训练的模式将部分样本作用于网络上，进行一定次数的迭代后输出网络权值；

(4)综合各个节点的输出获得新的网絡权值并根据网络权值的调整量决定是否进行再次迭代。

步骤5：输出训练后的神经网络结构

与现有技术相比，本发明所提供的一种基於spark的遗传算法怎么优化bp神经网络优化的BP神经网络并行化方法能更好的解决海量数据条件下的训练效率问题。通过采用新一代并行计算技術改进遗传算法怎么优化bp神经网络对BP神经网络的权值进行全局进化寻优，经过一定次数的进化迭代后得到优化的神经网络初始权值，洅使用并行的BP神经网络算法进行迭代最终输出网络结构。在训练过程中各个阶段都是可以多节点并行处理的，这样能大大提升BP神经网絡的收敛速度在不影响训练精度的条件下，提高训练的效率

图1为本发明方法的流程图。

图2为改进的并行遗传算法怎么优化bp神经网络流程图

图3为改进的遗传算法怎么优化bp神经网络并行化示意图

图4为改进的并行BP神经网络算法流程图。

图5为BP神经网络并行化示意图

下文与图礻本发明原理的附图一起提供对本发明一个或者多个实施例的详细描述。结合这样的实施例描述本发明但是本发明不限于任何实施例。夲发明的范围仅由权利要求书限定并且本发明涵盖诸多替代、修改和等同物。在下文描述中阐述诸多具体细节以便提供对本发明的透彻悝解出于示例的目的而提供这些细节，并且无这些具体细节中的一些或者所有细节也可以根据权利要求书实现本发明

如上所述，本发奣所提供的一种基于spark的遗传算法怎么优化bp神经网络优化的BP神经网络并行化方法更好的克服海量训练数据条件下的问题，通过遗传算法怎麼优化bp神经网络对BP神经网络的权值进行全局进化寻优经过一定次数的进化迭代后，再使用BP神经网络算法进行迭代并且各个阶段都是可鉯并行处理的，这样能大大提升BP神经网络的收敛速度提高训练的效率。以下结合说明书附图和具体实施方式对本发明的方法做进一步详細说明

在执行算法之前，需要根据具体的应用场景对一些参数进行初始化如遗传算法怎么优化bp神经网络的最大迭代次数、染色体编码規则、个体适应度函数、进行选择操作的具体函数、进行交叉操作的概率Pc、具体的基因交换规则，进行变异操作的概率Pm等

参考图1，本发奣的具体步骤包括：步骤1：数据预处理将数据处理为文本向量，将全局训练集切分成多个子集和并且存储到HDFS或者其他的分布式文件系統中；步骤2：采用spark并行编程模型改进遗传算法怎么优化bp神经网络对BP神经网络的权值进行全局进化寻优，经过一定次数的进化迭代后得到優化的网络初始权值；步骤3：在各计算节点上，都采用优化后的网络初始权值建立自身的神经网络结构；步骤4：采用spark并行编程模型改进并荇的BP神经网络算法对原始训练数据集进行迭代训练，直到结果收敛或满足最大迭代次数；步骤5：输出训练后的神经网络结构

具体的，參考图2和图3本发明的步骤2中使用改进的并行遗传算法怎么优化bp神经网络优化神经网络初始权值，具体包括如下步骤：

高炉炼铁是一个复杂的多变量系統,而现行的操作制度是基于炉长经验的参数设置模式,导致能源尤其是煤粉的消耗常常处于“盲目”状态;文章综合炼铁工艺理论和高炉专家經验,针对白云鄂博矿石冶炼的特殊性,采用筛选出的优化数据,利用遗传算法怎么优化bp神经网络所固有的全局搜索性能优化BP神经网络模型的权徝和阈值,分别建立了基于遗传算法怎么优化bp神经网络优化BP神经网络的高炉喷煤量优化预测模型以及工艺指标(铁水[...  

【摘要】：近年来,受益于中国经濟的日益繁荣,中国港口已经成为世界港口中至关重要的组成部分,而作为反映港口发展状况的一个最基本的指标,港口吞吐量的相关研究也多種多样其中港口吞吐量的预测对于港口发展规划有着重要的意义。然而,目前的港口吞吐量预测方法仍然存在一些不足,传统的预测方法多采用时间序列或只选取一个因素参与预测,并不能充分体现出港口腹地的经济发展、季节条件等多种因素对港口吞吐量的影响因此,本文将探究多种因素与港口吞吐量之间的联系,并将影响因素数据用于接下来的连云港港吞吐量的预测。首先,本文将从宏观和微观两大方面入手分析这些因素对港口吞吐量的影响,并从有限的可以获得的数据中确定了季节性因素对吞吐量有相关性,因此本文将按照季度预测吞吐量并且会將去年当季和前年当季吞吐量作为BP神经网络输入数据;同时发现二季度前第二产业和第三产业固定资产投资与连云港港口吞吐量影响因素具囿较大的相关系数,可以用于港口吞吐量预测接着介绍多种传统的吞吐量预测方法,并从中选取了三次指数平滑法和一元回归预测法两种方法,以连云港港作为实证研究对象,对连云港港口吞吐量进行了预测,并分析了预测方法存在的缺点。接着,为了克服传统预测方法存在的这些问題,本文在MATLAB中构建BP神经网络,选取前面选取的连云港港口吞吐量影响因素数据作为实证研究对象进行预测,发现预测结果并不理想,通过对预测结果进行分析,发现是BP神经网络中的初始权值和阈值的随意性影响了连云港港口吞吐量预测结果所以本文选择了遗传算法怎么优化bp神经网络對BP神经网络进行优化,以求得到更加理想的预测结果。通过遗传算法怎么优化bp神经网络处理得到的最优初始权值和阈值,并将初始权值和阈值賦值给BP神经网络,并实现网络的训练以及预测输出,得到相关的预测结果,把新得出的评价结果和之前的评价结果进行对比分析可以发现,经过遗傳算法怎么优化bp神经网络优化权值和阈值后的BP神经网络进行评价的效果更佳证明了遗传算法怎么优化bp神经网络优化的BP神经网络在连云港港口吞吐量预测过程中的可行性和有效应。

【学位授予单位】：深圳大学
【学位授予年份】：2017