神经网络论文篇(1)

[关键词]MATLABBP神经网络预测模型数据归一化

一、引言

自20世纪70年代初以来的30多年里,世界黄金价格出现了令人瞠目的剧烈变动。20世纪70年代初,每盎司黄金价格仅为30多美元。80年代初,黄金暴涨到每盎司近700美元。本世纪初,黄金价格处于每盎司270美元左右,此后逐年攀升,到2006年5月12日达到了26年高点,每盎司730美元,此后又暴跌,仅一个月时间内就下跌了约160美元,跌幅高达21.9%。最近两年，黄金价格一度冲高到每盎司900多美元。黄金价格起伏如此之大,本文根据国际黄金价格的影响因素，通过BP神经网络预测模型来预测长期黄金价格。

二、影响因素

刘曙光和胡再勇证实将观察期延长为1972年～2006年时,则影响黄金价格的主要因素扩展至包含道琼斯指数、美国消费者价格指数、美元名义有效汇率、美国联邦基金利率和世界黄金储备5个因素。本文利用此观点，根据1972年～2006年各因素的值来建立神经网络预测模型。

三、模型构建

1.模型选择：BP网络具有理论上能逼近任意非线性函数的能力，将输入模式映射到输出模式，只需用已知的模式训练网络，通过学习，网络就有了这种映射能力。2.样本数据归一化：在训练前，对数据进行归一化处理，把输入向量和输出向量的取值范围都归一到[0，1]。

3.BP网络设计：采用单隐层的BP网络进行预测，由于输入样本为5维的输入向量，因此输入层一共有5个神经元，中间层取20个神经元，输出层一个神经元（即黄金价格），网络为5*20*1的结构。中间层的传递函数为S型正切函数，输出层为S型对数函数。中间层的神经元个数很难确定，测试时分别对12，15，20个数进行测试，寻找误差最小的。

4.网络训练:训练次数epochs5000,训练目标goal0.001

对30个样本数据进行训练，经过1818次的训练，目标误差达到要求，如图2所示：神经元个数为20个时误差最小，此时网络的仿真结果如图3所示，预测精度80%以上，效果满意。

四、结论

在对1976年～2006年的影响国际黄金价格的五种因素的数据进行归一化处理后，用MATLAB建立的BP神经网络预测模型进行预测，达到了很好的效果。

国际黄金的长期价格受到许多因素的影响，本文只是对道琼斯工业指数等影响因素诸如分析，来预测长期的国际金价。还有其他因素，如国际油价，局部政治因素等，如果考虑进去，预测精度会进一步提高。

参考文献：

神经网络论文篇(2)

1．1BP神经网络简介神经网络由大量简单的单元构成的非线性系统，具有非线性映射能力，不需要精确的数学模型，擅长从输入输出数据中学习有用知识［7］。神经元是神经网络基本单元。神经元模型如图1所示。由连接权、加法器和非线性激活函数这3种元素组成。1986年，Rumelhart及其研究小组在Nature杂志上发表误差反向传播(errorback-propagation)算法［8］，并将该算法用于神经网络的研究，使之成为迄今为止最著名的多层神经网络学习算法———BP算法［9］。由该算法训练的网络，称为BP神经网络。BP神经网络是一种正向的、各层相互连接的网络。输入信号首先经过输入层传递给各隐含层节点，经过激发函数，将隐含层节点的输出传递到输出节点，最后经过再经过激发函数后才给出输出结果，若输出层的输出和期望输出之间的误差达不到要求，则转入反方向传播，将误差信号沿原来的连接通路返回，通过修个神经网络各层的权值，使过程的输出和神经网络的输出之间的误差信号达到期望值为止［10］。

1．2电池SOC的定义动力电池的剩余电量，是指电池在当前时刻，达到放电截止电压前可以使用的电量。目前，国内外普遍采用荷电状态来表征电池的剩余容量［11］。电池的荷电状态(SOC)是电池的剩余电量与电池的额定电量的比值。

1．3影响电池SOC的因素动力电池是一个非线性系统，其中电池的荷电状态受到很多种因素的影响，主要包括电池的充/放电倍率、自放电、环境温度以及电池的工作状态等因素。(1)电池的充/放电倍率电池的放电电流的大小，会影响电池的容量。在其他条件相同的情况下，电池的放电容量会随着放电倍率的增加而降低［12］。(2)自放电自放电又称荷电保持能力，指在一定的条件下，当电池处于开路状态时，电池对电量的储存能力。电池在自放电的作用下，SOC值会随着存储时间的增加而减小。(3)温度首先，锂离子电池正常工作的温度有一定的要求。动力电池的使用环境温度发生变化时，电池的可用容量也会随之发生变化。在温度较低时，电池活性较低，电池可用容量降低;当温度升高时，电池活性增强，可用容量也随之增多。因此，在预估电池的荷电状态时，需要考虑到电池的温度的影响。

2神经网络SOC估计器设计

2．1实验数据的获取本研究的实验数据是在ADVISOR2002汽车仿真软件上仿真得到的。ADVISOR(AdvancedVehicleSim-ulator，高级车辆仿真器)是由美国可再生能源实验室，在Matlab/Simulink软件环境下开发的高级车辆仿真软件［13］。该软件的界面友好、源代码完全开放，目前已经在世界范围内广泛使用。ADVISOR采用了前向、后向相结合的混合仿真方法。后向仿真方法是在假设车辆能满足道路循环的请求行驶轨迹(包括汽车行驶速度、道路坡度和汽车动态质量)的前提下，计算汽车中各个部件性能的仿真方法，前向仿真是根据驾驶员行为调节部件，使得车辆各部件跟随路面循环工况［14］。本研究在ADVISOR软件搭建了某国产电动汽车的仿真平台。整车的主要技术参数如表1所示［15-16］。模拟行驶程序使用的测试路程是ECE工况、UDDS工况和HWFET工况混合行驶工况，其速度与时间关系曲线如图2所示。ECE工况、UDDS工况和HWFET工况均被广泛应用于电动汽车性能测试。其中ECE工况为欧洲经济委员会汽车法规规定的汽车测试循环工况。ECE工况是用来测试车辆在城市低速道路下车辆的循环工况。其循环时间为195s，车辆行驶的路程为0．99km，最高车速为50km/h。UDDS工况是美国环境保护署制订的城市道路循环工况，用来测试车辆在城市道路下行驶的各种性能的循环工况。其循环时间为1367s，行驶路程为11．99km，最高车速为91．25km/h。HW-FET工况为美国环境保护署制订的汽车在高速公路上的循环工况，用来测试汽车在高速道路上车辆行驶的循环工况，其循环时间为767s，行驶路程为1．51km，最高车速为96．4km/h。在搭建的仿真平台上，本研究进行了仿真，其中电动汽车使用的电池为锂电池。虚拟电动汽车共行驶了2329s，行驶的距离为14．49km。对电动汽车的电池的充放电电流、电池温度和电池的SOC进行采集，得到结果如图3～5所示。

2．2数据预处理根据前文的分析，本研究的神经网络模型训练数据选择如下。本研究选择动力电池的充放电电流和电池的温度作为动力电池神经网络的输入，电池的SOC作为神经网络的输出。在对神经网络训练之前，对训练数据进行归一化操作。归一化操作可以避免各个因子之间的量级差异，加快BP神经网络训练的收敛，减少计算难度。对数据进行如下操作。

2．3动力电池SOC神经网络的训练SOC估计是根据动力电池的电流、温度的数值得到电池的SOC数值。使用神经网络设计估计器的目的是为了能够逼近函数。本研究使用了BP神经网络模型来逼近动力电池的电流、温度和SOC之间的关系，其中BP神经网络的隐含层选择tansig函数。学习算法使用基于数值最优化理论的Levenberg-Marquardt算法作为神经网络的学习算法。

3实验验证及结果分析

为了验证模型的有效性，本研究采用了另外3种工况混合的行驶工况的实验数据作为测试样本数据来验证本研究得到的神经网络模型。这3种工况分别是:普锐斯工况(Prius工况，该种工况用来测试丰田普锐斯混合动力汽车的行驶工况)，CYC_Nuremberg_R36工况(该种工况用来测试德国纽伦堡市36路公共汽车线路工况)和CYC_US06工况(该种工况用来考察测试车辆在高速情况下的行驶状况)。以上3种工况基本上能够模拟出汽车在城市中行驶的加速、减速、低速和高速行驶的各种工况，测试混合工况如图6所示。本研究对得到的测试数据同样进行归一化处理。模型的输入为电池的电流和温度，模型的输出为SOC值。最后，得到的电池SOC的实际值和经过神经网络得到的SOC估计值如图7所示。通过求神经网络模型的输出值和真实值之间的误差值，来评价本研究的神经网络模型的精度。其计算公式如下式所示。得到的神经网模型的估计值与动力电池SOC的真实值之间的误差如图8所示。通过图8可以看出，神经网络估计器的估计值与电池SOC的真实值之间绝对误差的最大值为4%左右，符合动力电池对SOC预测的精度要求。

4结束语

神经网络论文篇(3)

关键字神经网络，BP模型，预测

1引言

在系统建模、辨识和预测中，对于线性系统，在频域，传递函数矩阵可以很好地表达系统的黑箱式输入输出模型；在时域，Box-Jenkins方法、回归分析方法、ARMA模型等，通过各种参数估计方法也可以给出描述。对于非线性时间序列预测系统，双线性模型、门限自回归模型、ARCH模型都需要在对数据的内在规律知道不多的情况下对序列间关系进行假定。可以说传统的非线性系统预测，在理论研究和实际应用方面，都存在极大的困难。相比之下，神经网络可以在不了解输入或输出变量间关系的前提下完成非线性建模[4，6]。神经元、神经网络都有非线性、非局域性、非定常性、非凸性和混沌等特性，与各种预测方法有机结合具有很好的发展前景，也给预测系统带来了新的方向与突破。建模算法和预测系统的稳定性、动态性等研究成为当今热点问题。目前在系统建模与预测中，应用最多的是静态的多层前向神经网络，这主要是因为这种网络具有通过学习逼近任意非线性映射的能力。利用静态的多层前向神经网络建立系统的输入/输出模型，本质上就是基于网络逼近能力，通过学习获知系统差分方程中的非线性函数。但在实际应用中，需要建模和预测的多为非线性动态系统，利用静态的多层前向神经网络必须事先给定模型的阶次，即预先确定系统的模型，这一点非常难做到。近来，有关基于动态网络的建模和预测的研究，代表了神经网络建模和预测新的发展方向。

2BP神经网络模型

BP网络是采用Widrow-Hoff学习算法和非线性可微转移函数的多层网络。典型的BP算法采用梯度下降法，也就是Widrow-Hoff算法。现在有许多基本的优化算法，例如变尺度算法和牛顿算法。如图1所示，BP神经网络包括以下单元：①处理单元(神经元)（图中用圆圈表示），即神经网络的基本组成部分。输入层的处理单元只是将输入值转入相邻的联接权重，隐层和输出层的处理单元将它们的输入值求和并根据转移函数计算输出值。②联接权重(图中如V,W)。它将神经网络中的处理单元联系起来，其值随各处理单元的联接程度而变化。③层。神经网络一般具有输入层x、隐层y和输出层o。④阈值。其值可为恒值或可变值，它可使网络能更自由地获取所要描述的函数关系。⑤转移函数F。它是将输入的数据转化为输出的处理单元，通常为非线性函数。

2.1基本算法

BP算法主要包含4步，分为向前传播和向后传播两个阶段：

1）向前传播阶段

（1）从样本集中取一个样本（Xp，Yp），将Xp输入网络；

（2）计算相应的实际输出Op

在此阶段，信息从输入层经过逐级的变换，传送到输出层。这个过程也是网络在完成训练后正常运行时的执行过程。

2）向后传播阶段

（1）计算实际输出Op与相应的理想输出Yp的差；

（2）按极小化误差的方式调整权矩阵。

这两个阶段的工作受到精度要求的控制，在这里取作为网络关于第p个样本的误差测度，而将网络关于整个样本集的误差测度定义为。图2是基本BP算法的流程图。

2.2动态BP神经网络预测算法

在经典的BP算法以及其他的训练算法中都有很多变量，这些训练算法可以确定一个ANN结构，它们只训练固定结构的ANN权值（包括联接权值和结点转换函数）。在自动设计ANN结构方面，也已有较多的尝试，比如构造性算法和剪枝算法。前一种是先随机化网络，然后在训练过程中有必要地增加新的层和结点；而剪枝法则正好相反。文献[2]中提出了演化神经网络的理念，并把EP算法与BP进行了组合演化；也有很多学者把遗传算法和BP进行结合，但这些算法都以时间复杂度以及空间复杂度的增加为代价。根据Kolmogorov定理,对于任意给定的L2型连续函数f:[0,1]nRm,f可以精确地用一个三层前向神经网络来实现，因而可以只考虑演化网络的权值和结点数而不影响演化结果。基于此，在BP原有算法的基础上，增加结点数演化因子，然后记录每层因子各异时演化出的结构，最后选取最优的因子及其网络结构，这样就可以避免由于增加或剪枝得到的局部最优。根据实验得知，不同的预测精度也影响网络层神经元的结点数，所以可根据要求动态地建立预测系统。具体步骤如下：

（1）将输入向量和目标向量进行归一化处理。

（2）读取输入向量、目标向量，记录输入维数m、输出层结点数n。

（3）当训练集确定之后，输入层结点数和输出层结点数随之而确定，首先遇到的一个十分重要而又困难的问题是如何优化隐层结点数和隐层数。实验表明，如果隐层结点数过少，网络不能具有必要的学习能力和信息处理能力。反之，若过多，不仅会大大增加网络结构的复杂性（这一点对硬件实现的网络尤其重要），网络在学习过程中更易陷入局部极小点，而且会使网络的学习速度变得很慢。隐层结点数的选择问题一直受到神经网络研究工作者的高度重视。Gorman指出隐层结点数s与模式数N的关系是：s＝log2N；Kolmogorov定理表明，隐层结点数s＝2n＋1（n为输入层结点数）；而根据文献[7]：s＝sqrt（0.43mn＋0.12nn＋2.54m＋0.77n＋0.35）＋0.51[7]。

（4）设置结点数演化因子a。为了快速建立网络，可以对其向量初始化，并从小到大排序[4，7]。

（5）建立BP神经网络。隐含层传递函数用tansig，输出层用logsig，训练函数采用动态自适应BP算法，并制订停止准则：目标误差精度以及训练代数。

（6）初始化网络。

（7）训练网络直到满足停止判断准则。

（8）用测试向量对网络进行预测，并记录误差和逼近曲线，评估其网络的适应性。其适应度函数采取规则化均方误差函数。

（9）转到（5），选取下一个演化因子，动态增加隐含层结点数，直到最后得到最佳预测网络。

3基于神经网络的预测原理[4]

3.1正向建模

正向建模是指训练一个神经网络表达系统正向动态的过程，这一过程建立的神经网络模型称为正向模型，其结构如图3所示。其中，神经网络与待辨识的系统并联，两者的输出误差用做网络的训练信号。显然，这是一个典型的有导师学习问题，实际系统作为教师，向神经网络提供算法所需要的期望输出。当系统是被控对象或传统控制器时，神经网络多采用多层前向网络的形式，可直接选用BP网络或它的各种变形。而当系统为性能评价器时，则可选择再励学习算法，这时网络既可以采用具有全局逼近能力的网络（如多层感知器），也可选用具有局部逼近能力的网络（如小脑模型控制器等）。3.2逆向建模

建立动态系统的逆模型，在神经网络中起着关键作用，并且得到了广泛的应用。其中，比较简单的是直接逆建模法，也称为广义逆学习。其结构如图4所示，拟预报的系统输出作为网络的输入，网络输出与系统输入比较，相应的输入误差用于训练，因而网络将通过学习建立系统的逆模型。但是，如果所辨识的非线性系统是不可逆的，利用上述方法将得到一个不正确的逆模型。因此，在建立系统时，可逆性应该先有所保证。

4应用实例分析

以我国西南某地震常发地区的地震资料作为样本来源，实现基于动态神经网络的地震预报。根据资料，提取出7个预报因子和实际发生的震级M作为输入和目标向量。预报因子为半年内M>=3的地震累计频度、半年内能量释放积累值、b值、异常地震群个数、地震条带个数、是否处于活动期内以及相关地震区地震级。在训练前，对数据进行归一化处理。由于输入样本为7维的输入向量，一般情况下输入层设7个神经元。根据实际情况，输出层神经元个数为1。隐含层神经元的传递函数为S型正切函数，输出层也可以动态选择传递函数。实例数据来自文献[4]，将数据集分为训练集、测试集和确定集。表1中的7×7数组表示归一化后的训练向量，第一个7表示预报因子数，第二个7表示样本数。

表1归一化后的训练向量

在不同神经元数情况下，对网络进行训练和仿真，得到如图5所示的一组预测误差曲线。其中，曲线A表示隐层结点数为6时的预测误差曲线，曲线B表示隐含层结点数为3时的预测误差曲线，曲线C表示隐含层结点数为5时的预测误差曲线，曲线D表示隐含层结点数为4时的预测误差曲线。将五种情况下的误差进行对比，曲线C表示的网络预测性能最好，其隐含层神经元数为5，图中曲线E表示的是隐含层结点数为15时的预测误差曲线（文献[4]中的最好结果）。同时也证明，在设计BP网络时，不能无限制地增加层神经元的个数。若过多，不仅会大大增加网络结构的复杂性，网络在学习过程中更易陷入局部极小点，而且会使网络的学习速度、预测速度变得很慢。

5结论

本文针对基本的BP神经网络，提出了可动态改变神经元数（与精度相关）的BP神经网络预测方法，可以根据实际情况建立预测系统。用此种方法可以建立最好的神经网络，不会有多余的神经元，也不会让网络在学习过程中过早陷于局部极小点。

参考文献

[1]YaoX,LiuY.FastEvolutionaryProgramming.inEvolutionaryProgrammingⅤ:Proc.5thAnnu.Conf.EvolutionaryProgram,L.Fogel,P.AngelineandT.Bäck,Eds.Cambridge,MA:MITPress,1996,451-460

[2]XinYao,YongLiu,ANewEvolutionarySystemforEvolvingArtificialNeuralNetworksIEEETRANSACTIONSONNEURALNETWORKS,VOL8,NO.31997，694-714

[3]潘正君，康立山，陈毓屏.演化计算[M].北京:清华大学出版社，1998

[4]飞思科技产品研发中心.神经网络理论与实现.北京:电子工业出版社，2005

[5]蔡晓芬，方建斌.演化神经网络算法.江汉大学学报，第33卷第3期，2005.9

神经网络论文篇(4)

BP神经网络模型的应用范围比较宽广，它也是众多神经网络模型中的一种使用效率较好的方式。该种神经网络利用存储空间和不断学习注入新的内容将工程造价中的输入、输出关系具体呈现出来，运行时，可以有效降低网络使用的误差几率。这一过程中使用的算法为梯度下降法，利用反向传播的理论对网络中的权值和阀值进行灵活调整和运用。BP神经网络中统计数据的输入是由输入层完成的，输入层直接和隐层相联系，隐层又直接和输出层对接，而隐层可由单一层充当，也可以是多层结构，此时输入层和输入层之间神经个数的具体量可以根据系统公式来定，因此数据在输入后的输出过程比较便捷。实际运算中，每一神经元连接强度的权值存在差异性，输入数据的影响程度也会随着权值的增大而加深。BP神经网络算法通常包括两项内容，一是通过正向传播的样本输入，二是通过反向传播的误差数据反馈修正权值。正向传播主要是从输入层完成样本的输入过程，接着经过隐层将数据信息传递到输出层，此时若实际输出结果和期望数值存在的差异，已经超过了事先设定的误差，则为反向传播。如果实际的输出值和期望效果的差异比事前设定值要小，系统结束学习算法。该种算法可以利用反复学习与功能连续锻炼的机会而促进运行过程的不断更新，对权值和阀值的灵活调整要通过几百次甚至几万次的映射，同时也要经过正向传播和反向传播的交替运行来完成，这样才可以最大限度降低误差。

2TOC理论概述和在工程造价预控中的应用

TOC理论也叫做约束理论，英文全称是TheoryofContraint，起初是用在制造业中的管理思维方式。不同事物中或者客观系统中，对事物发展方向产生重要影响的总是关键的极少数，而绝大多数处于被制约地位，这是TOC理论的假设基础，因此在对系统进行控制和领导时，只要将关键部分管理好，则可以收到事半功倍的效果。这一理论在工程造价的预控中有着重要的实践意义。通过将影响工程造价超支的各种因素找出来，并罗列出最为关键的因素，作为调节造价的杠杆，着重控制这些因素，尽力消除制约，提高控制效率，可以实现预期的建设目标。关键链法是在TOC理论上形成的常用操作方式，同时也提出了TOC在对待并行项目中如何有效实现资源共享的办法，核心原则是遵循整体优化而非局部优化方针，也即要在工程项目中，每一环节都要秉持着整体优化准则，将完成每一工序的保守时间抽出来，用一个合理的概率乘以相应工序时间值来作为工序的估计时间，同时还要在其中考虑相关的资源约束性。关键链的思考方式就是将时间和资源的约束性加以管理，把关键链网络化并对项目和资源进行合理的规划与整合，对工程造价控制过程的管理具有实践应用意义，一般采用五步法实施，一要找出制约系统运行的因素，二是将制约因素中存在的潜力充分挖掘出来，三是使系统中的其余任务都服从第二步的挖掘策略，四是不断提升制约因素的能力，五是若已有的制约因素已经消除，回到第一步，否则回到第二步，但是在回到第一步时不要让管理惯性成为新的制约因素。

3BP神经网络与TOC理论联合使用对工程造价预控作用

工程造价通常是指一般的建设工程从计划筹建到竣工验收交付这一过程中，各个环节运作需要投资的总和，兼具投资和成本的双重性。工程造价通从政府部门角度衡量算作一种投资从开发商角度来说则属于项目成本。利用BP神经网络和TOC理论可以对工程造价起到准确的预测作用，同时可以有效控制工程造价成本，最关键的问题是要处理好BP神经网络最终预测结果与TOC理论的有机结合方式。一般来说，当工程造价中的BP神经网络模型投入使用时，选择的样本数据也满足建模的需求，那么可以进行拟建工程的初步概算，同时，也可以将合同金额的有关数据信息当做预测分析应用数据加以利用，计算出预测结果，确定建设工程决算和合同金额相比，实际增加或者降低的比值，依据预测结果的正值，可以为项目工程成本的超支项和负值节约不必要的开销，按照预测结果中的向量水平将与其对应的合同各条款项相乘得出最终的统一值，依据制约理论的原则将该项结果的一半作为工程施工预留金控制的一部分，根据实际的情况，对预留金中的每一项采取增加或者减少的方式，确保新合同中的金额数量能够满足工程造价的需求，或者以此为依托，再形成新的金额向量。在这份新合同中，所计算的金额不仅包括原来工程量的清单计算方式，并且是已经进行优化的，具有可操作意义的，同时也包括了未来拟建工程依据原先的预测结果而形成的工程决算金额计划，是具有科学预测性和前瞻性的，也能够考虑到当前的状态。所以，单纯拟建工程项目在最初成本预测方面并不具有显著的优势，这和影响成本增高的因素有关。例如工程量的大小、工期的延长时间不同等，所以仅仅采用传统的计算和预测方式没有办法获取更为准确的数据，利用BP神经网络可以更为精确地计算和度量各种数据，同时也可以为工程预算过程和建设目标成本控制提供更为科学的依据。TOC理论则在工程建设监督管理中发挥重要的作用，过程控制水平也会对造价预控质量起到重要的影响，即便预测得再精确与科学，离开完善的过程控制和管理，造价预控水平依然达不到预期的目的。TOC理论的运用，能够有效发现工程建设中合同金额出现的变动问题，新构建的合同在实行过程中难免会遇到实际阻力，如果工程成本管理中出现了与原计划背离的迹象，或者工程的决算方向没有依据BP神经网络的预测规则，那么很容易造成工程运行的瓶颈问题，此时为了保证工程建设项目的顺利进行，或者为将风险与损失控制在最小范围内，就要当机立断根据预留资金的数量对整个决算实施过程进行相应的调整，同时还要对工程总合同金额做出适当的调整，以便使得每一环节都能够协调运作，确保瓶颈问题不会带来无法弥补的损失，控制好工程建设朝着良性循环方向发展。TOC理论的应用是为BP理论在过程干预中进行的补充，使二者达到优势互补的效果，BP神经网络重在事前的控制，也即通过精确计算和预测，可以提高事前控制力度，而TOC理论对过程控制效果良好，是典型的事中控制理论，将工程造价的事前控制与事中控制有机统一在一起，造价预控水平大为提高，可为工程建设项目节约成本的同时创造利润，也是实现资源优化配置的有效途径。

4总结

神经网络论文篇(5)

人工神经网络（AartificialNeuralNetwork，下简称ANN）是模拟生物神经元的结构而提出的一种信息处理方法。早在1943年，已由心理学家WarrenS.Mcculloch和数学家WalthH.Pitts提出神经元数学模型，后被冷落了一段时间，80年代又迅猛兴起［1］。ANN之所以受到人们的普遍关注，是由于它具有本质的非线形特征、并行处理能力、强鲁棒性以及自组织自学习的能力。其中研究得最为成熟的是误差的反传模型算法（BP算法，BackPropagation），它的网络结构及算法直观、简单，在工业领域中应用较多。

经训练的ANN适用于利用分析振动数据对机器进行监控和故障检测，预测某些部件的疲劳寿命［2］。非线形神经网络补偿和鲁棒控制综合方法的应用（其鲁棒控制利用了变结构控制或滑动模控制），在实时工业控制执行程序中较为有效［3］。人工神经网络（ANN）和模糊逻辑（FuzzyLogic）的综合，实现了电动机故障检测的启发式推理。对非线形问题，可通过ANN的BP算法学习正常运行例子调整内部权值来准确求解［4］。

因此，对于电力系统这个存在着大量非线性的复杂大系统来讲，ANN理论在电力系统中的应用具有很大的潜力，目前已涉及到如暂态，动稳分析，负荷预报，机组最优组合，警报处理与故障诊断，配电网线损计算，发电规划，经济运行及电力系统控制等方面［5］。

本文介绍了一种基于人工神经网络（ANN）理论的保护原理。

1、人工神经网络理论概述

BP算法是一种监控学习技巧，它通过比较输出单元的真实输出和希望值之间的差别，调整网络路径的权值，以使下一次在相同的输入下，网络的输出接近于希望值。

在神经网络投运前，就应用大量的数据，包括正常运行的、不正常运行的，作为其训练内容，以一定的输入和期望的输出通过BP算法去不断修改网络的权值。在投运后，还可根据现场的特定情况进行现场学习，以扩充ANN内存知识量。从算法原理看，并行处理能力和非线是BP算法的一大优点。

2、神经网络型继电保护

神经网络理论的保护装置，可判别更复杂的模式，其因果关系是更复杂的、非线性的、模糊的、动态的和非平稳随机的。它是神经网络（ANN）与专家系统（ES）融为一体的神经网络专家系统，其中，ANN是数值的、联想的、自组织的、仿生的方式，ES是认知的和启发式的。

文献［1］认为全波数据窗建立的神经网络在准确性方面优于利用半波数据窗建立的神经网络，因此保护应选用全波数据窗。

ANN保护装置出厂后，还可以在投运单位如网调、省调实验室内进行学习，学习内容针对该省的保护的特别要求进行（如反措）。到现场，还可根据该站的干扰情况进行反误动、反拒动学习，特别是一些常出现波形间断的变电站内的高频保护。

3、结论

本文基于现代控制技术提出了人工神经网络理论的保护构想。神经网络软件的反应速度比纯数字计算软件快几十倍以上，这样，在相同的动作时间下，可以大大提高保护运算次数，以实现在时间上即次数上提高冗余度。超级秘书网

一套完整的ANN保护是需要有很多输入量的，如果对某套保护来说，区内、区外故障时其输入信号几乎相同，则很难以此作为训练样本训练保护，而每套保护都增多输入量，必然会使保护、二次接线复杂化。变电站综合自动化也许是解决该问题的一个较好方法，各套保护通过总线联网，交换信息，充分利用ANN的并行处理功能，每套保护均对其它线路信息进行加工，以此综合得出动作判据。每套保护可把每次录得的数据文件，加上对其动作正确性与否的判断，作为本身的训练内容，因为即使有时人工分析也不能区分哪些数据特征能使保护不正确动作，特别是高频模拟量。

神经网络的硬件芯片现在仍很昂贵，但技术成熟时，应利用硬件实现现在的软件功能。另外，神经网络的并行处理和信息分布存储机制还不十分清楚，如何选择的网络结构还没有充分的理论依据。所有这些都有待于对神经网络基本理论进行深入的研究，以形成完善的理论体系，创造出更适合于实际应用的新型网络及学习算法［5］。

参考文献

1、陈炳华。采用模式识别（智能型）的保护装置的设想。中国电机工程学会第五届全国继电保护学术会议，［会址不详］，1993

2、RobertE.Uhrig.ApplicationofArtificialNeuralNetworksinIndustrialTechnology.IEEETrans，1994，10（3）。（1）：371～377

3、LeeTH，WangQC，TanWK.AFrameworkforRobustNeuralNetwork-BasedControlofNonlinearServomechannisms.IEEETrans，1993，3（2）。（3）：190～197

神经网络论文篇(6)

由于数据的获取难度较大，因此本文借用了相关文章的数据[4]，选取了湖南省十一个省市的数据作为研究的样本，为了确保输入数据（包括训练以及将来要预测的数据）在比较接近的范围里，我们需要对数据进行归一化处理。本文的数据主要包括输入数据和期望输出数据，输入数据主要是湖南省十一个市的电子政务指标数据，包括16个输入维度，输出的是对电子政务系统的评价结果，主要包括：好、较好、一般、较差、差五个结果。利用下面的线性函数转换方法完成数据的归一化。公式中的P为归一化处理后的数据，P1为原始数据，P1min为原始数据中的最小值，P1max为原始数据中的最大值。通常情况下，用于测试的输入数据所对应的输出数据不是量化数据，比如本文中所提到的好、较好、一般、较差、差五个结果。因此本文的输出数据主要使用的是专家评价得出的分数，来对电子政务绩效做出评价，分数评价结果的对应关系为：1-3为差，3-5为较差，5-7为一般，7-9为较好，9以上为好。经过归一化处理过的指标数据和通过专家评价得出的评价结果如表2所示。

2输入层、输出层及隐层节点的设计

由于一个三层的前向网络具有以任意精度逼近任意一个非线性函数的能力，因此，只需构造一个输入层、一个隐层和一个输出层的3层神经网络。本文中的电子政务绩效评价指标体系共包括成本效益、服务对象、内部运营及学习与发展四个指标维度，然后又将其细分成16项三级指标，也就是说神经网络输入层的维度为16，即输入层神经元个数Pn=16。输出层输出的结果是我们对电子政务系统的评价，而我们把评价结果好、较好、一般、较差、差作为网络的唯一输出，因此，输出层神经元个数为r=1。1988年Cybenko[11]大量的研究表明在三层神经网络中一个隐藏层就可以实现任意分类的问题，以任何精度来实现任意非线性的输入和输出的映射。本文将隐藏层设置为一层。隐藏层节点的选择也是一个复杂的问题，如果隐层节点数比较少的话，则有可能导致网络训练者性能很差；如果选择较多的隐层节点数，虽然能够降低系统误差，但是会使网络训练的时间增加，而且也极易使训练陷入局部极小点而得不到最优点，最终会导致训练出现“过拟合”的现象。其中n为输入层节点数，m为输出层节点数，a为1~10之间的常数。

3基于BP神经网络的电子政务绩效评价模型的设计

利用BP神经网络对电子政务绩效进行评价的主要步骤有：第一步：根据电子政务发展过程中的相关影响因素，选取合适的电子政务绩效评价的指标数据，利用相关的算法对指标数据进行标准化处理[5]，将处理后的指标数据x1，x2，x3，⋯，xn作为输入BP神经网络的输入值。第二步：在输入层输入数据以后，数据会在神经网络中正向传播，数据在隐藏层进行一层一层的处理，然后会把处理后的数据传向输出层，输出层得到的数据就是实际的输出值Y。第三步：当输出层得到实际的输出值以后，会和期望值进行比较，如果输出值和期望值不相等，那么会根据相关的公式计算出误差，然后把误差信号按照原来的路径进行反向的传播，通过不断的循环的传播来调整隐藏层神经元的权重，从而使误差越来越小。第四步：不断的重复前面的第二步和第三步，一直到误差可以小到某个阈值，然后停止训练和学习，只有选择的样本足够多时，神经网络的训练才更精确，输入的样本数据不同，得到的输出向量也会不同，当所有的数据样本的数据值和期望值误差最小的时候，综合评价结果更为接近，神经网络的权重值Wij就是BP神经网络通过训练和自适应的学习得到的一个内部的表示。对选取的样本进行训练以后，我们就可以利用BP神经网络的训练模型对电子政务绩效进行评价，而且可以对大规模的电子政务进行绩效评价，因为神经网络具有一定鲁棒性[6]，那么会导致出现主观综合评价值在一定的程度会与实际值存在少量偏差，但是这个偏差不会影响评价结果。

4应用粒子群算法优化BP神经网络模型

1995年两位美国学者对鸟群的群体迁徙和觅食的过程进行了模拟，从而提出了一种智能的优化算法-粒子群优化算法[7]（ParticleSwarmOptimization，PSO），随着近年来粒子群算法的不断应用，已经逐渐成为一种新的优化算法。粒子相继两次位置的改变取决于粒子当前位置相对于其历史最佳位置和群体历史最佳位置的变化。因此，若把网络的权值看作是PSO算法中粒子的位置，则在网络训练过程中，相继两次权值的改变可视作粒子的位置的改变。因而类比公式3，网络的权值改变量计算公式。

5实例分析

神经网络论文篇(7)

关键词：轧制力；BP神经网络；加法模型

0 引言

BP神经网络属于人工智能方法，而人工智能方法与传统轧制理论不同，它是模拟人脑，以已经发生了的实实在在的事情为依据来指导轧制生产 [1]。目前将人工智能的方法引入到轧制生产中已经成为轧制发展的趋势。

1 数学模型与BP神经网络结合实现对轧制力的预报

目前神经网络用于轧制力预报主要两种方式[2]，一种是直接用神经网络去预报轧制力。另一种是采取神经网络和传统数学模型结合来预报轧制力。而将神经网络和数学模型结合起来，能够发挥二者的优势。目前结合方式有加法模型和乘法模型[3]，本论文拟选用加法模型，即用传统轧制力模型算出轧制力的主值，用神经网络来预测传统模型计算误差，以二者的和做为最后的输出。

2 BP神经网络设计

BP神经网络结构的设计包括输入、输出层节点数，隐含层层数和隐含层节点数的确定，神经网络训练算法的选取等。

1）网络输入、输出变量的确定

选用入口板厚、出口板厚、轧制温度、轧制速度、摩擦系数为神经网络输入，以实际轧制力与传统模型预测轧制力之间差值为神经网络输出。

2）隐含层数数目和隐含层节点数的确定

一般来说，先根据经验公式初步确定隐含层节点数，然后经过多次试算，综合考虑逼近精度、泛化能力和训练时间，确定最终的隐含层节点数。本论文通过多次试算，最后确定网络结构为5-9-14-1，即输入值为2，隐含层数为2，第一、二隐含层节点数分别为9、14。

3 样本数据的选择以及预处理

1）BP神经网络训练和测试数据的选取学习样本数量与网络结构存在如下关系[4]：

式中，n、m分别为神经网络输入、输出变量数目；h为隐含层节点数目；p为学习样本数目；

以某公司"1+4"铝热连轧现场采集的实测数据为训练样本，剔除掉不稳定轧制阶段数据和奇异点数据，从三卷实测数据中选取200组数据用于神经网络训练，选取第二卷、第三卷数据中100组数据用于神经网络测试。

2）数据归一化处理

由于网络一般含有多个输入，而每个输入在数值上可能相差很大从而导致输入变量之间不具有可比性。而对数S形函数的值域为[0，1]，在靠近0和1两端函数变化非常缓慢接近直线。为了防止大数将小数淹没的情况发生，一般要对原训练数据进行归一化处理。本论文将原数据归一化到[0.1，0.9]区间，公式如下：

4 神经网络修正轧制力过程

考虑到有四个机架，而每个机架具有相同的物理结构，构造4个具有相同结构的BP神经网络模型。从第一卷现场采集数据中读取相关数据后，采用经典轧制理论模型计算轧制力、轧制温度和摩擦系数，然后进行归一化处理以确定神经网络的训练输入、输出数据。然后读取第二卷数据，以传统轧制力模型计算轧制力主项，以神经网络预测模型误差，得到网络输出后进行反归一化处理然后与轧制力主项相加，得到最终的轧制力。

5 神经网络轧制力修正结果与分析

以第一机架轧制力计算为例，将神经网络用选取的样本数据训练好后，用测试数据对神经网络进行测试，以检测神经网络的泛化能力，验证神经网络的有效性。其中，用第一卷轧制数据作为样本数据对神经网络进行训练，用第二卷轧制数据对神经网络模型进行验证。神经网络对传统模型轧制力进行修正后预报情况图1、2所示，从图中可以看出，采用神经网络对传统轧制力模型进行修正后，轧制力预报精度得到提高。采用传统模型计算轧制力，最大误差为9.8380%，而采用神经网络修正后，第二卷铝轧制力预报最大误差为2.7962%，可见修正后轧制力模型预报精度得到进一步的提高。

6 结论

本论文在考虑经典轧制力数学模型与BP神经网络各自的优缺点的基础上，采用BP神经网络与传统轧制力模型相结合的方式用于轧制力的预报。计算结果表明，将训练好的神经网络与传统模型结合起来，可以在一定程度上提高轧制力预报模型计。

参考文献

[1] 张小平，秦建平. 轧制理论 [M].北京，冶金工业出版社，2006： 111-120.

[2] 张延华，刘相华，王国栋. BP神经网络和数学模型在中厚板板凸度预报中的综合应用[J]. 塑性工程学报，2005，12（4）：58-61.

[3] 王秀梅，王国栋，刘相华. 人工神经网络和数学模型在热连机组轧制力预报中的综合应用[J].钢铁，1999，34（3）：39-40.