X P ：输入层的输入矢量；y(P)：输入层输入 x(P)时，输出层的实际输出矢量；t P ：目标输 （ ） （ ） （ ） 出矢量(教师)；net p ：对应于输出层的净输入矢量；h P ：隐层输出矢量；neth P ：隐层净 输入矢量。以上的上标 p 代表第 p 个样本，p=1，2，........，k。

　　网络工程技术综述 人工神经网络算法及其应用 网络工程 111 班 1108060140 刘婷婷

　　摘 要：人工神经网络（artificial neural network，缩写 ANN） ，简称神经网络，是一 种模仿生物神经网络结构和功能的数学模型或计算模型。 神经网络由大量的人工神经元联结 进行计算。 神经元网络是机器学习学科中的一个重要部分， 人工神经网络就是模拟人思维的 第二种方式。这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。 在网络模型与算法研究的基础上，利用人工神经网络组成实际的应用系统，例如，完成某种 信号处理或模式识别的功能、构作专家系统、制成机器人、复杂系统控制、模式识别等等。 本文主要介绍人工神经算法在各个方向的应用。 关键词：神经网络算法；人工神经网络算法应用

　　即： (2)中 x 泛指任一个神经元的净输入，y 代表该神经元对其净输入为 x 时的实际输出。 于是： 令 将(4)代入(1)并写成紧凑的矩阵形式为

　　（5） (5)中等式右边 bi 是已知量，故欲求出 ，应先求出 就可由下式

　　（6） 及(2)式求出 根据线性方程组的基本定理知：(5)有解的充要条件是 一个方面，如 。另

　　各行线性无关，则 lk 时，(5)一般情况下无解，因此要求 l≥k。但为 非奇异，(5)便

　　了使神经网络结构简单，应使 l 尺可以小，故选择，l=k，此时只要 有唯一解 wi=

　　1、背景 人工神经网络的研究，可以追溯到 1957 年 Rosenblatt 提出的感知器模型 。它几乎 与人工智能——AI（Artificial Intelligence）同时起步，但 30 余年来却并未取得人工智 能那样巨大的成功，中间经历了一段长时间的萧条。直到 80 年代，获得了关于人工神经网 络切实可行的算法，以及以 Von Neumann 体系为依托的传统算法在知识处理方面日益显露出 其力不从心后，人们才重新对人工神经网络发生了兴趣，导致神经网络的复兴 。 总体 来说，神经网络经历了从高潮到低谷，再到高潮的阶段，是一个充满曲折的过程。 2、神经网络算法的发展 2.1 BP 人工神经网络 神经网络最早的研究是 40 年代心理学家 Mcculloch 和数学家 Pitts 合作提出的，他们 提出的 MP 模型拉开了神经网络研究的序幕。1986 年 Kumelhart 等人提出误差反向传播神经 网络，简称 BP 网络。目前，BP 网络已成为广泛使用的网络 。 鲁梅尔哈特 (Rumelhart) 和麦克莱兰 (Meclelland) 于 1985 年发展了 BP 网络学习算 法，实现了明斯基的多层网络设想。BP 网络不仅含有输入节点和输出节点，而且含有一层 或多层隐(层)节点。输入信号先向前传递到隐藏节点，经过作用后，再把隐藏节点的输出信 息传递到输出节点，最后给出输出结果。节点的激发函数一般选用 S 型函数。 反向传播(back－propagation，BP)算法是一种计算单个权值变化引起网络性能变化值 的较为简单的方法。 由于 BP 算法过程包含从输出节点开始， 反向地向第一隐含层(即最接近 输入层的隐含层)传播由总误差引起的权值修正，所以称为反向传播 。 反向传播特性与 所求解问题的性质和所作细节选择有极为密切的关系。 对于由一系定的单元互连形成的多层网络， 反向传播算法可用来学习这个多层网络 的权值。 它采用梯度下降方法试图最小化网络输出值和目标值之间的误差平方， 因为我们要 考虑多个输出单元的网络，而不是像以前只考虑单个单元，所以我们要重新计算误差 E，以 便对所有网络输出的误差求和:

　　统设计复杂、成本很高 。为解决这个矛盾，可用具有超分辨性能的信号处理方法替代 FFT 技术，以降低系统对功率和带宽的要求，达到简化设计、降低成本的目的。 John HopfieId 用非线性动力学系统理论中的能量函数方法研究反馈人工神经网络的 ［20--21］ 稳定性，提出描述该网络神经元更新的动态方程 ：

　　今采用 Gauss 列主元消去法求解(5)，文献[8][9]指出该方法一般是稳开云 开云体育平台定的。(5)共需求解 m

　　2.3 基于预测的遗传算法 遗传算法被广泛应用于解决各类优化问题。 常规的遗传算法易于陷入局部最优， 其收敛 速度也较慢。为了提高常规遗传算法的优化性能，将预测的概念引入遗传算法的循环过程， 提出基于预测的遗传算法框架； 并以人工神经网络算法作为预测算法， 提出了一种基于神经 网络颅测的遗传算法。 结果显示该算法具有很强的全局优化能力， 能有效地增强种群的多样 [10] 性和进化速度，明显优开云 开云体育平台于常规遗传算法 。 遗传算法(GA)模拟自然界中的生物进化过程，基于自然界的适者生存法则，通过选择、 交叉和变异等操作实现启发式的全局优化。自 1975 年被首次提出以来，GA 引起了学术界 的广泛关注，其理论得到了极大地丰富和发展。一方面，各种各样的编码规则、选择、交义 和变异算子被提出[11--13]；另一方面，一些研究通过引入某种启发式规则对 GA 的循环过程 进行调整[14--16]，以提高算法性能，如收敛速度、解的质量和全局优化能力等。从第二方面 着手，本文将预测的概念引入 GA 循环过程，提出一种基于预测的遗传算法框架。对于 GA 遗传过程中的每一代种群， 以当前染色体为学习样本， 预测更优的染色体并令其参与下一代 的遗传过程。由于人工神经网络(ANN)能拟合复杂的非线性关系，并具有自组织、自适应和 自学习能力，本文将选用 BP 神经网络作为预测算法。通过测试 8 个典型的瞒数优化问题， 本文还将比较基于神经网络预测的 GA(NeuroPGA)与常规 GA 的优化性能。

　　3、人工神经网络算法的应用举例 3.1 在汽车防撞雷达中的应用 将人工神经网络的方法用于汽车防撞雷达中的信号处理， 该方法基于自相关矩阵分解通 [17] 过对 HopfieId 神经网络能量函数变换，将分解问题转化为一个简单的迭代问题来求解。 随着汽车保有量的不断增加， 如何提高道路的流量、 如何解决天气对高速公路的影响等 [18] 已逐渐引起人们的注意 。 传统中，通常用 FFT 方法实现目标的距离分辨，为实现大的检测距离和高的距离分辨 率，需要采用大带宽、高线性度、大功率的调频源和复杂的收发隔离技术，使得 LFMCW 系

　　如果 T 为对称阵，而且神经元特性函数 f 为单调递增函数，上述方程与如下的能量函数极 ［ ］ 小问题等价 22--25 。 3.2 对水稻需水量的预测 由于 BP 神经网络在解决多参数非线性问题表现出极强的自适应能力，从而可以科学准 确预测需水量，得到 BP 神经网络模型，并结合实际数据进行了检验。试验结果表明，该模 [26] 型能够较好地反映气象因子与水稻需水量之间的关系，预测精度高 。 根据各地实测成果，中国水稻的日平均需水量，夏季为 5～8 mm，春季和秋季为 3～5 [27--28] mm 。 根据长江流域平原历年气候情况，平均每年在 5 月 20 日前后插秧，将水稻按生育期划 分为 6 个阶段：插秧期、返青期、分桑期、拔节孕穗期、抽穗开花期、灌浆成熟期[29--31]。 基于 MATLABS． 7 的 BP 网络建模， 采用 MATLABs． 7 版本中神经网络工具箱编程处理[32]， 由于 BP 网络有自身的不足，因此应用时要改进算法，本试验采用 LM 算法提高训练速度， 网络拓扑结构的确定要根据实际调整。 通过水稻需水量预测可以实现节水灌溉来提高农作物 的产量，改善农产品的质量，实现增产和增收。 3.3 学生信息管理系统设计 传统的学生管理评估具有很强的主观性， 这种依赖于专家经验的评估行为使得学生管理 [33] 评估工作不具备科学性 。由于资料数据来源众多，因而在数据结构上各不相同，单一的 指标及主观判断是导致学生信息评估不稳定的主要原因。 建立在人工神经网络算法模型基础 上的信息管理评估系统，不仅能科学准确的挖掘出评估信息，还能提高评估效率，经实验证 明[34--35]，该算法模型在学生信息管理评估系统中的运用具有较高的可行性和实用性。 3.4 城市地下管网自动监测系统应用方案 城市地下各类管线是城市的重要基础设施，担负着信息传递、能源传送等重要工作，也 是城市赖以生存和发展的生命线。但由于种种原因，现有的各类管线资料残缺不全，且资料 [36] 精度与现状严重不符 。随着城市基础设施建设力度的逐渐加大，获取详尽的地下管线资 料成为亟待解决的问题。提出一种成套的解决方案：利用中国移动的 GPRS 网络无线采集数 据，在上位机使用 BP(多层前馈人工神经网络)算法，分析处理数据，实现地下管网系统的 动态监测。 多层前馈神经网络模型(BP 模型)由输入层、输出层及隐含层组成，隐含层可有一个或 多个，每层由若干个神经元组成。隐含单元与输入单元之间、输出单元与隐含单元之通过相 [37--40] 应的传递强度逐个相互联结，用来模拟神经细胞之间的相互联结 。 3.5 数据挖掘中的人工神经网络算法及其应用 数据挖掘(Data Mining，DM)是从大量的、不完全的、有噪声的、模糊的数据中，

　　Outpus 是网络输出单元的集合， tkd 和 okd 是与训练样例 d 和第 k 个输出单元的相 关输出值。 反向传播训练神经元的算法如下：

　　2.2 一种全新的人工神经网络算法 在 BP 网络算法之后， 又提出一种全新的人工神经网络算法， 它与传统的 BP 网络算法 有着本质的不同。 它不再采用传统的误差反向传播学习原理。 新算法的原理是任选一组自由 权， 通过高斯消元法解线性方程组求得另一组待求权。 因而其算法的时间复杂度是多项式阶。 将选定的自由权和求得的待求权合在一起， 就得到了所需的学习权值。 新算法解决了传统方 法的局部极小及收敛速度慢的问题。 [7] 新的前馈网络算法： 为方便起见，首先对符号规定如下(见图 1)。

　　经元与第 j 个输入缩点的联结权。 现在的问题是：对给定的（x(p)，t(p))，要求寻求一组[W]及[Wf]，当 x(p)作用于网络(图 1) 的输入端时，在输出端得到 t(p)。下面先给出两个定义： 定义 l 隐层与输入层问的联结权 mm 称为自由权，[Ⅳ，]一称为自由权矩阵； 定义 2 输出层与隐层间的联结权％称为待求权，[w]⋯称为待求权矩阵。 由图 1 及上面规定的符号知对 k 个输入样本：开云体育 开云平台开云体育 开云平台开云体育 开云平台