BP神经网络是一种在分类和预测中应用非常广泛的方法, 但是BP神经网络方法存在着泛化能力差, 易于陷入局部最优等缺点。而神经网络集成则是对多个子神经网络的结果进行组合, 而差异度较大的子网络可以使集成具有很好的泛化能力, 为此, 本文引入负相关学习算法, 旨在增大子神经网络的差异度以改善集成后网络系统的性能。
在1996年, Krogh为神经网络集成下了一个定义:即“神经网络集成是用有限个神经网络对同一个问题进行学习, 集成在某输入示例下的输出由构成集成的各神经网络在该示例下的输出共同决定”。
对神经网络集成实现方法的研究主要集中在两个方面:即怎样将多个神经网络的输出结论进行结合以及如何生成集成中的个体网络。
当神经网络集成用于分类器时, 集成的输出通常由个体网络的输出投票产生, 通常采用绝对多数投票法或相对多数投票法。理论分析和大量试验表明:后者优于前者。因此, 在对分类器进行集成时目前大多采用相对多数投票法。
在生成个体网络的方面, 最重要的两个技术是Boosting和Baggaging。区别在于两者的训练集的选择方式的不同:前者的训练集选择是独立的, 而后者训练集的选择依赖于前一轮学习结果。
而负相关学习法则立足于通过在神经网络集成中各子神经网络的误差函数中引入一个相关性惩罚项来并行训练这些子网络。也就是说, 每个子神经网络训练的目的是使得整个神经网络集成取得最好的训练结果。
负相关学习算法主要流程:设有一组训练数据和其对应的期望输出。选取第n个测试样本以及对应的期望输出进行学习。
Step1根据各子网络输出计算出集成神经网络的输出F(n)
Step2定义带有惩罚项的误差函数
其中λ为调节惩罚强度的参数 (0≤λ≤1)
Step3使用BP算法和Step2中提到的新的误差函数来训练神经网络并调整权值。
客观世界信号的本质决定了模拟电路无处不在和不可替代性。模拟电路测试和故障诊断无法回避, 开展相关的理论和方法研究尤为重要。本文利用基于负相关学习的神经网络集成对采集的故障信息进行了模式识别。
现对于采集有五组数据, 分别是:r1p (实际值大于标称值) , r1m (实际值小于标称值) , c1p (实际值大于标称值) , c1m (实际值小于标称值) , normal (正常) 。将上述数据送入负相关算法的神经网络中进行分类。
表1分别是BP神经网络和λ=0.5时负相关神经网络的分类结果。
从实验结果上看, 负相关网络的识别正确率要高于BP神经网络。
本文通过分析传统神经网络集成的不足, 引出用负相关学习算法, 并将其应用于模拟电路故障诊断。实验结果表明:基于负相关学习法的神经网络集成比单个子网和传统神经网络集成, 能有效地提高其泛化能力。但负相关学习法中的惩罚系数的选取将影响神经网络集成的泛化能力。因此, 如何快速选择合适的惩罚系数是下一步要解决的问题。
摘要：传统的BP神经网络泛化能力较差, 易于陷入局部最优。为此, 提出并将基于负相关学习法的神经网络集成应用于模拟电路故障诊断的研究。实验结果表明基于负相关学习法的神经网络集成比单个子网和传统神经网络集成更能有效地泛化能力。
关键词：神经网络,负相关学习,分类,模拟电路故障诊断
[1] 彭种, 樊锐, 刘强.基于人工神经网络的电路故障诊断专家系统[J].系统:几程与电子技术, 2002, 24 (10) :116-119.
[2] 徐敏.神经网络集成在图书剔旧分类中的应用[J].计算机工程, 2006, 32 (20) :210-212.
[3] Liu Yong, Yao Xin.Simultaneous Training of NegativelyCorrelated Neural Networks in an Ensemble[J].IEEE Trans-actions on Systems, Man and Cybe Metics-PartB, 1999, 26 (6) :7 1 6-7 2 5.
[4] Liu Y, Yao X.Ensemble Learning via Negative Correlation[J].Neural Networks, 1999, 12 (10) :1399-1404.
[5] 阎平凡, 张长水.人工神经网络与模拟进化计算[M].北京:清华大学出版社, 2000.
推荐阅读：
人脸识别核心算法技术06-07
数据结构和算法06-10
软件安全中混合加密算法05-25
实验数据结构与算法06-23
c语言排序算法总结06-25
党规党纪知识竞赛模拟题模拟题2答案06-26
沙盘模拟06-05
模拟考试作文06-06
