未来智讯 > 神经网络论文 > 一种新型组合神经网络模型研讨

一种新型组合神经网络模型研讨

发布时间:2019-01-11 01:06:01 文章来源:未来智讯    
    一种新型组合神经网络模型研讨作者:未知   [摘要]神经网络是现代人工智能的最重要的研讨领域之一,由于单一神经网络存在诸多的局限和不足,最初简要分析单一神经网络的局限,然后提出一种新型的综合神经网络模型,模型由多个神经网络组成,使各个网络之间有相互关联,是几个神经网络模型有机联合起来后综合的结果。
  [关键词]神经网络 组合神经网络 模型
  中图分类号:TP3文献标识码:A 文章编号:1671-7597(2008)1220013-01
  
  一、单一神经网络的局限
  
  神经网络作为一种通用的非线性辨识模型,已经广泛的应用于非线性时间序列的分析预测和抑制中。然而,单个神经网络在应用中仍存在着一些问题:
  1.可理解性差。神经网络在预测能力方面的优势是以牺牲其可理解性为代价的。由于在模型中引入非线性所增加的解析困难,难以像对现行模型那样发展出一套基于几率统计的模型辨识技能。
  2.选择合适的模型对照困难。单个神经网络建立预测模型时有些因素直接影响着它的预测精度,这些因素包括:输入变量的选择、网络结构的确定以及需要多大的训练集。在实际运用过程中,研讨者所掌握的全部资料可能仅是一个一维(或多维)的时间序列。由于缺乏用以进行模型辨识的先验知识,研讨者或者不得不退而选取传统的线性模型;或者需要依靠经验和不完备的经验来进行神经网络模型的辨识。显然,这两种解决方法经常是不充分的:前者无法有效应用于非线性时间序列;后者无法保证对最优模型的选择。
  3.选出的模型不能保证是最优的。只管建立一个神经网络模型时需要考虑各种各样的参数,但通过训练一组不同的神经网络,然后根据各个神经网络在验证集上的预测效果选出最好的网络作为最后的预测器。这样选择的样本依然存在的缺陷,因为在验证机上取得好的效果并不能保证该神经网络在新的数据集上取得同样的效果。当数据有噪声并且时间序列本身是不平稳的情况下,这个问题就更突出了。
  
  二、新型组合神经网络模型的提出
  
  对于单个网络的局限,鉴于实际应用情况的不规律性,下面提出一种多角度建立多个单个子网络的组合神经网络,用以解决上述单个神经网络所面临的困难和不足。由于实际中的很多预测问题能够由不同角度分辨建立不同的模型,并由其得到互不相同的预测值,而且大多数问题中基本上为非线性问题的,因此,能够由不同神经网络从不同角度分辨对同一具体问题所建立的模型,从而会有多个神经网络对同一个问题做出预测,得出多个不同预测值。即我们能够得到的多个数学模型,都能从某个角度对照准确的反映真实系统中的输入输出以及状态之间的定量关系,但无从得知何者更为精确。对此,本文提出了一种新型的综合神经网络模型,模型由多个神经网络组成,使各个网络之间有相互关联,每个神经网络代表由该角度所建立的数学模型,在输出层得到各自模型的预测值,将各模型结果有机的关联起来,使之得到统一的结果,即为几个神经网络模型有机联合起来后综合的结果。在具体的实现中,可将各模型的输出值对照后的差值作为误差进行反向传播,按照梯度降落法调整各层神经元的权值和阈值,使误差信号逐渐减小,最后使得各个神经网络模型输出层的各个输出值之间的差值减小到实际要求的精度范围,从而使各个神经网络模型得到统一的预测值。本文提出的新型综合神经网络通过由不同角度建立的不同神经网络(异因)有机联合起来,而建立的一个综合的神经网络(关联),使之最后得到统一输出结果(同果)。
  
  三、新型组合神经网络模型网络结构
  
  如前所说,这种新型关联神经网络是由多个神经网络组成的综合神经网络,为了清晰地展示其原理,本文将以从两个不同角度建立的关联神经网络模型为例来建立模型,其中的算法可容易地推广到多个角度的关联神经网络模型。其神经网络模型结构如图1所示。
  
  此关联神经网络由两个网络组成,根据已有样本来考虑实际问题时,可将样本数据划分为ur、uv分辨为两个神经网络的输入向量,yr、yv为输出向量。由样本ur、yr。可建立角度一的神经网络模型,由样本数据uv、yv,可建立角度二的神经网络模型,此二模型均可独立对实际问题进行预测;在此二模型建立完备的基础上,关联神经网络模型将二者通过其共同的预测值关联起来,对照、反馈继而再训练,直到二模型的预测值差值达到一定的范围后方可结束模型训练。
  
  四、新型神经网络模型学习算法
  
  根据传统的梯度降落法,提出了本文的神经网络的算法,将其构成原理如下,新型神经网络模型由正向传播、终值对照和误差反向传播组成。
  1.正向传播中,输入信号从ur、uv各自输入层经隐层传向输出层,得到各自输出yr和yv。
  2.终值对照由两局部构成:
  (1)r网络与v网络输出层预测值与各自实际历史数据进行对照,判断其差值是否在误差范围内。
  (2)r、v两个网络交叉联合点的预测值之间的差值是否在期望误差之内即两个网络的预测是否统一。如果在期望的误差范围之内,则算法结束;否则,转至反向传播。
  (3)误差反传是将误差信号按原连接通路反向计算,由梯度降落法调整各层神经元的权值和闭值,使得误差信号逐渐减小。
  
  五、新型组合神经网络模型的特点
  
  (一)预测点指标值扮演的角色
  1.在传统的神经网络模型中,预测点并未参与模型的学习训练,仅仅是作为预测值存在,当由所提供的数据用BP模型训练完毕后,在有指标预测值对应数据输入模型计算后直接推出的预测值。
  2.组合神经网络模型中,推测点在扮演预测值的决策的同时,还参与了模型的两个分BP模型的训练,直到两个BP模型的预测值的差值在所需误差值之内为止,方中断训练,并由此可得最后工业总产值预测值。
  (二)精确度区别
  1.传统模型中,由于不同角度之间关联不大,无法综合两类样本数据建立模型,使得各自建立的BP模型无法充分利用所给的数据,而使得各模型分辨求得的预测值无从选择何者为最合理的结果。
  2.新型神经网络模型中,两个联系不大的数据分辨在各自的BP模型中进行训练,本身交叉点的预测值的对照回馈训练将两者完美的联合在一同,因此训练数据全面,最后的精度也会较高。
  
  六、应用实例讨论
  
  运输系统作为社会经济系统中的一个子系统,在受外界因素影响和作用的同时,对外部经济系统也具有一定的反作用,使得运输需求同时受到来自运输系统内外两方面因素的影响。
  从货运量的产生来看,它是外部经济需求和运输系统供给两方面因素共同作用的结果。在外部经济系统地作用看,在经济体系内部存在许多影响货运需求的因素,将这些因素总结起来,有两大局部:一局部属于各种经济总量因素,如国民经济发展规模、工业发展规模及基建规模等;另一局部属于各种经济结构因素,如家当结构、工业结构等。货运需求不但受国民经济总量的影响,还要受经济结构因素的影响。从内部运输系统的作用来看,也存在类似情况。因此,货运量影响因素整体上可分为规模因素和结构因素两类,其中结构类因素主要体如今家当结构和运输结构上。在国民经济发展的不同阶段,规模因素和结构因素在货运量增长中所起的作用也不同,货运量增长变化也呈现不同形式。同时,由于运输市场中供需非均衡性客观存在,内外部系统对货运量的影响不一,而且由于作用形式复杂,这就使得货运量预测具有较大的复杂性和非线性等特点。我们既能够根据规模因素建立模型预测,也能够根据结构因素进行预测。
  根据对关于货运量影响因素的分析,这里分辨采用国内生产总值GDP和工业总产值作为规模因素的因子,采用铁路运输线路长度、铁路货车数量、公路运输线路长度、民用载货车辆数量以及复线里程比重和等级公路比重作为结构因素的因子,共计8项目标作为货运量的影响因子(其中,前两者为规模因素,此为角度1;后六者为结构因素,即为角度2),以货运总量、铁路货运量和公路货运量作为货运量的输出因子,即网络的输出。
  根据上面确定的网络输入输出因子,利用2000年到2006年共7年的历史统计数据作为网络的训练样本,2006年到2007年间共计2年的历史统计数据作为预测检验值(即,假如此二年的货运量仍未知,根据7年的数据样本由模型进行预测)。考虑应用目前最为广泛有效的BP神经网络模型,其中包括常规的BP网络模型(两个角度的影响因素直接作为输入样本,建立BP模型,进行训练)、单独由规模因素的影响角度(角度l)建立的BP神经网络模型和单独由结构因素的影响角度(角度2)建立的BP神经网络模型,以及本文所提出的关联神经网络模型,选取同样的数据样本来进行预测。
  从结果我们能够得出,新型神经网络预测结果较另外三种模型误差最小,与实际数据最为相近。这说明,此种新型的组合神经网络模型不同于以上三个模型,它不是直接根据各项历史数据建模,而是将不同的预测模型进行适当的组合,得到一个比任何独立的预测值更好的组合预测值。另外,从预测的可靠性和风险性考虑,仅使用单一预测模型对复杂的系统进行预测是不可行的,而且单一的不同预测模型所载用的信息是不会相同的,任何一种模型几近都会包含一些有用的独立信息,而单纯的将这些不同角度的影响因素作为输入样本建立模型的话,则会增加神经网络模型的训练难度,甚至降低其预测精度。而本文提出的组合神经网络则能够有效地解决这一矛盾,它将不同角度的影响因素分辨建立合适的分模型并单独训练好后,进而将分模型通过预测点有效的联合起来,建立一个相互联系的综合模型,从而最后得到一个比任何一个独立的预测之更好的组合预测值。
  新型关联神经网络预测精度较单个网络为高,尤其突显了其在数据量较少的情况下,通过不同角度的影响因素分辨建立合适的分模型并单独训练好后,进而将分模型通过预测点有效的联合起来,建立一个相互联系的综合模型,从而能够最大效用的发挥小量数据的宏观预测能力。
  
  参考文献:
  [1]刘晋钢、韩燮、李华玲,BP神经网络改进算法的应用[J].华北工学院学报,2002,(06).
  [2]刘鹰、赵琳,神经网络,BP算法的改进和仿真[J].计算机仿真, 1999,(03).

转载请注明来源。原文地址:https://www.7428.cn/page/2019/0111/78729/
 与本篇相关的热门内容: