如何用人工神经网络确定指标体系的权重?
说的确定应该就是训练方法吧,神经网络的权值不是人工给定的。而是用训练集训练,用训练集训练一遍称为一个epoch,一般要许多epoch才行,目的是使得目标与训练结果的误差(一般采用均方误差)小到一个给定的阈值。以上所说是有监督的学习方法,还有无监督的学习方法。
谷歌人工智能写作项目:小发猫
人工神经网络评价法
人工神经元是人工神经网络的基本处理单元,而人工智能的一个重要组成部分又是人工神经网络人工神经网络指标。人工神经网络是模拟生物神经元系统的数学模型,接受信息主要是通过神经元来进行的。人工神经元利用连接强度将产生的信号扩大;然后,接收到所有与之相连的神经元输出的加权累积;将神经元与加权总和一一比较,当比阈值大时,则激活人工神经元,信号被输送至与它连接的上一层的神经元,反之则不行。
人工神经网络的一个重要模型就是反向传播模型。对于一个拥有n个输入节点、m个输出节点的反向传播网络,可将输入到输出的关系看作n维空间到m维空间的映射。由于网络中含有大量非线性节点,所以可具有高度非线性。
神经网络评价法的步骤
利用神经网络对复垦潜力进行评价的目的就是对某个指标的输入产生一个预期的评价结果,在此过程中需要对网络的连接弧权值进行不断的调整。
初始化所有连接弧的权值。为了保证网络不会出现饱和及反常的情况,一般将其设置为较小的随机数。
在网络中输入一组训练数据,并对网络的输出值进行计算。
对期望值与输出值之间的偏差进行计算,再从输出层逆向计算到第一隐含层,调整各条弧的权值,使其往减少该偏差的方向发展。
重复以上几个步骤,对训练集中的各组训练数据反复计算,直至二者的偏差达到能够被认可的程度为止。
人工神经网络模型的建立
确定输入层个数。根据评价对象的实际情况,输入层的个数就是所选择的评价指标数。
确定隐含层数。通常最为理想的神经网络只具有一个隐含层,输入的信号能够被隐含节点分离,然后组合成新的向量,其运算快速,可让复杂的事物简单化,减少不必要的麻烦。
确定隐含层节点数。按照经验公式:
灾害损毁土地复垦
式中:j——隐含层的个数;
n——输入层的个数;
m——输出层的个数。
人工神经网络模型结构如5-
5-2人工神经网络结构
人工神经网络的计算
输入被评价对象的指标信息,计算实际输出值Yj。
灾害损毁土地复垦
比较已知输出与计算输出,修改K层节点的权值和阈值。
灾害损毁土地复垦
式中:wij——K-1层结点j的连接权值和阈值;
η——系数;
Xi——结点i的输出。
输出结果:
Cj=yj
式中:yj——结点j的实际输出值;
dj——结点j的期望输出值。因为无法对隐含结点的输出进行比较,可推算出:
灾害损毁土地复垦
式中:Xj——结点j的实际输出值。
它是一个轮番代替的过程,每次的迭代都将W值调整,这样经过反复更替,直到计算输出值与期望输出值的偏差在允许值范围内才能停止。
利用人工神经网络法对复垦潜力进行评价,实际上就是将土地复垦影响评价因子与复垦潜力之间的映射关系建立起来。只要选择的网络结构合适,利用人工神经网络函数的逼近性,就能无限接近上述映射关系,所以采用人工神经网络法进行灾毁土地复垦潜力评价是适宜的。
人工神经网络方法的优缺点
人工神经网络方法与其他方法相比具有如下优点:
它是利用最优训练原则进行重复计算,不停地调试神经网络结构,直至得到一个相对稳定的结果。采取此方法进行复垦潜力评价可以消除很多人为主观因素,保证了复垦潜力评价结果的真实性和客观性。
得到的评价结果误差相对较小,通过反复迭代减少系统误差,可满足任何精度要求。
动态性好,通过增加参比样本的数量和随着时间不断推移,能够实现动态追踪比较和更深层次的学习。
它以非线性函数为基础,与复杂的非线性动态经济系统更贴近,能够更加真实、更为准确地反映出灾毁土地复垦潜力,比传统评价方法更适用。
但是人工神经网络也存在一定的不足:
人工神经网络算法是采取最优化算法,通过迭代计算对连接各神经元之间的权值不断地调整,直到达到全局最优化。但误差曲面相当复杂,在计算过程中一不小心就会使神经网络陷入局部最小点。
误差通过输出层逆向传播,隐含层越多,逆向传播偏差在接近输入层时就越不准确,评价效率在一定程度上也受到影响,收敛速度不及时的情况就容易出现,从而造成个别区域的复垦潜力评价结果出现偏离。
BP人工神经网络
人工神经网络指由大量与自然神经系统相类似的神经元联结而成的网络,是用工程技术手段模拟生物网络结构特征和功能特征的一类人工系统。神经网络不但具有处理数值数据的一般计算能力,而且还具有处理知识的思维、学习、记忆能力,它采用类似于“黑箱”的方法,通过学习和记忆,找出输入、输出变量之间的非线性关系,在执行问题和求解时,将所获取的数据输入到已经训练好的网络,依据网络学到的知识进行网络推理,得出合理的答案与结果。
岩土工程中的许多问题是非线性问题,变量之间的关系十分复杂,很难用确切的数学、力学模型来描述。工程现场实测数据的代表性与测点的位置、范围和手段有关,有时很难满足传统统计方法所要求的统计条件和规律,加之岩土工程信息的复杂性和不确定性,因而运用神经网络方法实现岩土工程问题的求解是合适的。
BP神经网络模型是误差反向传播网络模型的简称。它由输入层、隐含层和输出层组成。网络的学习过程就是对网络各层节点间连接权逐步修改的过程,这一过程由两部分组成:正向传播和反向传播。正向传播是输入模式从输入层经隐含层处理传向输出层;反向传播是均方误差信息从输出层向输入层传播,将误差信号沿原来的连接通路返回,通过修改各层神经元的权值,使得误差信号最小。
BP神经网络模型在建立及应用过程中,主要存在的不足和建议有以下四个方面:
对于神经网络,数据愈多,网络的训练效果愈佳,也更能反映实际。但在实际操作中,由于条件的限制很难选取大量的样本值进行训练,样本数量偏少。
BP网络模型其计算速度较慢、无法表达预测量与其相关参数之间亲疏关系。
以定量数据为基础建立模型,若能收集到充分资料,以定性指标和一些易获取的定量指标作为输入层,以评价等级作为输出层,这样建立的BP网络模型将更准确全面。
BP人工神经网络系统具有非线性、智能的特点。较好地考虑了定性描述和定量计算、精确逻辑分析和非确定性推理等方面,但由于样本不同,影响要素的权重不同,以及在根据先验知识和前人的经验总结对定性参数进行量化处理,必然会影响评价的客观性和准确性。在实际评价中只有根据不同的基坑施工工况、不同的周边环境条件,应不同用户的需求,选择不同的分析指标,才能满足复杂工况条件下地质环境评价的要求,取得较好的应用效果。
人工神经网络有什么应用条件
人工神经网络,以数学模型模拟神经元活动,是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统。人工神经网络具有自学习、自组织、自适应以及很强的非线性函数逼近能力,拥有强大的容错性。它可以实现仿真、预测以及模糊控制等功能。是处理非线性系统的有力工具。它是物流合作伙伴选择方法中合作伙伴选择的神经网络算法的另一种名称。它是20世界80年代后迅速发展的一门新兴学科,ANN可以模拟人脑的某些智能行为,如知觉,灵感和形象思维等,具有自学性,自适应和非线性动态处理等特征。将ANN应用于供应链管理环境下合作合办的综合评价选择,意在建立更加接近于人类思维模式的定性与定量相结合的综合评价选择模型。通过对给定样本模式的学习,获取评价专家的知识,经验,主管判断及对目标重要性的倾向,当对合作伙伴作出综合评价时,该方法可再现评价专家的经验,知识和直觉思维,从而实现了定性分析与定量分析的有效结合,也可以较好的保证合作伙伴综合评价结果的客观性。在选定评价指标组合的基础上,对评价指标作出评价,得到评价值后,因各指标间没有统一的度量标准,难以进行直接的分析和比较,也不利于输入神经网络计算。在用神经网络进行综合评价之前,应首先将输入的评价值通过隶属函数的作用转换为(0,1]之间的值,即对评价值进行标准无纲量化,并作为神经网络的输入,以使ANN可以处理定量和定性指标。
神经网络算法是什么?
人工神经网络是黑箱模型吗
自从人工神经网络在函数逼近、模式识别、建模仿真等领域的应用取得显著成效以来,就一直遭受到一项指控:ANNisonekindofblackboxmodels!这项“罪名”成立与否并无定论,但终究影响不好。如今,大部分应用者都认为ANN是黑箱模型。在ANN的捍卫者中,也有一部分人致力于“洗白”ANN,试告诉大家:ANN是whiteboxmodel。本文的目的不是争辩ANN到底是黑箱还是白箱,而是探讨ANN的"黑"所指的涵义。ANN之所以被称为是黑箱模型,主要的原因如下。对于某个具体的ANN模型的设计者来说,ANN的内部结构是由他自己确定的;在确定了内部结构之后,需要通过输入数据进行训练,最后得到一个最佳模型。该模型不同层间的连接权重矩阵显然也是可知的,通过连接权重矩阵可以计算出输出变量对输入变量的依赖关系。那怎么说ANN是黑箱模型呢?正是因为在大部分情况下,输出变量对输入变量的依赖关系都是非线性函数的关系,函数表达式往往很复杂,所以设计者无法直观地看出某个输入变量对输出变量的贡献率是大是小,或者更一般地说,无法解释非线性函数在物理世界中的现实意义。更甚者,ANN的规模增大时,非线性函数的复杂度急剧增大。在这种情况下,即使得到了这个很复杂的关系函数,也如同一堆废铁。有研究者试采用连接权重的贡献度和相对贡献率等指标,来对训练出的权重矩阵进行修剪,剪去冗余的权重。但是这种方法治标不治本,只能应用于一个隐含层的ANN模型,即输出变量对输入变量的依赖关系是线性的;而且面对规模庞大的ANN模型时,计算这些指标所需的时间和空间复杂度急剧上升,吃力不讨好。值得注意的是,对于应用者来说,ANN的透明化往往是指,连接权重矩阵的可视化。Ozesmi提出的神经网络释义已经被广泛地用于ANN的可视化。
通达信量化选股公式
通达信的选股公式为xg:v>ref*2andc>ref。公式的定义为今天的量大于等于昨天量的2倍,股价上涨。此公式的使用说明有以下几点:五行量化指标:实心代表趋势走好,空心代表趋势走坏;操盘动力线指标:短线灵敏指标,低位拐头向上可跟进,高位拐头向下要警惕,附有高低位买卖提示;海洋状态指标:彩带颜色代表短中期多空趋势,低位转红可跟进,高位变色宜减仓、清仓。量化选股的方法多因素模型多因素模型将那些引起证券价格联动的因素直接加入到收益率公式之中,然后开发基于这些因素的模型,简化投资组合分析所要求的关于证券之间相关系数的输入。模型效果的好坏主要取决于因素的选取,即那些被选定的因素是否足以证明,证券收益率之间联动效应的根源在于那些因素对各证券的共同影响。动量反转选股有效市场假说分三个层次,分别为弱有效市场、半强有效市场、强有效市场分别代表价格反映了历史信息、公开信息和全部信息。动量效应指的是投资策略或组合的持有期业绩方向和形成期业绩方向一致的股价波动现象;而反转效应则指的是投资策略或组合的持有期业绩方向和形成期业绩方向相反的股价波动现象。分类和回归树分类和回归树是数据挖掘技术的一种,以递归分割技术为基础,包括分类树和回归树:分类树产生定性输出,回归树处理定量输出。神经网络因为股市的建模与预测所处理的信息量往往十分庞大,因此对算法有很严格要求,它的非线性动力学特性也非常复杂,所以一般传统的方法对于股市的预测往往难如人意。人工神经网络不仅具有大规模并行模拟处理、网络全局作用和非线性动力学等特点,而且有很强的自适应、自学习以及容错能力,具备传统的建模方法所不具有的许多优点,其可以不必事先知道有关被建模对象的参数、结构以及动态特性等方面的知识,对被建模对象经验知识要求不高。而只需给出对象的输入和输出数,通过网络本身的学习功能即可实现输入和输出之间的映射。
其他定量分析方法
1多因子工程地质分析法
1原理
多因子工程地质分析法是由许惠德于1989年提出的。该法主要考虑井田建造、层组、岩组特征,以及岩性变异特征、岩体质量优劣分段、构造变异特征、河谷卸压影响及水文地质条件等工程地质因素。以岩组划分为基础,融合其他工程地质因素,采用对比分类法,将煤层顶板划分成4种稳定区域。
2方法
地质因素分析
建造:为一定的大地构造单元内,成岩作用在时间上的分异特征的术语。
层组:指不同岩性的岩层作有规律的组合,其划分是在建造基础上进行的。据煤系地层沉积特征,可划分出单层结构和多层结构两大类。
岩组:为岩体与岩石在一般特征上类似工程地质特征上相近的组合,其划分是在层组基础上进行的。
岩性变异特征:对煤层顶底板岩体可进行室内物理力学性质指标测定、室内微观分析等。如对山西谱庄矿3号煤层顶板分析后得出如下结论:泥岩、粉砂岩不具膨胀性,粉砂岩中石英有被粘土矿物交代现象,具泥质结构和显微定向构造,基底式胶结,胶结物为泥质,与泥岩有相似的物理力学性质,强度较低;在同一岩组中,岩石的强度有由井田北部向中偏南降低的趋势;井田中部岩体破碎程度较高;④随深度增加,各类岩石的完整程度增高。
岩体质量优劣分级:以岩石质量指标作为岩体质量优劣的半定性评价。如潘庄矿首采区的中上部岩体质量极坏,据此可提出整个块段岩体质量评价。
构造变异特征:根据地层倾角、构造发育、顶板岩性组成等,评价一个地区的构造应力状况。如山西某井田内地层倾角平缓,褶皱呈舒缓波状,无较大的断层存在,地震烈度不高,3号煤层的顶板大多为松软岩石。井田内不易积聚大量应变能,构造应力较低。
表19潘庄一号井田工程地质岩组划分
河谷卸压:河谷卸压会影响采场和巷道顶、帮内的应力分布;而应力的增加、岩体的膨胀、松弛、裂隙的产生均会加剧顶板和围岩的不稳定性。如潘庄矿3号煤层首采区上方为一构造剥蚀的低山区,河谷两侧为侵蚀堆积地形。河谷切割较深,卸压现象较为严重。根据3号煤层上覆岩层的厚度和性质、顶板岩层的强度,预测了相对严重卸压区段。
水文地质条件:主要根据地质、水文地质观测、试验资料,利用一定计算方法评价地质条件。如山西某矿通过分析计算煤层顶板岩体冒落带和破裂带的最大高度值,认为虽然冒落带与上覆含水层连接,采场充水似乎不可避免,但由于含水层水量较小易于疏干,因此不会造成突水威胁。
工程地质稳定性分区
通过对各种地质因素的分析和对比,利用一定的计算和统计方法,应用综合编手段,最终作出工程地质稳定性分区,可划分出稳定区、中等稳定区、不稳定区和极不稳定区等4类,如果采用数学地质、数理统计、定量评价等手段,可以给上述4类区段赋予评价指数。12为潘庄矿首采区工程地质稳定性分区。
11层理岩组
12山西潘庄采区工程地质分区
2顶板稳定性沉积模式研究法
1原理
该方法属成因顶板稳定性研究范畴,从沉积环境分析入手,分析顶板沉积模式,最终探明顶板稳定类型。
2方法步骤
顶板岩性分类
首先要对某煤层顶板进行岩性分类,分类的资料基础主要是勘探钻孔资料。如J.Truman等利用钻孔资料,将1号煤层以上10英尺的岩性划分成16种类型,并用3位数码表示各种岩石。
编制岩性分布
编制煤层之上不同高程的岩性分布。从中可以清楚地了解煤层之上岩性在横向和纵向上的分布及其变化。14为美国怀俄明州某矿l号煤层之上10英尺岩性分布。
工程应用
J.Truman等通过研究美国怀俄明州某矿1号煤层顶板类型,认为在地下开采过程中,河道沉积物顶板一般坚固稳定,如果河道砂岩没有切入煤层顶部,则插入的页岩可能有擦痕面。这些擦痕面是由于砂岩与页岩之问的致密程度不同而造成的,它们可能是引起顶板稳定性差异的重要因素,层序类型瑏A发生在河曲的切割侧。当发生滑动时,它们可使层理扭曲,大大降低了岩石强度,并常造成严重冒顶。一般来说,河道与河道之间的过渡带是不稳定的。另外还要注意煤层顶面到河道砂岩底面之间的距离,以确保使用合适的顶板锚杆,从而使锚点放在砂岩的底部。天然堤沉积(13中层序类型⑥常含有植物根,这些植物根破坏了层理,降低了岩石的强度,必须加以锚固或强制冒落。
决口扇往往是煤层发育的台坪,从而产生一个软弱带。决口扇与煤层之间的间距以及决口扇的厚度应予以注意,以确保锚杆有足够的长度,使锚点在砂岩中或是薄煤层之上。
131号煤层以上10英尺内的典型岩石层序
均质砂岩10英尺;1号煤层直接顶板的决口扇砂岩厚度;1号煤层以上2~3英尺的决口扇砂岩厚度;④324至124为向上变细层序;⑤均质砂质页岩;⑥均质砂岩与页岩互层;⑦向上变粗层序;⑧均质页岩;⑨河道砂岩,厚度<10英尺;⑩河道砂岩底部,大于10英尺,1号煤层以上0~4英尺;瑏瑡河道砂岩底部,>10英尺,1号煤层以上4~6英尺;瑏瑢河道砂岩>10英尺,1号煤层以上6~10英尺;瑏A1号煤层以上10英尺间隔内的流动构造;瑏A1号煤层以上0~4英尺的薄煤层;瑏瑥1号煤层以上4~6英尺的薄煤层;瑏瑦1号煤层以上6~10英尺的薄煤层015—炭质砂岩;020—煤层;124—粘土;324—砂质泥岩;544—砂岩
141号煤层以上10英尺内的岩石类型层序$$
海湾沉积物一般是坚固稳定的。
稳定性最差的是1号煤层之上的薄煤层及其下伏层是被植物根穿透的页岩,为顶板弱带,最易发生离层,造成顶板不稳定。
3单项分析、综合评判法
1原理和方法
如前所述,影响煤层硬板稳定性的地质因素很多,多则十几项,少则五项。对某一煤田或井田来说,所有因素中总是有主有次,因此需要逐一甄别,即单项分析,以筛选出几个主要因素,经过综合评判,然后与已采区实际揭露和顶板冒落情况进行对比,给予恰当的科学评分。最后在综合上据评分结果划出各种不同的区域。
2步骤
以山东新汶某矿第2煤层硬板为例,简述工作步骤。
单项地质因素分析
岩性:第2煤层顶板岩性主要有砂岩、粉砂岩、页岩。评判给分如表20所示。
表20各单向因素评分
注:括号中数字为评分。
岩层厚度:岩层厚度是评判的主要参数,因此需据不同岩性、不同厚度分别评分。对砂岩、粉砂岩、页岩等岩层厚度评判的评分结果见表20。
倾角变异系数:在煤层构造上采用“滑动窗口法”计算出倾角变异系数,然后分指标段给予评分。
小断层发育密度:同样采用“滑动窗口法”计算出小断层发育密度,未采区应先进行小断层发育规律及密度的预测,然后给予评分。
表21综合评判评分结果
第2煤距上部第1煤的距离:第2煤层上部有的地方发育了一薄煤层。由于薄煤层是个软弱层,所以开采后最易发生离层而冒落。这种冒落的影响因素中最关键的是第2煤层距第1煤层的距离。据该矿历次实际冒落情况分析,给予表20所示评判记分。
综合评判—稳定性区划
据各次评判记分结果编,经综合分析进行顶板稳定性区划,经与已采区的实际冒落情况对比基本吻合,最后成果见表21和1
15第2煤层顶板稳定性分区
4人工神经网络法
随着计算机技术的普及和发展,利用计算机进行顶板预测的研究大量出现,如利用模糊数学法、层次分析法、模糊聚类法、分形几何法等方法来预测和评价顶板稳定性,并在相应方面和区域取得了明显的成效。本节将用人工神经网络法建立顶板稳定性预测模型,预测龙固井田顶板稳定性,进一步做出顶板稳定性综合分区。
人工神经网络的起源
人工神经网络的特点及应用
人工神经网络是由许多神经元互连在一起组成的复杂网络系统。它是在现代神经学研究成果基础上提出的,能模拟人的若干基本功能,具有并行分布的信息处理结构,通过“学习”或“训练”的方式完成某一特定的工作。其最显著的特点是具有自学习能力,并在数据含有噪音、缺项或缺乏认知时能获得令人满意的结论,特别是它可以从积累的工作实例中学习知识,尽可能多地把各种定性、定量的影响因素作为变量加以输入,建立各影响因素与结论之间的高非线性映像,采用自适应模式识别方法完成此工作。它对处理内部规律不甚了解、不能用一组规则或方程进行描述的较复杂问题或开放的系统显得较为优势。
按照神经元的连接方式,人工神经网络可分为两种:没有反馈的前向网络和相互结合型网络。前向网络是多层映像网络,每一层中神经元只接受来自前一层神经元的信号,因此信息的传播是单方向的。BP网络是这类网络最典型的例子。在相互结合型的网络中,任意神经元之间都可能有连接,输入信号要在网络中往返传播,从某一初态开始,经过若干变化,渐渐趋于某一稳定状态或进入周期震荡等其他状态,这方面的网络有Hopfield网络、SOM网络等。网络的学习能力体现在网络参数的调整上。参数调整方法为有教师学习和无教师学习两种基本方式。有教师学习方式是网络根据教师给出的正确输入模式,校正网络的参数,使其输出接近于正确模式。这类方式常采用梯度下降的学习方法,如BP算法。而无教师学习是网络在没有教师直接指点下通过竞争等方式自动调整网络参数的学习方法,如自适应共振网络。神经网络就是由许多神经元互连在一起组成的神经结构。把神经元之间相互作用的关系进行数学模型化就可以得到神经网络模型。目前已有几十种不同的神经网络模型。代表的网络模型有感知器、反向传播BP网络、GMDH网络、RBF网络、双向联想记忆、Hopfield网络、Boltsmann机、自适应共振网络、自组织特征映像网络等。运用这些网络模型可实现函数近似、数据聚类、模式识别、优化计算等功能,人工神经网络广泛用于人工智能、自动控制、机器人、统计学、工程学等领域的信息处理中。
人工神经网络的结构
神经元及其特性
16神经元模型
人工神经网络的基本处理单元在神经网络中的作用与神经生理学中神经元的作用相似,人工神经网络的基本处理单元往往被称为神经元。人工神经网络结构中的神经元模型模拟一个生物神经元,如16所示。该神经元单元由多个输入xi和一个输出yj组成。中间状态由输入信号的加权和与修正值表示,而输出为:
煤层顶板稳定性评价、预测理论与方法
式中:θj为神经元单元的偏置;wji为连接权系数;n为输入信号数目;yj为神经元输出;t为时间;f为输出变换函数,有时叫做激发或激励函数,往往采用0和1二值函数或S形函数,见1这3种函数都是连续和非线性的。一种二值函数如17所示,可由下式表示:
煤层顶板稳定性评价、预测理论与方法
一种常规的S形函数如17所示,可由下式表示:
煤层顶板稳定性评价、预测理论与方法
常用双曲正切函数)来取代常规S形函数,因为S形函数的输出均为正值,而双曲正切函数的输出值可为正或负。双曲正切函数如下式所示:
17神经元中的某些变换函数
神经网络的基本类型
人工神经网络的基本特性:人工神经网络由神经元模型构成,这种由许多神经元组成的信息处理网络具有并行分布结构。每个神经元具有单一输出,并且能够与其他神经元连接;存在许多输出连接方法,每种连接方法对应一个连接权系数。严格地说,人工神经网络是一种具有下列特性的有向:对于每个节点存在一个状态变量xi;从节点i至节点j,存在一个连接权系数wji;对于每个节点,存在一个阈值j;④对于每个节点,定义一个变换函数fj,ij;对于最一般的情况,此函数取
煤层顶板稳定性评价、预测理论与方法
形式。
人工神经网络的主要学习算法:神经网络主要通过两种学习算法进行训练,即指导式学习算法和非指导式学习算法。此外,还存在第三种学习算法,即强化学习算法,可把它看做是有师学习的一种特例。
·有师学习:有师学习算法能够根据期望和实际的网络输出间的差来调整神经元间连接的强度或权。有师学习需要有个老师或导师来提供期望或目标输出信号。
·无师学习:无师学习算法不需要知道期望输出。在训练过程中,只要向神经网络提供输入模式,神经网络就能够自动地适应连接权,以便按相似特征把输入模式分组聚集。无师学习算法的例子包括Kohonen算法和Carpenter-Grossberg自适应共振理论等。
·强化学习:如前所述,强化学习是有师学习的特例。它不需要老师给出目标输出。强化学习算法采用一个“评论员”来评价与给定输入相对应的神经网络输出的优度。强化学习算法的一个例子是遗传算法。
2多层前馈神经网络模型
BP模型是目前研究最多、应用最广泛的ANN模型。它是由Rumelhart等组成的PDP小组于1985年提出的一种神经元模型,其结构如18所示。理论已经证明一个3层的BP网络模型能够实现任意的连续映像。
18反向传播神经网络结构
BP网络模型特点
BP网络模型是把一组样本的输入输出变成一个非线性优化问题,使用了最优化中最普遍的梯度下降算法,用迭代运算求解权,加入隐节点使得优化问题的可调参数增加,从而可以逼近精确解。
BP网络由输入层、输出层及隐含层组成,隐含层可有一个或多个,每层由多个神经元组成。其特点是:各层神经元仅与相邻层神经元之间有连接;各层内神经元之间无任何连接;各层神经元之间无反馈连接。输入信号先向前传播到隐结点,经过变换函数之后,把隐结点的输出信息传播到输出结点,经过处理后再给出输出结果。结点的变换函数通常选取Sigmoid型函数。一般情况下,隐含层采用S型对数或正切激活函数,而输出层采用线性激活函数。
如果输入层有n个神经元,输出层有m个神经元,则网络是从n维欧氏空间到m维欧氏空间的映像。在确定了BP网络的结构后,利用输入输出样本集对其进行训练,也即通过调整BP网络中的连接权值、网络的规模,就可以使网络实现给定的输入输出映像关系,并且可以以任意精度逼近任何非线性函数。BP网络通过对简单的非线性函数的复合来完成映像,用这种方法经过少数的几次复合就可以得到极为复杂的函数关系,进而可以表达复杂的物理世界现象,使得许多实际问题都可以转为利用神经网络来解决。经过训练的BP网络,对于不是样本集中的输入也能给出合适的输出,这种性质称为泛化功能。从函数拟合的角度看,这说明BP网络具有插值功能。
BP网络学习算法
BP神经网络采用误差反传学习算法,使用梯度搜索技术,实现网络的实际输出与期望输出的均方差最小化。网络学习的过程是一种边向后边传播边修正权的过程。
在这种网络中,学习过程由正向传播和反向传播组成。在正向过程中,输入信号从输入层经隐层单元逐层处理,并传向输出层,每一层神经元的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出,则转向反向传播,将输出的误差按原来的连接通路返回。通过修改各层神经元的权值,使得误差信号最小。得到合适的网络连接值后,便可对新样本进行非线性映像。
信息的正向传递
假设BP网络共L层,对于给定的P个样本,网络的期望输出为:
煤层顶板稳定性评价、预测理论与方法
当输入第P个样本时,对于网络中的第l层中第j个神经元的操作特性为:
煤层顶板稳定性评价、预测理论与方法
式中:Wji———神经元i到神经元j的连接权值;
nl-1———第l-1层的结点数;
Ojp———神经元j的当前输入;
Ojp———神经元j的输出;
fl———非线性可微非递减函数,一般取为S型函数,即
煤层顶板稳定性评价、预测理论与方法
而对于输出层则有
煤层顶板稳定性评价、预测理论与方法
神经网络学习的目的是实现对每一样本
煤层顶板稳定性评价、预测理论与方法
其中m为输出结点个数,达到最小,从而保证网络总误差极小化。其中Tjdp,分别为输出层第j个节点的期望输出和实际输出。
利用梯度下降法求权值变化及误差的反向传播
采用梯度算法对网络权值、阈值进行修正。
第1层的权系数迭代方程为:
煤层顶板稳定性评价、预测理论与方法
式中:k———迭代次数。
煤层顶板稳定性评价、预测理论与方法
煤层顶板稳定性评价、预测理论与方法
则有
煤层顶板稳定性评价、预测理论与方法
其中,η为学习步长。
网络的训练过程
网络初始化,用一组随机数对网络赋初始权值,设置学习步长η、允许误差ε、网络结构;
为网络提供一组学习样本;
对每个学习样本p循环:
a.逐层正向计算网络各节点的输入和输出;
b.计算第p个样本的输出的误差Ep和网络的总误差E;
c.当E小于允许误差ε或者达到指定的迭代次数时,学习过程结束,否则,进行误差反向传播,
d.反向逐层计算网络各节点误差,如果fl取为S型函数,即,则
对于输出层
对于隐含层
e.修正网络连接权值:
煤层顶板稳定性评价、预测理论与方法
式中:k———学习次数;
η———学习因子。η取值越大,每次权值的改变越剧烈,可能导致学习过程振荡,
为了使学习因子的取值足够大,又不致产生振荡,通常在权值修正公式中加入一个附加动量法。
表22指标定量化原则
3基于多层前馈神经网络模型的煤层顶板评价思路
由以上研究来看,BP人工神经网络模型是建立于已知因素的基础上,提取有关的权值等相关参数,然后去评价煤层顶板的稳定性。要想利用该方法对煤层顶板进行评价,应该通过以下几个思路:
找出比较典型的能够反映某一井田的钻孔及能够反映顶板稳定性的资料,通过专家打分法或其他方法对其顶板稳定性进行评价;
利用评价结果对不同等级的顶板稳定性进行分级定量的定义,并建立评价指标的定量化表,表22是对巨野煤田龙固井田进行分级的指标;
通过已知并评价好的钻孔,代入到人工神经网络神经元公式进行大量的回算权值,并通过最终的分析确定出权值的值;
将权值代入神经元模型,确定某一井田顶板稳定性模式,然后将井田内其他相关钻孔的地质资料带入,并得出其结果,代入表22进行分析得出井田钻孔周围顶板稳定性。
什么是神经网络法?
文章为作者独立观点,不代表股票交易接口观点