爱吧机器人网 » 技术 > 神经网络 > 正文

一种RBF神经网络的自适应学习算法

    整个算法的流程大体可分成三个部分。第一个部分是调节隐层节点的中心位置和隐层与输出层之间的权值。本文采用梯度下降法,每循环一次,相应地调节一次。第二个部分是执行添加操作。添加的策略是根据输出误差在输入空间分布的不均匀性而提出的。如果执行该操作过频,不但会减小隐层节点的中心位置和权值的调节速度,而且会造成隐层节点数目过多,计算量增大,导致过度拟合。考虑到以上因素,采用间歇的方式执行添加操作,只有当i=4n+1(n=0,1,2,…)时,才执行添加操作。第三个部分是执行删除操作。如果执行该操作过频,对于一些新增加的隐层节点,其中心位置和权值有可能还没来得及调整就已经被删除了,所以也采用间歇的方式执行。当i=8m+7(m=0,1,2,…)时,才执行删除操作。
2.4 RBF网络参数调整算法
   
本文采用梯度下降法调整RBF的隐层节点中心位置和权值。设隐层节点的数目为m,一共有N组训练样本:(x,y)={(x1,y1),(x2,y2),…,(xN,yN)}。神经网络的实际输出为:\。选取均方差为误差函数,取ρ1和ρ2为学习率。
    (1)调整隐层节点的权值
    \
    (2)调整隐层节点中心的位置

    \


3 仿真实例
   
(1)对随机曲面进行恢复
    仿真中定义曲面方程如下:
    \
    原始数据集所得曲面图像如图2所示。

\


    以x(x=x1,x2)为输入矢量,其中,x1和x2分别以1为间隔在区间[0,9]内均匀取值,一共得到100组输入数据(x1,x2)。选取ε=0.02,θ=0.3,ρ1=0.1,ρ2=0.05。经过20次训练,最后得到的网络具有41个隐层节点,系统的均方误差为0.023 3。拟合后的曲面图像如图3所示。

\


    (2)对θ取不同值时的比较,结果如表1~表3所示。

\



4 结语
   
针对RBF神经网络隐层节点的参数和数量难以确定的问题,提出了一种自适应的学习算法。该算法事先不需要确定隐层节点的中心位置和数量,而是通过相应的添加和删除策略实现的。添加策略是根据输出误差在输入空间分布的不均匀而提出的,通过执行相应的操作可以使隐层节点的数目在学习过程中自适应的增加。同时,为了使隐层节点数目不过于膨胀,还制定了删除策略。它先分析每个隐层节点对整个网络所作的贡献,然后删除贡献小的节点,以保持网络结构简单。仿真研究表明,该网络不仅灵活性高,结构简单,精度高,而且具有较好的泛化能力。

上一页12下一页

上一篇:基于优化神经网络的三相全控整流电路故障诊断
下一篇:神经系统或将使机器人拥有痛感
精选推荐
一个让深度学习惨败的通用人工智能领域——语境处理
一个让深度学习惨败的通用人工智能领域——语境处理

[2019-11-04]  Context是指用来解释一段给定文本或语句的来源框架,我们可以翻译为上下文或语境。维基百科将context定义为:*在符号学、语言学、社会学和 ...

美国普渡大学研发快动作软体机器人,灵感来自变色龙舌头捕食
美国普渡大学研发快动作软体机器人,灵感来自变色龙舌头捕食

[2019-10-31]  本文图片均来自:Ramses v Martinez 普渡大学变色龙、蝾螈和许多蟾蜍利用积蓄的弹性能量,向距离1 5倍体长的毫无防备的昆虫伸出粘糊糊的舌 ...

可编辑神经网络,有望简化深度学习?
可编辑神经网络,有望简化深度学习?

[2019-10-04]  深度学习是一个计算繁重的过程。 降低成本一直是 Data curation 的一大挑战。 关于深度学习神经网络大功耗的训练过程,已经有研究人员 ...

新型轻便机器人套装重5kg,辅助跑步和步行
新型轻便机器人套装重5kg,辅助跑步和步行

[2019-10-23]  虽然步行对大多数人来说似乎不是负担,但对有些人来说,这项简单的运动往往会让人感到筋疲力尽。比如手术或中风后恢复的患者、帕金森氏症患 ...

麻省理工正研究植物机器人 让植物自主控制机器人
麻省理工正研究植物机器人 让植物自主控制机器人

[2018-12-08]  控制论通常指人类用机器人部件增强自己。我们听说过动物机器人或昆虫机器人,但我们很少听说植物机器人对吧?一个机器人其实是对植物有很大益处的,因为一般植物根本无法移动......

英伟达用联合学习创建医学影像AI 可共享数据和保护隐私
英伟达用联合学习创建医学影像AI 可共享数据和保护隐私

[2019-10-14]  英伟达(Nvidia)和伦敦国王学院(King’s College London)的人工智能研究人员利用联合学习训练了一种用于脑肿瘤分类的神经网络, ...

科学家从蟑螂获得启发 教机器人更好地走路
科学家从蟑螂获得启发 教机器人更好地走路

[2017-12-11]  Weihmann指出:“我特别感到惊讶的是,动物运动稳定机制的变化与腿部协调的变化是一致的。昆虫的慢运行非常稳定,因为它的重心很低,三条腿总是以协调的方式运动。...

机器人工程师具体都做什么?
机器人工程师具体都做什么?

[2017-12-08]  机器人工程师是幕后设计师,负责创建机器人和机器人系统,能够执行人类无法完成或不愿意完成的任务。 通过他们的创造,机器人工程师帮助工作更安全,更轻松,更高效,特别是......

本周栏目热点

[2016-11-20]      神经网络 是一种运算模型,由大量的节点(或称神经元)和之间相互连接构成。每个节点代表一种特定的输出函数,称为激励函数(Activ ...

[2016-11-20]   优化问题是工业设计中经常遇到的问题,许多问题最后都可以归结为优化问题 为了解决各种各样的优化问题,人们提出了许多优 ...

深度神经网络会产生人这样的智能吗?

[2016-11-20]   深度学习在近年的进展又一次点燃了各界对人工 神经网络 的热情。这一技术在图像识别、 语音识别 、棋类游戏等领域的成效出人意料,而且 ...

[2016-11-20]   遗传 算法 优化BP 神经网络 权值和阈值的通用MATLAB 源码 遗传 算法 优化 神经网络 有两种情况,一种是把训练好的 神经网络 作为黑 ...

OpenAI开辟全新AI音乐领域,发布Jukebox神经网络生产歌曲

[2020-05-19]  日前,外媒报道,人工智能(AI)技术生成的音乐会给人们带来非常奇妙体验。其中有两大原因,第一,这是一个非常吸引人的全新领域;第二,这 ...