RBF和MLP神经网络逼近能力的几个结果(2007,phd).pdf.pdf

大连理工大学博士学位论文 RBF和MLP神经网络逼近能力的几个结果姓名:南东申请学位级别:博士专业:计算数学指导教师:吴微 20070401 大连理工大学博士学位论文摘要神经网络的理论和方法在过去的十几年发展极为迅速,它的应用范围涉及到工程、计算机、物理、生物、经济、、智能控制、,,用一元函数的复合来表示多元函数,这也是希尔伯特的第十三个猜想. 本文主要基于神经网络的非线性逼近性质。来研究径向基函数神经网络的逼近能力问题。包括函数逼近问题、强逼近问题以及算子逼近问题. 即: Ⅳ Fl(茹)=芝:qF(k 8。一mtl舻) izO 函数集合在G(K)(或p(耳))中的稠密问题,在c(叼(或妒(K))中紧集上的稠密问题以及算子空间T:工芦(硷)一工p(鲍),沁∈盈,z,弘∈IF",i= 1,2,?,Ⅳ,K蜀,j如c jp为任意紧集,1≤P,A,印<oo,. 同时本文也研究了一般前馈网络对于完备线性距离空间中紧集上的函数逼近能力, 即:如果日是由以”恼为范数的所有函数构成的完备线性距离空间,V c日为一个紧集, 函数族^f Fz(z)=≥:~g(,-Az)) 』=l ￡~gn(z))是输入z的输出,知是第j个隐单元到输出单元的权值, (z)是第j个隐单元的输入值,,口0)具有不同的数学表达形式. 本论文的结构安排如下: 第一章回顾一些有关神经网络的背景知识,,例如:基本函数空间和广义函数空间的关系,基本函数的支集和广义函数的支撑,以及基本函数和广义函数的卷积,等等. RBF和MLP神经网络逼近能力的几个结果第三章主要讨论径向基神经网络的逼近问题,包括一般函数逼近问题,【l_5】,为RBF神经网络逼近能力的研究提供了有利的理论基础. 第四章研究一般前馈神经网络的强逼近问题,并绘出了前馈网络的具体形式的强逼近结果:,可以预先给定隐单元的个数和输入单元到隐单元的权值。只需选择适当的隐单元到输出单元的权值,就可以对一族函数中的任意函数作逼近. 关键词:径向基神经网络;多层感知器;驴逼近;连续泛函和算子;系统识别大连理工大学博士学位论文 Several Results ofApproximation Capability ofRadialBasisFunction and Multilayer Perceptron works Abstract work theory andmethods havebeen developed rapidly inthepast two decades andhavebeenappl/ed indiverseal'e笛,such puter science,physics,biology, economyandmanagements, researchesinthisrespectcanbeconvertedintoproblems ofapproximating multivariatefunctions bysuperpositions ofthen觑lronactivationfunction of mathematicalterminology,these problems Can beexpressed that under what conditions callmultivariate functions berepresented bysuperposition ofunivariatefunctions, which isalsothethirteenthconjecture ofHilbert’S. Inthisthesis,the nonlinear approximation propertyof works with one hidden layer isinvestigated and theapproximation capability ofradial-basis-function(RBF)works isanalyzedtheoretically,includiffg approxima