非线性时变系统的时变高阶神经网络建模

论文摘要

非线性时变系统因其复杂的动态特性而难以建模。神经网络是一个黑箱模型,它作为一个强大的函数逼近工具,被广泛应用于非线性系统的建模。然而,常规的神经网络和当前普遍采用的辨识算法能力有限,在辨识复杂非线性时变系统时精度受到限制,特别是在训练数据受到噪声影响后,辨识算法很难保证精确跟踪。迭代学习辨识是从迭代控制理论中发展出来一种辨识方法,它在每个采样时间点对系统的映射关系进行重复学习,能够完成系统参数的完全辨识任务,因此适合强非线性时变系统的高精度建模。本文在引入时变高阶神经网络的基础上,讨论了非线性时变系统的迭代学习辨识方法和策略。主要工作包括以下几个方面:1.在常规径向基函数网络基础上,采用减聚类算法确定网络的隐层神经元数目,构建一种时变高阶径向基函数神经网络。推导了一种带死区的迭代学习算法来训练该网络。在已知建模精度或误差噪声上限的情况下,算法能使每个时间点的跟踪误差收敛在以零点为中心的某个单位圆内。通过为相同系统建模,对比了定常径向基函数网络和时变高阶基函数神经网络的建模能力,说明了时变高阶神经网络在高精度建模上的有效性。2.考虑到径向基函数神经网络构建的辨识模型隐层神经元数量较多,引入一种时变Volterra高阶神经网络为非线性时变系统建模,采用带死区的迭代最小二乘学习算法,为一个复杂的非线性时变系统建模。Volterra高阶网络隐层神经元存在”维数爆炸”的缺陷,利用正交最小二乘算法可选择出有效回归项,减少辨识所用隐层神经元的数目。最后,将引入时间因子t的定常Volterra神经网络和时变Volterra网络作了建模性能对比。3.迭代学习训练算法计算复杂度较大,且迭代学习训练过程中,所收集数据组成的信息阵容易存在病态情形,提出一种以Givens变换正为基础的交迭代学习最小二乘训练算法,该算法计算效率较高,数值性能较好。同时,提出了利用周期时变神经网络为周期性系统建模。最后,给出了迭代学习训练算法的在线和离线学习策略。数值仿真说明了迭代学习算法两种训练策略的有效性。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 课题的研究背景与意义
• 1.2 基于神经网络的系统辨识研究现状
• 1.3 迭代学习辨识的研究现状
• 1.4 本文的研究内容和章节安排
• 第二章 神经网络与系统辨识
• 2.1 引言
• 2.2 常规神经网络
• 2.3 高阶神经网络
• 2.3.1 连续高阶神经网络
• 2.3.2 离散高阶神经网络
• 2.4 神经计算方法
• 2.4.1 梯度下降的训练算法
• 2.4.2 牛顿优化训练算法
• 2.4.3 迭代学习最小二乘算法
• 2.5 神经网络辨识
• 2.5.1 系统辨识原理
• 2.5.2 神经网络辨识模型
• 2.6 小结
• 第三章 时变高阶RBF神经网络辨识
• 3.1 引言
• 3.2 定常RBF神经网络辨识模型
• 3.3 时变高阶RBF神经网络辨识模型
• 3.4 带死区的迭代学习最小二乘训练算法
• 3.5 数值仿真与分析
• 3.6 小结
• 第四章 时变Volterra神经网络辨识
• 4.1 引言
• 4.2 Volterra高阶神经网络
• 4.2.1 Volterra高阶神经网络结构
• 4.2.2 Volterra时变神经网络辨识模型
• 4.3 网络剪枝算法
• 4.4 数值仿真与分析
• 4.5 小结
• 第五章 正交迭代学习算法
• 5.1 引言
• 5.2 Givens变换
• 5.3 正交迭代学习算法推导
• 5.4 时变神经网络的训练策略
• 5.5 数值仿真与分析
• 5.6 小结
• 第六章 结论与展望
• 6.1 结论
• 6.2 展望
• 参考文献
• 致谢
• 攻读硕士学位期间的研究成果及发表的论文