自组织神经网络的新算法以及应用

论文摘要

自组织特征映射网络由Teuvo Kohonen教授在20世纪80年代提出,它是模拟脑细胞的这种自组织特性来实现聚类,识别,排序等。自组织特征映射网络同时具有拓扑保持和向量量化的特点,它是一种有效的,对非紧凑数据进行内容描述的方法。双自组织特征映射网络扩展了原有的自组织特征映射网络,将一般应用于一个数据集的算法用到两个成对的数据集中,使得网络可以执行一种非参数化的CCA。这种新的网络可以被认为是应用于两个相关的数据集的线性技术的扩展。自组织特征映射网络在很多实际应用中取得了成功,但同时也有缺陷,例如,其整个学习过程是在输入样本空间内进行,并以欧式距离为度量,这将导致当输入样本分布结构呈高度非线性时,其分类能力下降。而且它易受噪声点和野值的影响。本文围绕对自组织特征映射网络的合理设计展开工作,主要包括以下几个方面的内容:(1)自组织特征映射网络的鲁棒性研究。针对自组织特征映射网络容易受到高噪声的影响,这里主要是改进网络中的欧式距离,通过使用Voronoi cell的距离来取代网络中的欧式距离,增强了网络的鲁棒性。将改进后的神经网络用于噪声数据的预测实验,其实验结果表明改进后的神经网络具有较强的鲁棒性。(2)自组织特征映射网络的核方法研究。核方法实现了一个从低维输入空间到高维特征空间的映射,从而使输入空间中复杂的样本结构在特征空间中变得简单。而核的灵活性和多样性又可导出不同的距离度量,构建出基于不同度量的分类器,针对不同的问题,选用不同的核函数,使模型具有推广能力。将改进后的神经网络用于金融时间序列的预测,其实验结果表明改进后的神经网络具有较强的预测性能。并且进一步研究了基于马氏距离核方法的双自组织特征映射网络。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
• 1.1 研究背景
• 1.2 研究现状
• 1.3 研究意义与目标
• 1.4 论文结构
• 第二章 典型相关分析的神经网络
• 2.1 典型相关分析（canonical correlation analysis）
• 2.2 统计学的典型相关分析
• 2.3 典型相关分析的神经网络
• 第三章 自组织特征映射神经网络
• 3.1 引言
• 3.2 KOHONEN 模型
• 3.3 自组织特征映射网络SOM 模型
• 3.3.1 基本概念
• 3.3.2 SOM 算法介绍
• 3.3.3 具有代表性的改进的自组织网络
• 3.3.4 SOM 网络的主要应用
• 3.4 本章小结
• 第四章 基于VORONOI 距离的鲁棒的双自组织特征映射网络
• 4.1 引言
• 4.2 双SOM 算法介绍
• 4.3 改进后的双自组织特征映射网络
• 4.3.1 基本概念
• 4.3.2 响应（竞争）
• 4.3.3 Voronoi 距离
• 4.3.4 广义P 范式距离
• 4.3.5 改进后的双自组织特征映射网络算法
• 4.4 实验结果
• 4.4.1 平均绝对百分误差
• 4.4.2 SOM 网络的自联想功能
• 4.4.3 噪声数据的实验
• 4.5 本章小结
• 第五章 基于核方法的双自组织特征映射网络
• 5.1 引言
• 5.2 核方法
• 5.2.1 核方法的基本原理
• 5.2.2 内积及希尔伯特空间
• 5.2.3 Mercer 核
• 5.2.4 核函数的定义
• 5.3 基于核的双KSOM 算法
• 5.3.1 算法的推导
• 5.3.2 基于核的双SOM 算法
• 5.3.3 基于核的双自组织特征映射网络的预测实验
• 5.4 本章小结
• 第六章 基于MAHALANOBIS DISTANCE 核的双自组织特征映射网络
• 6.1 MAHALANOBIS DISTANCE
• 6.1.1 Mahalanobis 距离
• 6.1.2 马氏距离算法的构建
• 6.1.3 算法步骤
• 6.1.4 相关实验
• 6.2 MAHALANOBIS DISTANCE 核方法
• 6.2.1 Mahalanobis Distance 核方法引入
• 6.2.2 基于Mahalanobis Distance 核方法的算法介绍
• 6.2.3 实验
• 6.3 本章小结
• 第七章 总结与展望
• 致谢
• 参考文献
• 附录：作者在攻读硕士学位期间发表的论文