核方法的研究及其应用

核方法的研究及其应用

论文摘要

自1995年Vapnik等人提出基于统计学习理论和核技术的支持向量机算法以来,基于核的机器学习方法(简称核方法)取得了迅速的发展,目前已成为人工智能和机器学习领域的研究热点之一,广泛用于图像处理、生物信息技术、文本分类和入侵检测技术等多个领域。进一步研究支持向量机,无论对核方法理论的完善和发展,还是对核方法在应用领域的进一步拓展,都具有十分重要的意义。支持向量机在一系列的应用中表现出非常优越的性能。但是,其研究仍处于初级阶段。理论研究与实际应用方面都还有许多问题需要加以解决,主要问题有:对于大规模数据集的学习如何降低支持向量机的计算复杂度,针对具体的应用领域如何构造高效的核函数等。本文主要研究支持向量机的分类与回归,包括简化支持向量机以及支持向量机在农业虫害预测预报中的应用,研究工作提高了支持向量机的分类性能,扩展了其应用范围。主要创新工作有:(1)针对支持向量机对于大规模数据集学习和决策效率低的问题,提出了基于协同聚类的支持向量机算法,有效地减少了支持向量的数量,提高了分类速度。针对多类分类问题,将协同聚类的方法进一步扩展,提出了基于协同聚类的多类支持向量机。同时,对简约支持向量机和最小二乘支持向量机进行了改进。(2)考虑到径向基函数神经网络分类问题中,基函数中心的选取是其分类性能的关键,提出了利用协同聚类选择基函数中心的方法。与采用模糊C均值选取方法相比较,提出的方法具有更好的分类性能。(3)针对大样本数据的回归估计,支持向量过多所引起的计算复杂度高的问题,提出了一种基于协同聚类的支持向量回归机。实验结果表明提出的方法可以明显减少测试时间,且回归正确率较好。(4)在介绍多镜像分类器算法的基础上,针对镜像点选取较为复杂的问题,利用协同聚类的方法代替镜像点选取,提出了一种能有效地提高训练速度的多镜像分类器算法。(5)农业信息化是我国现代农业技术的一个重要标志,虫害的预测预报工作是农业信息化重要环节,提高其预测预报水平,可以减少虫害造成的损失,增加农业经济效益。鉴于支持向量机是一种模式分类和回归分析的有力工具,我们建立了基于核方法的农业虫害预测预报模型,并将我们提出的算法应用到农业虫害预测预报中,取得了较好的效果。

论文目录

  • 致谢
  • 摘要
  • Abstract
  • 第一章 绪论
  • 1.1 研究背景
  • 1.2 核方法的研究现状
  • 1.3 核方法的应用
  • 1.4 本论文研究的主要内容
  • 1.5 本论文的体系结构
  • 第二章 模式分析的核方法
  • 2.1 核方法原理及常用方法分类
  • 2.1.1 核方法原理
  • 2.1.2 常用的核方法分类
  • 2.2 统计学习理论
  • 2.2.1 经验风险最小化归纳原则
  • 2.2.2 VC维
  • 2.2.3 学习机泛化能力的界
  • 2.2.4 结构风险最小化归纳原则
  • 2.3 支持向量机
  • 2.3.1 线性支持向量机
  • 2.3.2 非线性支持向量机
  • 2.4 支持向量机变形算法
  • 2.4.1 最小二乘支持向量机
  • 2.4.2 υ支持向量机
  • 2.4.3 加权支持向量机
  • 2.4.4 简约支持向量机
  • 2.4.5 一类支持向量机
  • 2.4.6 支持向量回归机
  • 2.5 核函数
  • 2.5.1 核函数理论与性质
  • 2.5.2 常用核函数
  • 2.5.3 结构数据的核函数
  • 2.6 模型的选择
  • 2.7 小结
  • 第三章 基于协同聚类的支持向量机
  • 3.1 引言
  • 3.2 相关工作
  • 3.3 协同聚类
  • 3.3.1 生物学背景
  • 3.3.2 模糊C均值聚类
  • 3.3.3 协同聚类
  • 3.4 基于协同聚类的支持向量分类机
  • 3.4.1 基于协同聚类的二类支持向量机
  • 3.4.2 基于协同聚类的多类支持向量机
  • 3.5 几种支持向量回归机
  • 3.5.1 v支持向量回归机
  • 3.5.2 改进的最小二乘支持向量回归机
  • 3.6 基于协同聚类的支持向量回归机
  • 3.7 实验
  • 3.7.1 分类实验
  • 3.7.2 回归实验
  • 3.8 小结
  • 第四章 基于协同聚类的RBF神经网络
  • 4.1 引言
  • 4.2 相关工作
  • 4.3 RBF神经网络
  • 4.4 基于协同聚类的RBF神经网络
  • 4.5 实验
  • 4.5.1 人工数据集
  • 4.5.2 标准数据集
  • 4.6 小结
  • 第五章 一种新的多镜像分类器
  • 5.1 引言
  • 5.2 镜像分类器
  • 5.3 镜像分类器的组合
  • 5.3.1 最小平方误差方法
  • 5.3.2 基于SVM的组合方法
  • 5.4 实验
  • 5.4.1 人工数据集
  • 5.4.2 标准数据集
  • 5.5 小结
  • 第六章 核方法在农业虫害预测预报中的应用
  • 6.1 引言
  • 6.2 预测预报模型
  • 6.3 核方法在虫害预测预报中的应用
  • 6.3.1 基于核方法的预测预报系统模型
  • 6.3.2 支持向量回归机的SMO算法
  • 6.3.3 虫害的预测方法
  • 6.4 小结
  • 第七章 结束语
  • 7.1 本文工作的总结
  • 7.2 后续研究工作的展望
  • 参考文献
  • 攻读博士期间发表和已录用的学术论文
  • 相关论文文献

    标签:;  ;  ;  ;  ;  ;  ;  ;  

    核方法的研究及其应用
    下载Doc文档

    猜你喜欢