支持向量机若干算法研究及应用

论文摘要

本文以支持向量机为研究对象,围绕其若干学习算法及实际应用开展研究。具体研究内容如下:（1）由于核函数对SVM的泛化性能影响很大,但目前可供选择的核函数种类又十分有限,所以,我们提出了一种基于黎曼和相似性度量的核函数改进方法,并证明了改进的函数是Mercer核函数。（2）针对标准LS-SVM求解速度慢和容易导致求解时出现病态线性方程组的问题,提出了基于对称逐步超松弛预处理共轭梯度法的LS-SVM学习算法,给出了惩罚参数的设定范围,并证明了该算法的快速收敛性。（3）鉴于传统的一类分类υ-SVM方法存在对目标训练样本的数量和分布要求高的问题,提出了带非目标类样本的一类υ-SVM算法,以及原形式下的半监督一类υ-SVM算法。（4）鉴于特征选择和特征提取的现实意义,提出了基于统计知识的混合特征处理方法,并把SVM应用到药品成分分析和肿瘤性质诊断两个领域中。关于肿瘤性质诊断的实验结果证实了混合特征处理方法的有效性,关于药品成分分析的实验结果验证了SVM在相关领域应用的可行性与有效性。

论文目录

• 内容提要
• 第一章 绪论
• 1.1 研究目的与意义
• 1.2 研究的内容及贡献
• 第二章 支持向量机理论
• 2.1 机器学习
• 2.1.1 机器学习的发展历史
• 2.1.2 机器学习的基本问题
• 2.2 统计学习理论
• 2.3 支持向量机
• 2.3.1 线性支持向量机
• 2.3.2 非线性支持向量机
• 2.3.3 支持向量机的优点
• 2.4 SVM 的研究现状
• 2.4.1 SVM 算法方面的研究
• 2.4.2 SVM 应用方面的研究
• 2.5 本章小结
• 第三章 基于黎曼度量和相似性度量的核函数
• 3.1 引言
• 3.2 相似性度量
• 3.3 黎曼度量
• 3.4 核函数构造
• 3.5 数值试验
• 3.6 本章小结
• 第四章 基于SSOR-PCG 的LS-SVM 学习算法
• 4.1 引言
• 4.2 LS-SVM 算法
• 4.3 SSOR-PCG 算法
• 4.3.1 系数矩阵的性质
• 4.3.2 SSOR-PCG 算法
• 4.4 数值实验
• 4.4.1 人工数据集实验
• 4.4.2 UCI 数据集实验
• 4.5 本章小结
• 第五章 一类υ-SVM 改进算法
• 5.1 一类分类问题
• 5.1.1 一类分类器可解决的问题
• 5.1.2 一类分类与两类分类的关系
• 5.1.3 一类分类问题常用的处理方法
• 5.1.4 一类支持向量机
• 5.2 半监督学习
• 5.2.1 半监督学习的定义
• 5.2.2 无类标样本的作用
• 5.2.3 半监督学习常用算法
• 5.3 带非目标类样本的一类υ-SVM 算法
• 5.4 原形式下的半监督一类υ-SVM
• 5.4.1 半监督一类υ-SVM 原形式下的的构造
• 5.4.2 半监督一类υ-SVM 原形式下的求解
• 5.5 数值实验
• 5.5.1 人工数据
• 5.5.2 个人信用评估
• 5.6 本章小结
• 第六章 基于特征处理的SVM 应用
• 6.1 引言
• 6.2 特征选择和特征提取概述
• 6.2.1 特征选择和特征提取的概念及意义
• 6.2.2 特征选择和特征提取的基本方法
• 6.3 混合特征处理方法
• 6.4 应用
• 6.4.1 药品成分分析
• 6.4.2 肿瘤性质诊断
• 6.5 本章小结
• 第七章 结论与展望
• 7.1 全文总结
• 7.2 研究展望
• 参考文献
• 攻读博士学位期间发表的论文及其他成果
• 中文摘要
• Abstract
• 致谢