一种用于学习非平衡数据支持向量机的改进

论文摘要

支持向量机（Support Vector Machine, SVM）是由Vapnik等人于上世纪90年代提出的一种崭新的学习机器,它作为统计学习理论的实现方法,是处理小样本学习的有效工具,在模式识别、信号处理、自动化、通讯等领域得到了广泛应用。在不平衡样本集中,不同类别的样本数量上的差异导致分类器性能的下降,所以一直以来不平衡样本集都是机器学习的一个研究热点。在不平衡样本集中寻找SVM的最优参数（又称模型选择）也是SVM研究领域的一个重要分支。实际应用中,分类数据往往是非平衡数据,少数类别的数据可能有很大的分类代价。分类性能不仅要考虑分类精度,同时要考虑分类代价。本文主要研究了非平衡SVM中参数的优化选取问题。SVM在各行各业中的应用已经取得了良好的效果,SVM的参数选取是SVM研究中的重要问题,参数选取的不同,对SVM的泛化性能影响很大。非平衡SVM的参数优化选取的研究较少,本文针对非平衡问题,建立了参数选取的模型,设计了算法,并进行了相关实验。本文扩展了SVM学习方法,对于以高斯核为核函数时的少数类和多数类使用不同的惩罚参数C+、C-以获得高敏感度的超平面,利用遗传算法对SVM的学习参数进行优化调整。同时,通过改进评价函数,对分类结果的质量进行评价。实验结果表明,算法对于非平衡数据的分类有较好分类结果,对少数类样本预测的准确性较高。

论文目录

• 摘要
• Abstract
• 第一章 绪论
• 1.1 研究背景
• 1.2 非平衡数据分类的困难
• 1.3 非平衡数据分类以及SVM 的研究现状
• 1.4 本文的主要工作
• 第二章 支持向量机（SVM）理论
• 2.1 机器学习问题
• 2.1.1 问题的表示
• 2.1.2 经验风险最小化
• 2.2 统计学习理论
• 2.2.1 学习过程的一致性条件
• 2.2.2 VC 维
• 2.2.3 推广性的界
• 2.2.4 结构风险最小化
• 2.3 支持向量机
• 2.3.1 最优超平面
• 2.3.2 支持向量机分类器
• 2.3.3 核函数
• 2.4 SVM 的特点
• 2.5 本章小结
• 第三章 非平衡数据支持向量机分类算法
• 3.1 传统分类器的设计局限性
• 3.2 非平衡支持向量机的性能分析
• 3.3 非平衡数据问题的分类应对措施
• 3.4 F-MEASURE 评价函数
• 3.4.1 非平衡支持向量机的原模型
• 3.4.2 F-measure
• 3.5 本章小结
• 第四章 支持向量机的参数选择
• 4.1 支持向量机模型选择的意义及方法
• 4.1.1 模型选择的意义
• 4.1.2 模型选择方法简介
• 4.2 核函数及其参数选择
• 4.2.1 核函数的选择
• 4.2.2 核参数的调整
• 4.3 误差惩罚参数 C
• 4.4 基于遗传算法的支持向量机模型选择
• 4.4.1 遗传算法的基本思想
• 4.4.2 遗传算法的基本流程
• 4.4.3 染色体编码
• 4.4.4 适应度函数
• 4.4.5 遗传操作
• 4.5 本章小结
• 第五章 一种用于非平衡数据的SVM 学习算法
• 5.1 一种新的非平衡数据分类性能评价函数
• 5.2 对于非平衡数据的学习参数优化
• 5.2.1 学习参数优化
• 5.2.2 基于遗传算法的用于非平衡数据SVM 学习参数优化
• 5.3 小结
• 第六章 实验与性能说明
• 6.1 实验平台以及数据集
• 6.2 实验数据
• 6.3 总结
• 第七章 总结
• 参考文献
• 附录A 攻读学位其间发表的论文
• 致谢