支持向量机及其在纹理分类中的应用

论文摘要

基于数据的机器学习是现代智能技术中的重要内容,机器学习的目的是通过对已知数据的学习,找到数据内在的相互依赖关系,从而获得对未知数据的预测和判断能力。传统学习分类方法是以经验风险最小化取代期望风险最小化,即渐进理论,这种取代建立在训练样本数无穷大的假设上。然而在实际应用中,训练样本数通常是有限的,因此一些理论上非常优秀的学习分类方法在实际应用中的表现却可能不尽人意。统计学习理论是一种专门研究小样本情况下机器学习规律的理论,包括VC维理论和结构风险最小化归纳准则等。建立在统计学习理论的基础上的支持向量机,在解决小样本、高维、非线性模式分类问题上具有良好的性能,有效解决了过学习、维数灾难等问题,具有较好的推广能力。本文研究了支持向量机的理论并将其应用于纹理分类领域,主要工作如下:回顾了支持向量机的理论基础和基本原理,对支持向量机的实现算法作了研究,分析了它们的优缺点及适用范围。研究核函数的构造和选择问题,总结提出了基于特征变换的核函数构造方法、基于Mercer核函数的性质组合核函数以及利用先验知识构造核函数的方法,在此基础上构造了自相关核函数,提出了核函数的选择流程。研究了支持向量机的参数选择问题,提出了改进的网格搜索算法。在核函数的选择和支持向量机参数的确定算法基础上,提出了支持向量机应用的整体框架。将支持向量机用于纹理分类领域。分析了不同的核函数、不同的特征选择对支持向量机分类性能的影响。分类结果表明,RBF几乎总能得到最好的性能,同时针对图像处理问题构造的自回归核函数则没有表现出预期的良好性能。对于不同纹理特征的分析,表明当使用支持向量机作为分类器时,在同系列的特征中选择维数更高的特征通常能够得到更好的结果。将支持向量机与传统的神经网络、LVQ等分类方法在纹理分类上的应用做了比较分析。分类结果表明,支持向量机具有更好更稳定的分类性能,适合于解决高维的纹理分类问题。

论文目录

• 中文摘要
• Abstract
• 第1章 概论
• 1.1 论题的背景及意义
• 1.2 支持向量机
• 1.2.1 研究历史及现状
• 1.2.2 支持向量机的基本思想及优点
• 1.2.3 目前支持向量机研究的内容
• 1.3 纹理分类
• 1.3.1 纹理定义
• 1.3.2 纹理分析及应用
• 1.3.3 纹理分类及难点
• 1.3.4 为什么将支持向量机用于纹理分类
• 1.4 本文的工作
• 1.5 论文的组织
• 第2章 支持向量机及其实现
• 2.1 支持向量机的理论基础
• 2.1.1 学习过程一致性条件
• 2.1.2 VC 维和推广性边界
• 2.1.3 经验风险最小化和结构风险最小化
• 2.2 线性支持向量机（LSVM）
• 2.2.1 线性可分问题
• 2.2.2 近似线性可分问题
• 2.3 非线性支持向量机
• 2.4 支持向量机的实现算法
• 2.4.1 选块算法
• 2.4.2 分解算法
• 2.4.3 序贯最小最优化算法
• 2.5 小结
• 第3章 核函数及参数选择方法
• 3.1 核函数选择和构造
• 3.1.1 核函数
• 3.1.2 核函数的构造方法
• 3.1.3 自相关核函数
• 3.1.4 核函数的选择方法
• 3.2 改进的网格搜索参数选择方法
• 3.3 支持向量机的应用框架
• 3.4 小结
• 第4章 基于支持向量机的纹理分类
• 4.1 纹理分类方法
• 4.1.1 纹理分类系统框架
• 4.1.2 纹理描述
• 4.2 实验设置
• 4.2.1 纹理库和测试纹理图像
• 4.2.2 特征提取
• 4.2.3 分类器
• 4.3 分类结果及讨论
• 4.3.1 支持向量机和其他分类器
• 4.3.2 核函数选择对分类性能的影响
• 4.3.3 基于滤波器和支持向量机的纹理分类
• 4.4 小结
• 第5章 结论和工作展望
• 5.1 本文的工作及结论
• 5.2 讨论及未来工作展望
• 参考文献
• 致谢
• 作者攻读硕士学位期间发表的论文