支持向量机若干问题及应用研究

支持向量机若干问题及应用研究

论文摘要

支持向量机(SVM)作为结构风险最小化准则的具体实现工具,具有全局最优、结构简单、泛化性能强等优点。该技术已成为机器学习界的研究热点,并在很多领域得到了成功的应用。本文针对支持向量机,作了如下几个方面的研究:(1)指出基于贪婪思想的LS-SVM稀疏化算法得到的解容易落入局部极小点,即超平面并不稀疏。提出Invfitting法则分析迭代过程中所有支持向量,删除掉对决策函数影响最小的支持向量。并将Invfitting法则与逐次增加的支持向量的Backfitting法则有机结合,发展了更具有全局最优性的HBILS-SVM算法,从而敞少支持向量的数目,使得超平面更加稀疏。(2)分析了现有SVM几何算法中RCH的不足:RCH改变训练样本的凸包的几何形状,并且仅有极点表出的必要而非充分条件。引入了具有不改变几何体的形状、容易确定极点等优良特性的CCH的概念。据此讨论了基于CCH的SVM几何算法。同时,根据CCH极点的特性,提出了概率加速几何算法减少迭代中的计算量。(3)提出TM-ν-SVM解决了TM-SVM无法确定正则化参数的不足,确定了TM-ν-SVM的间隔误差和子支持向量的上下界,分析表明TM-ν-SVM算法可取得比ν-SVM算法更好的结果。同时具体分析了TM-ν-SVM的几何意义,即优化过径等价于求特征空间中两个SCCH间的最近点对。进一步,讨论了SCCH的几阿性质,据此给出了对应的几何算法。(4)讨论了将SVR转化为SVC的样本平移(SS)算法,并给出了基于经验法向量的样本平移(OSS)算法。进一步地,为减少噪声对经验法向量的影响,结合支持向量的几何算法,提出了基于特征空间中法向量的在线样本平移(OFGSS)算法。该方法可减少平移大小对回归函数的影响,降低噪声影响,具有较强的泛化性能。(5)分析对比了增量支持向量机和支持向量机的几何算法的优缺点。探讨了基于几何算法的支持向量机核参数确定方法。该方法结合了几何算法的优点,并利用对参数的近似梯度计算,从而以更快的速度得到最优核参数。为支持向量机的模型选择提供了一条有效的途径。(6)在回顾TSVM的各种学习算法之后提出了TSVM的一个改进算法——SMTSVM算法。SMTSVM算法通过引入序列最小化思想估计调整测试样本的临时标签后的Largrange系数,从而得到新的决策分类函数以及调整后的经验误差估计。该方法可解决过于简单地估计经验误差带来的分类精度上的不足。(7)讨论了将SVM应用到蛋白质相互作用预测工作中。通过利用蛋白质的结构域信息以及残基序列信息分别构建新的SVM输入向量,从而有效地预测了蛋白质相互作用及判定预测位点。数值模拟实验表明结合所讨论的特征表示方法得到的SVM预测器的性能远好于其它结果。

论文目录

  • 摘要
  • Abstract
  • 第一章 绪论
  • §1.1 选题的研究背景和意义
  • §1.2 SVM算法目前的研究现状
  • §1.2.1 支持向量分类机
  • §1.2.2 支持向量回归机
  • §1.2.3 SVM参数选择研究
  • §1.2.4 SVM的应用方面研究
  • §1.3 本文的主要内容及创新点
  • 第二章 支持向量机理论
  • §2.1 引言
  • §2.2 机器学习的基本方法
  • §2.2.1 学习问题的一般表示
  • §2.2.2 经验风险最小化原则
  • §2.2.3 模型复杂度与推广能力
  • §2.3 统计学习理论的基本思想
  • §2.3.1 VC维
  • §2.3.2 泛化误差界
  • §2.3.3 结构风险最小化原则
  • §2.4 支持向量机
  • §2.4.1 基本概念
  • §2.4.2 线性支持向量机
  • §2.4.3 非线性支持向量机
  • §2.4.4 支持向量回归机
  • 第三章 最小二乘支持向量机的快速近似算法
  • §3.1 引言
  • §3.1.1 最小二乘支持向量机
  • §3.1.2 相关工作回顾
  • §3.2 HBILS-SVM算法
  • §3.2.1 核矩阵迭代计算
  • §3.2.2 Backfitting法则
  • §3.2.3 Invfitting法则
  • §3.2.4 HBILS-SVM算法归纳
  • §3.3 数值模拟
  • §3.4 小结
  • 第四章 改进几何支持向量机算法
  • §4.1 引言
  • §4.1.1 SVM的几何意义
  • §4.1.2 简约凸包
  • §4.2 改进几何SVM算法
  • §4.2.1 压缩凸包
  • §4.2.2 SVM的模型选择
  • §4.2.3 稀疏化处理
  • §4.2.4 基于CCH的几何算法
  • §4.3 数值模拟
  • §4.4 小结
  • 第五章 总间隔v-支持向量机与几何解释
  • §5.1 引言
  • §5.1.1 总间隔支持向量机
  • §5.2 总间隔v-支持向量机及其几何意义
  • §5.2.1 总间隔v-支持向量机
  • §5.2.2 TM-v-SVM的几何意义
  • §5.3 软压缩凸包与几何算法
  • §5.3.1 软压缩凸包
  • §5.3.2 稀疏化处理
  • §5.3.3 基于SCCH的几何算法
  • §5.4 数值模拟
  • §5.4.1 TM-v-SVM与v-SVM性能比较
  • §5.4.2 几何算法性能比较
  • §5.5 小结
  • 第六章 改进几何支持向量回归
  • §6.1 引言
  • §6.1.1 基于分类的回归算法
  • §6.2 改进几何支持向量回归
  • §6.2.1 经验法向量样本平移(GSS)算法
  • §6.2.2 在线特征法向量样本平移(OFGSS)算法
  • §6.3 数值模拟
  • §6.4 小结
  • 第七章 支持向量机模型选择的几何方法
  • §7.1 引言
  • §7.1.1 SVM模型选择
  • §7.2 SVM模型选择的几何方法
  • §7.3 数值模拟
  • §7.4 小结
  • 第八章 序列最小化直推式支持向量机
  • §8.1 引言
  • §8.1.1 直推式支持向量机
  • §8.1.2 相关工作回顾
  • §8.2 序列最小化直推式支持向量机
  • §8.3 数值模拟
  • §8.4 小结
  • 第九章 支持向量机的应用研究
  • §9.1 引言
  • §9.2 基于域得分的蛋白质相互作用预测
  • §9.2.1 实验数据
  • §9.2.2 特征表示
  • §9.2.3 结果与讨论
  • §9.3 基于残基序列信息的蛋白质相互作用位点预测
  • §9.3.1 实验数据
  • §9.3.2 特征表示
  • §9.3.3 结果与讨论
  • §9.4 小结
  • 参考文献
  • 攻读博士学位期间完成及发表的论文
  • 致谢
  • 相关论文文献

    • [1].基于人工鱼群算法的孪生支持向量机[J]. 智能系统学报 2019(06)
    • [2].基于改进支持向量机的温室大棚温度预测[J]. 科技创新与应用 2020(10)
    • [3].结构化支持向量机研究综述[J]. 计算机工程与应用 2020(17)
    • [4].支持向量机理论及应用[J]. 科学技术创新 2019(02)
    • [5].加权间隔结构化支持向量机目标跟踪算法[J]. 中国图象图形学报 2017(09)
    • [6].多分类孪生支持向量机研究进展[J]. 软件学报 2018(01)
    • [7].模糊型支持向量机及其在入侵检测中的应用[J]. 科技创新与应用 2018(11)
    • [8].从支持向量机到非平行支持向量机[J]. 运筹学学报 2018(02)
    • [9].支持向量机的基本理论和研究进展[J]. 长江大学学报(自科版) 2018(17)
    • [10].孪生支持向量机综述[J]. 计算机科学 2018(11)
    • [11].一种新的基于类内不平衡数据学习支持向量机算法[J]. 科技通报 2017(09)
    • [12].分段熵光滑支持向量机性能研究[J]. 计算机工程与设计 2015(08)
    • [13].有向无环图-双支持向量机的多类分类方法[J]. 计算机应用与软件 2015(11)
    • [14].基于支持向量机的股票价格预测模型研究与应用[J]. 课程教育研究 2016(28)
    • [15].灰狼优化的混合参数多分类孪生支持向量机[J]. 计算机科学与探索 2020(04)
    • [16].基于属性约简—光滑支持向量机的中小企业信息化评价研究[J]. 软件工程 2020(07)
    • [17].基于稀疏孪生支持向量机的人脸识别[J]. 信息技术 2020(07)
    • [18].基于总类内分布的松弛约束双支持向量机[J]. 济南大学学报(自然科学版) 2018(04)
    • [19].基于多分类支持向量机的评估模型研究[J]. 数学的实践与认识 2017(01)
    • [20].改进的支持向量机在微博热点话题预测中的应用[J]. 现代情报 2017(03)
    • [21].多核在线支持向量机算法研究及应用[J]. 宜宾学院学报 2017(06)
    • [22].基于改进遗传算法的支持向量机参数优化方法[J]. 计算机与现代化 2015(03)
    • [23].一种层次粒度支持向量机算法[J]. 小型微型计算机系统 2015(08)
    • [24].自训练半监督加权球结构支持向量机多分类方法[J]. 重庆邮电大学学报(自然科学版) 2014(03)
    • [25].四类基于支持向量机的多类分类器的性能比较[J]. 聊城大学学报(自然科学版) 2014(03)
    • [26].一种模糊加权的孪生支持向量机算法[J]. 计算机工程与应用 2013(04)
    • [27].一种采用粗糙集和遗传算法的支持向量机[J]. 山西师范大学学报(自然科学版) 2013(01)
    • [28].基于在线支持向量机的无人机航路规划技术[J]. 电光与控制 2013(05)
    • [29].贪婪支持向量机的分析及应用[J]. 计算机工程与应用 2012(24)
    • [30].一种改进的双支持向量机[J]. 辽宁石油化工大学学报 2012(04)

    标签:;  ;  ;  ;  ;  ;  ;  ;  ;  

    支持向量机若干问题及应用研究
    下载Doc文档

    猜你喜欢