半监督学习方法研究

论文摘要

机器学习是人工智能的核心研究领域,是智能信息处理的重要途径。本文研究的内容是机器学习的一个重要分支——半监督学习。半监督学习主要关注的问题是如何有效地综合利用标签数据和非标签数据进行学习。本文从理论、方法和应用等三个层次上讨论了半监督学习问题,并提出两种半监督学习方法。主要贡献如下:1.广泛地考察了半监督学习领域的国内外研究现状及发展趋势,调查和研究了半监督学习的产生和发展过程,对前人的成果进行了分类、总结和比较。对现有的半监督学习方法的理论、方法及应用进行了初步的研究,总结了目前一些方法存在的不足和需要解决的问题。2.深入探讨了半监督维数约简方法,着重研究了基于特征选择的维数约简方法。在此基础上提出了一种新的半监督特征选择方法——半监督判别特征选择,有效地提高了对高维数据的维数约简效果。3.深入探讨了半监督学习方法的扩展问题,重点研究了Universum这种数据对半监督学习的帮助作用。综合利用传统半监督方法和Universum的优点,基于线性回归模型和图优化框架,提出了一种利用Universum的半监督分类算法,取得了较好的分类效果。

论文目录

• 摘要
• ABSTRACT
• 第一章 绪论
• 1.1 研究背景与意义
• 1.1.1 问题的提出和研究意义
• 1.1.2 半监督学习基本思想及其基本假设
• 1.1.3 半监督学习算法的分类
• 1.2 国内外研究现状及发展方向
• 1.2.1 国内外研究现状
• 1.2.2 主要研究方向
• 1.3 论文的组织和安排
• 1.3.1 主要的研究内容和创新成果
• 1.3.2 论文结构安排
• 第二章 几种经典的半监督学习方法
• 2.1 引言
• 2.2 生成式模型算法
• 2.2.1 方法简介
• 2.2.2 高斯混合模型的EM 参数估计
• 2.2.3 模型的可确认性和正确性
• 2.3 半监督支持向量机算法
• 2.3.1 方法简介
• 2.3.2 基于组合的半监督支持向量机
• 2.3.3 基于连续的半监督支持向量机
• 2.4 基于图的半监督算法
• 2.4.1 方法简介
• 2.4.2 半监督判别分析
• 2.4.3 SDA 算法的实现
• 2.5 协同训练算法
• 2.5.1 方法简介
• 2.5.2 标准协同训练算法
• 2.5.3 协同训练算法的可行性分析
• 2.6 本章小结
• 第三章 半监督判别特征选择算法
• 3.1 引言
• 3.2 线性判别特征选择算法
• 3.2.1 从特征变换到特征选择
• 3.2.2 线性判别特征选择
• 3.3 半监督判别特征选择算法
• 3.3.1 图视角的线性判别特征选择
• 3.3.2 半监督判别特征选择
• 3.4 实验及结果分析
• 3.4.1 物体识别实验
• 3.4.2 人脸识别实验
• 3.4.3 结果分析
• 3.5 本章小结
• 第四章 一种利用Universum 的半监督分类算法
• 4.1 引言
• 4.2 利用Universum 的半监督分类算法
• 4.2.1 利用Universum 的线性回归模型
• 4.2.2 利用图优化框架下的子空间学习模型
• 4.2.3 利用Universum 的半监督分类算法
• 4.2.4 扩展到多类问题
• 4.3 实验及结果分析
• 4.3.1 仿真实验
• 4.3.2 物体识别实验
• 4.3.3 人脸识别实验
• 4.4 本章小结
• 第五章 结束语
• 致谢
• 参考文献
• 作者在学期间取得的学术成果