加稀疏约束的非负矩阵分解

论文摘要

非负矩阵分解（Nonnegative Matrix Factorization,NMF）是国际上新近提出的一种矩阵分解方法。与其他矩阵分解方法相比,NMF特殊之处在于其通过将非负性约束引入矩阵分解过程中,这种约束会得到原始数据基于部分的表示,从而更好的反映原始数据的局部特征。由于现实世界里大量实验数据都是非负表述的,这使得该方法存在广泛的应用,如盲源分离和非负信号分析、模式识别、文本知识挖掘、数字图像水印以及人脸表情识别[16-21]等领域。根据应用的不同,需要分解的矩阵元素就可以有不同的解释。例如Lee和Seung介绍的方法[’]就是把人脸图像分解成部分（如嘴唇、眼睛、鼻子、耳朵等等）。本文第一部分介绍了非负矩阵分解产生的背景、其问题描述以及研究现状,对NMF问题还存在的缺点和难点做了说明。第二部分首先介绍了本文相关的预备知识,接下来列举了一些已有的NMF算法,并对其进行了详细介绍,使得大家对NMF方法有了更加深入的了解。第三部分则提出了本文的核心：加稀疏约束的非负矩阵分解算法,该算法是对以前NMF算法的一种改进。NMF的目的就是把原始非负矩阵V∈Rm×n分解成新的非负矩阵W∈Rm×r和H∈Rr×n的乘积：V≈WH,其中r满足：（m+n）r<mn,并且使分解误差尽可能的小。而我们的目标则是在保证非负约束条件和分解精度的基础上,通过在目标函数上增加稀疏约束条件,使分解后得到的矩阵尽可能的稀疏,从而更加的节省存储空间。第四部分是数值实验,利用数值算例验证了文中所得结论的正确性以及求解方法的有效性,并通过与不同方法的比较验证了该算法确实具有较快的收敛速度及很好的稀疏性。

论文目录

• 摘要
• Abstract
• 1 绪论
• 1.1 背景及问题描述
• 1.2 研究进展及存在问题
• 1.3 本文研究问题及主要工作
• 1.4 本文所用的记号
• 2 非负矩阵分解算法介绍
• 2.1 预备知识
• 2.1.1 最速下降法
• 2.1.2 最优性条件
• 2.1.3 凸性
• 2.2 乘性迭代法（Multiplicative algorithms）
• 2.2.1 乘性迭代规则
• 2.2.2 收敛性证明
• 2.3 投影梯度法（Projected Gradient Methods）
• 2.4 一种带有正则约束的非法矩阵分解算法
• 3 加稀疏约束的非负矩阵分解
• 3.1 稀疏性概述
• 3.2 加稀疏约束的非负矩阵分解算法
• 3.2.1 加向量2-范数约束条件的非负矩阵分解
• 3.2.2 加向量1-范数约束条件的非负矩阵分解
• 4 数值实验
• 结论
• 参考文献
• 攻读硕士学位期间发表学术论文情况
• 致谢