多分类器融合系统的研究

论文摘要

由于多分类器系统能够达到比个体分类器更好的分类性能和鲁棒性,该技术受到了越来越多的关注并取得了较大的进展,同时也带来了巨大挑战。越来越多的研究人员试图回答下列问题:如何有效地利用各分类器的性能优势?如何借助中间概念寻找分类器的性能优势区域等等?为探索多分类器系统的有效性,本文从研究分类器融合技术入手,详细地介绍了现有分类器融合算法,并对它们的特性进行比较。然后从组合与选择两种不同策略出发,提出了两种侧重点不同的多分类器融合算法。一种是利用各单分类器在类一级上的性能优势,提出了基于专家类评估的融合算法,并结合实验对其进行探索性而非推理性分析,同时与成员分类器相比较,其结果说明了本算法的有效性和鲁棒性。另一种是基于多分类器行为的算法(DRC),它以多分类器行为向量为中间媒介进行空间转换,实现数据集的约简与学习模型的构建。通过实验对DRC算法进行评估,并与其成员分类算法在原始特征空间与转换空间上的结果进行比较,表明本算法的综合性能优于各成员分类算法。成员分类器的独立性假设是分类器组合技术的难点之一,也是热点之一。本课题在结合各单分类器在类一级上的分类优势及综合性能的基础上,还提出了一种基于信息熵的单分类器选择策略,将其应用于融合系统的设计中,并在一些实际应用数据集上验证该方法的可行性。

论文目录

• 摘要
• Abstract
• 中文文摘
• 第1章 绪论
• 1.1 立题依据
• 1.2 研究目标与内容
• 1.3 研究路线
• 1.4 论文的章节安排
• 1.5 分类技术的国内外研究状况
• 1.5.1 基于判别分析的方法
• 1.5.2 基于机器学习思路的方法
• 1.5.3 基于神经网络的方法
• 1.5.4 基于层次的方法
• 1.5.5 基于聚类的方法
• 1.5.6 其他方法
• 第2章 多分类器融合系统的基础理论
• 2.1 多分类器融合研究的产生和现状
• 2.2 分类器输出信息
• 2.3 多分类器融合类型
• 2.3.1 级联分类器
• 2.3.2 并联分类器
• 2.4 多分类器融合策略
• 2.4.1 多分类器组合系统
• 2.4.2 多分类器选择系统
• 2.4.3 组合与选择的比较
• 2.5 不同输出层上的信息融合
• 2.5.1 抽象层上的融合
• 2.5.1.1 基于投票规则的融合
• 2.5.1.2 基于简单函数的融合
• 2.5.1.3 基于证据理论的融合
• 2.5.1.4 基于BKS空间的融合
• 2.5.2 排序层、度量层上的融合
• 2.5.2.1 排序层、度量层上融合的分析
• 2.5.2.2 基于贝叶斯平均理论的融合
• 2.5.2.3 基于模糊积分的融合
• 2.5.3 其它方法
• 2.6 多分类器融合系统的应用与存在问题
• 2.7 本章小结
• 第3章 基于专家类评估的系统设计
• 3.1 多分类器组合的框架
• 3.1.1 成员分类器的生成方法
• 3.1.2 成员分类器的组合方法
• 3.1.3 多分类器组合系统构建的基本步骤
• 3.2 多分类器组合系统的构建
• 3.2.1 基于专家类优势的组合系统的主要思想
• 3.2.2 以信息熵为基础的分类器选择策略
• 3.2.3 基于专家类评估优势的组合系统
• 3.3 实验环境与评估
• 3.3.1 实验数据集
• 3.3.2 分类器
• 3.3.3 实验结果与评估
• 3.4 本章小结
• 第4章 基于多分类器行为的系统设计
• 4.1 数据约简
• 4.1.1 选择技术
• 4.1.2 替代技术
• 4.1.3 邻近关系与相似度
• 4.2 分类器选择策略
• 4.2.1 分类器选择算法
• 4.2.2 局部分类精度
• 4.3 基于多分类器行为的数据约简与分类
• 4.3.1 DRC算法的主要思想
• 4.3.2 DRC算法的实现
• 4.3.3 DRC算法分析
• 4.4 实验分析与评价
• 4.4.1 实验数据集
• 4.4.2 实验评估
• 4.5 本章小结
• 第5章 结语与展望
• 5.1 本文工作总结
• 5.2 今后工作展望
• 参考文献
• 攻读学位期间承担的科研项目与主要成果
• 致谢
• 个人简历