分布式关联规则挖掘算法的研究与应用

分布式关联规则挖掘算法的研究与应用

论文摘要

近些年来信息技术飞速发展,特别是数据库技术的更新换代,各个领域的数据都出现了爆炸性增长。与此形成鲜明对比的是,从数据中提炼出来的对人们决策有价值的知识却十分匮乏。数据挖掘正是在这一背景下诞生的一门新学科。关联规则挖掘是数据挖掘领域当前研究的主要热点之一,用于确定数据集中不同数据项或属性之间的联系,找出有价值的多个域之间的依赖关系。关联规则挖掘具有计算量大,I/O负载集中的特点,一方面,许多关联规则的实际应用涉及到海量数据,即使对算法进行了优化,在单处理机上使用串行算法进行挖掘所需要的时间可能也是无法接受的;另一方面,在实际的应用领域,业务数据存储于多个地点,各个站点之间需要共享全局规则模式,而且这些站点的数据有可能会发生一些动态地增量变化,在这种情况下,必须依靠高性能分布式关联规则挖掘来有效地完成挖掘任务。频繁项集挖掘是生成关联规则的关键步骤,其效率问题是关联规则挖掘中的一大难点和热点。在前人研究的基础上,论文基于分布式环境中的数据集,和所涉及到的算法数据结构,对全局频繁项集的挖掘问题进行了深入的分析和研究,从分布式环境挖掘中的剪枝策略、网络通信策略和增量挖掘方法等角度着手,进一步改进了全局频繁项集的挖掘算法,文章的最后还例举了算法的应用。概括一下本文工作,主要包括以下几个方面:(1)提出一种基于频繁模式树与最大频繁项集的分布式全局频繁项集挖掘算法BFM-MGFIS。该算法引入子集枚举树以实现有序挖掘与优化全局剪枝策略,有效地减小了候选项集且提高了并行性,最后,通过实验证明提出的算法是有效可行的。(2)讨论数据更新情况下规则模式的维护与更新,提出一种增量式的分布式全局频繁项集挖掘算法,该算法基于CanTree前缀树,使得频繁模式不再依赖于频繁1项目集序列,而是由用户指定的某一序列,据此对数据项进行排序,这样数据项的排序与更新无关,且树中保留了数据库的所有信息,仿真实验证明提出的方法是有效可行的。(3)围绕提出的两种算法实现了分布式关联规则挖掘模拟系统,将两种算法应用于实际的生物学数据分析中,以发现野生蘑菇的性状与其毒性的关联关系。

论文目录

  • 摘要
  • ABSTRACT
  • 目录
  • 第1章 绪论
  • 1.1 课题研究背景及其意义
  • 1.2 课题的研究现状
  • 1.3 课题研究的基本问题和内容组织结构
  • 1.3.1 课题研究的基本问题
  • 1.3.2 内容组织结构
  • 第2章 分布式关联规则挖掘综述
  • 2.1 引言
  • 2.2 分布式关联规则挖掘的相关概念与技术
  • 2.2.1 分布式数据挖掘的问题描述
  • 2.2.2 多处理器关联规则挖掘的体系结构
  • 2.2.3 分布式关联规则挖掘
  • 2.3 分布式全局频繁项集挖掘
  • 2.4 分布式关联规则增量更新挖掘
  • 2.4.1 增量挖掘的相关概念与技术
  • 2.4.2 分布式环境中的增量挖掘
  • 2.5 分布式关联规则挖掘的应用
  • 2.6 本章小结
  • 第3章 一种分布式全局频繁项集挖掘算法
  • 3.1 引言
  • 3.2 相关概念与技术
  • 3.2.1 相关定义与性质
  • 3.2.2 分组计数技术
  • 3.3 算法思想与算法实例
  • 3.3.1 算法基本思想
  • 3.3.2 算法实例
  • 3.4 BFM-MGFIS算法描述
  • 3.5 算法分析与性能测试
  • 3.6 本章小结
  • 第4章 基于前缀树的分布式全局频繁项集增量挖掘算法
  • 4.1 引言
  • 4.2 Canonical order tree与节点设计
  • 4.2.1 Canonical order tree
  • 4.2.2 节点设计
  • 4.2.3 CanTree的构建
  • 4.3 算法思想及其步骤
  • 4.3.1 算法描述
  • 4.3.2 仿真实验及其分析
  • 4.4 本章小结
  • 第5章 分布式关联规则挖掘模拟系统及其应用
  • 5.1 引言
  • 5.2 开发与运行环境
  • 5.3 系统框架、功能与设计
  • 5.3.1 系统框架
  • 5.3.2 系统功能
  • 5.3.3 系统设计
  • 5.4 数据准备
  • 5.4.1 数据采集
  • 5.4.2 数据预处理
  • 5.5 模拟系统的应用
  • 5.5.1 问题的提出
  • 5.5.2 系统的应用
  • 5.6 本章小结
  • 第6章 总结和展望
  • 6.1 论文主要工作总结
  • 6.2 进一步的研究工作与展望
  • 参考文献
  • 攻读学位期间取得的研究成果
  • 致谢
  • 相关论文文献

    标签:;  ;  ;  ;  ;  

    分布式关联规则挖掘算法的研究与应用
    下载Doc文档

    猜你喜欢