基于贝叶斯网络的学习与决策方法研究及应用

论文摘要

从网络环境的海量数据中获取新的科学知识、新的规律和决策支持信息是信息时代研究的热点。有效地分析和挖掘广域分布海量数据的知识发现方法是研究工作的核心。贝叶斯网络（BN）结合图论和统计学方面的知识,提供了一种自然的表示因果信息的方法,用于表达随机变量之间复杂的概率不确定性,发现数据间的潜在关系,它在海量数据的知识发现中具有重要的研究意义和广阔的应用前景。本文以贝叶斯网络为基础理论,以重庆市科技攻关重点项目（CSTC,2006AA7024）“三峡库区水环境安全预警平台与科学决策关键技术研究”为应用背景,针对网络环境下的数据智能学习问题,围绕科学决策理论进行基于贝叶斯网络的学习与决策方法研究,从贝叶斯网络学习、贝叶斯网络分类器学习、概率关系模型学习和基于BN的多agent群决策支持系统四方面开展以下研究工作:①分析了贝叶斯网络的建模流程,着重讨论从数据中学习贝叶斯网络结构。通过分析两种经典的结构学习方法（K2和MCMC算法）的基本思想,将两种算法的优点和模型平均的思路结合起来,提出一种改进的贝叶斯网络结构学习算法。仿真实验表明改进算法可以在无先验知识的情况下以较快的收敛速度获得较正确的稳定结构,且不易受初始结构影响,能正确反映节点间的依存关系。该学习算法具有较好的鲁棒性,能为科学决策提供有价值的决策依据,并可以推广于各应用领域的海量数据中进行变量间的相关性分析与建模研究。②在对常见贝叶斯网络分类器分析的基础上,研究将属性变量间聚集的层次关系引入分类器中,从数据中学习属性变量间的层次关系,提出构造层次朴素贝叶斯分类器（SAHNB）的学习算法。算法思路是首先借助节点间的条件互信息值来确定可能聚集节点的范围,然后再通过模拟退火算法来搜索评分较高的模型。通过实验将SAHNB分别同NB、TAN和GBN-SA进行比较,结果表明在多数数据集上SAHNB具有较好的分类效果,并且模型引入的潜在节点可以实现对某些属性节点状态的聚集,能够进行语义解释,从而为决策者提供相应的分类规则。SAHNB分类器模型用于水质预警系统,获得较好的实际应用效果。③针对实际应用问题,结合概率关系模型（PRM）构建的特点,提出建设基于PRM的水体富营养化风险预测模型思路,在这一领域研究中是一种新的尝试。学习基于PRM的水体富营养化风险预测模型,首先根据先验知识构造每个参考变量的候选父节点集,并且利用关系数据库的标准化SQL语言对候选父节点集进行数据预处理,主要包括多集操作、聚集操作、离散化处理等,以减轻启发式搜索评分算法的计算复杂度,然后采用类K2算法的搜索评分方法进行模型结构学习,并且通过构建分类指示器来细分不同蓄水期的水体富营养化风险预测模型。应用分析显示该方法在断面水质富营养化风险分析上可以取得初步成效。④研究多agent技术与贝叶斯网络结合建模的方法。设计了基于贝叶斯网络和效用理论的个体agent结构,研究了反馈控制的双向学习机制;设计了多agent群决策支持系统的五层组织结构和面向决策任务的agents组织过程建摸流程;定义了多agent的协商模型,提出了基于贝叶斯信念模型学习和推理的冲突协商、效用偏好调整和启用外界推荐的协商交互流程。本文所构建的贝叶斯网络学习与决策方法能有效的进行数据挖掘与知识发现,实现科学决策。并通过实际应用验证了方法的可行性。

论文目录

• 摘要
• ABSTRACT
• 1 绪论
• 1.1 论文研究背景与意义
• 1.2 贝叶斯网络研究综述
• 1.2.1 贝叶斯网络
• 1.2.2 贝叶斯网络研究现状
• 1.2.3 贝叶斯网络的应用
• 1.3 贝叶斯网络与智能决策支持系统
• 1.4 论文研究内容与组织结构
• 2 贝叶斯网络学习
• 2.1 贝叶斯网络建模概述
• 2.1.1 建模流程
• 2.1.2 从数据中学习贝叶斯网络
• 2.2 贝叶斯网络结构学习
• 2.2.1 常用的评分方法
• 2.2.2 两种典型算法分析
• 2.2.3 改进的结构学习算法
• 2.2.4 实验分析
• 2.3 贝叶斯网络参数学习
• 2.3.1 最大似然估计和最大后验概率
• 2.3.2 EM 算法
• 2.3.3 一种在线的增量式 EM 参数学习方法
• 2.3.4 实验分析
• 2.4 本章小结
• 3 贝叶斯网络分类器
• 3.1 引言
• 3.2 常见贝叶斯网络分类器
• 3.2.1 朴素贝叶斯分类器
• 3.2.2 增强型朴素贝叶斯分类器
• 3.2.3 一般贝叶斯网络分类器
• 3.2.4 贝叶斯多网分类器
• 3.3 层次朴素贝叶斯网络分类器
• 3.3.1 基本定义
• 3.3.2 学习流程
• 3.3.3 算法步骤
• 3.3.4 算法控制参数设置
• 3.3.5 实验分析
• 3.4 分类器模型在水质预警中的应用研究
• 3.4.1 三峡库区（重庆段）水环境安全预警平台结构
• 3.4.2 富营养化评价模型结构
• 3.4.3 模型应用分析
• 3.5 本章小结
• 4 概率关系模型
• 4.1 引言
• 4.2 概率关系模型
• 4.2.1 关系模式
• 4.2.2 属性的概率模型
• 4.2.3 PRM
• 4.3 PRM 的学习
• 4.3.1 属性不确定
• 4.3.2 存在不确定
• 4.3.3 参照不确定
• 4.4 模型解释与逻辑化
• 4.4.1 逻辑结构
• 4.4.2 概率结构
• 4.4.3 结构不确定
• 4.5 基于PRM 的水体富营养化风险预测模型
• 4.5.1 研究背景
• 4.5.2 水体富营养化生态动力学模型
• 4.5.3 水体富营养化风险预测模型
• 4.6 本章小结
• 5 贝叶斯网络与多 Agent 群决策支持系统
• 5.1 引言
• 5.2 群决策支持系统与 Agent 技术
• 5.2.1 群决策支持系统
• 5.2.2 Agent 技术
• 5.2.3 Agent 与GDSS
• 5.3 基于 BN 的个体 agent 设计
• 5.3.1 理论模型
• 5.3.2 模型结构
• 5.3.3 学习过程
• 5.4 多 agent 群决策支持系统
• 5.4.1 多agent 群决策支持系统组织结构建模
• 5.4.2 多agent 群决策支持系统组织过程建模
• 5.5 多 agent 群决策支持系统中的协作
• 5.5.1 协作的基本方式
• 5.5.2 基于BN 的多agent 协商模型
• 5.5.3 基于BN 的多agent 协商过程
• 5.5.4 基于BN 的多agent 协商案例分析
• 5.6 本章小结
• 6 结论
• 6.1 主要贡献与特色
• 6.2 需要进一步研究的问题
• 致谢
• 参考文献
• 附录
• A. 作者在攻读博士学位期间发表的论文目录
• B. 作者在攻读博士学位期间参加的科研项目