广义线性模型的惩罚高维经验似然

论文摘要

经验似然方法是由Owen[23]提出的，它是统计推断中非常重要的方法之一，且有许多的优点.本文讨论惩罚经验似然方法在广义线性模型下的参数估计和变量选择问题.在广义线性模型下选取适当的惩罚函数结合经验似然方法对回归系数作统计推断，证明了惩罚经验似然方法具有Oracle性质.本文由以下四部分组成：第一部分介绍了广义线性模型的基本特点，经验似然方法的定义和它的两个基本的定理，以及一些常见的惩罚函数的表达形式，指出了对于高维数据，经验似然方法也是适用的.同时，对变量选择加以了简单的介绍，列举了几种常用的变量选择方法.第二部分通过构造β的经验似然函数在一定条件下，针对带有发散参数的参数估计和变量选择问题提出了惩罚经验似然方法.通过选取适当的惩罚函数，我们发现惩罚经验似然方法具有Oracle性质.也就是说，如果模型的稀疏性已知，依概率1，惩罚经验似然确定的真实模型和估计非零系数一样有效，在假设检验和构造置信区间时，惩罚经验似然方法的优点充分体现出来.第三部分给出SCAD的算法并选择了优化的参数,并给出一个数值模拟来证实本文的主要结果.第四部分对本文的定理进行了证明.首先，提出了引理并对其加以证明，通过运用Lagrange乘子法，中心极限定理得到本文中部分结果，也显示出其在统计推断中的重要作用.

论文目录

• 摘要
• Abstract
• 1 绪论
• 1.1 广义线性模型
• 1.2 经验似然方法简介
• 1.3 变量选择
• 1.4 高维数据惩罚估计
• 2 惩罚经验似然估计
• 2.1 方法和假设
• 2.2 主要结果
• 3 模拟与实例分析
• 3.1 算法
• 3.2 数值模拟
• 3.3 实例
• 4 主要结果证明
• 结论
• 参考文献
• 攻读硕士学位期间发表学术论文情况
• 致谢