经典统计的回归模型概述

本文目的是系统全面地总结和归纳经典统计中的回归模型及其合理选用的要领。具体方法是先按因变量的性质分为定量因变量与定性因变量两大类,再分别按自变量所具备的不同前提条件,并基于经典统计思想构建相应的回归模型。初步结果为:在定量因变量的场合下,经典回归模型大致有16种不同情形;而在定性因变量的场合下,经典回归模型大致有6种不同情形。总之,在构建经典回归模型时,应当依据因变量的性质和自变量所具备的前提条件,选择最合适的回归模型,才能达到比较理想的统计分析目的。     

适应性回归分析(Ⅱ)——排除噪声变量的干扰

本文目的是通过分析一个带有8个噪声变量的数据集,揭示适应性回归模型的实际应用价值。在数据集包含两个自变量与因变量有密切数量联系的前提条件下,适应性回归模型受噪声变量的影响接近于零;在数据集包含一个自变量与因变量有密切数量联系的前提条件下,适应性回归模型受噪声变量的影响较大,其分析结果出现了一定程度的"失真";在数据集包含零个自变量与因变量有密切数量联系的前提条件下,适应性回归模型受噪声变量的影响非常大,其分析结果是完全不可信的。得出的结论是:适应性回归分析模型不是万能的,其结果的可信度取决于数据集中是否真正包含"客观存在的规律性"。     

基于经典统计思想实现多重线性回归分析

本文目的是介绍基于经典统计思想实现多重线性回归分析的方法。首先,概述基于经典统计思想、贝叶斯统计思想和机器学习统计思想建立多重线性回归模型的基本思路;然后以实际问题为例,全面呈现了多重线性回归分析所需要完成的主要任务;最后,总结多重线性回归分析的适用场合及注意事项。结果表明:产生派生变量、进行自变量筛选和共线性诊断、进行异常点诊断等内容是进行多重线性回归分析的主要任务。在多因素试验或观察性研究中,只要结果变量为计量变量,比较常用且有效的做法是进行多重线性回归分析,应尽可能少用单因素差异性分析。     

适应性回归分析(Ⅰ)——回归模型的构建与求解

本文目的是介绍适应性回归模型的构建与求解方法。众所周知,在自变量数目很多时,就会出现维数灾难,此时,统计学家倾向于采用非参数回归模型取代参数回归模型。然而,当自变量数目大到一定程度时,普通的非参数回归模型也不堪重负,于是,适应性回归样条算法应运而生。此法由以下几种统计技术组成:①特殊的变量变换;②基于向前选择法构建过拟合回归模型,再基于向后选择法"修剪"回归模型;③基于"减少在向前选择的每个步骤中,检验B、V和t的组合的数目"的基本思想,实现快速算法;④借助"GCV"和"LOF"作为"拟合优度"的界值,评价已构建的回归模型的拟合效果。此法为复杂数据结构的回归建模提供了新思路。     

适应性回归分析(Ⅲ)——构建具有混合结构的回归模型

本文目的是通过两个实例介绍适应性回归样条算法对具有混杂结构的数据集进行回归建模的实践。当一个数据集包含多个不同的回归模型时,只要给定分类变量的具体取值,SAS中的"ADAPTIVEREG过程"可以比较准确地发掘出其内在规律,并以图形方式呈现模型对资料的拟合效果,还能呈现由"基函数"及其组合所构造出的"回归模型"。图形呈现的结果确实可以给分析者提供一些有价值的"分析线索"或"积极暗示",缩小"探索性研究的空间"。     

变量变换回归分析(Ⅰ)——拟合含间断点资料的方法

本文目的是介绍一种能很好地拟合具有间断点资料的方法。当资料中具有明确的间断点或整个资料包含多段不同变化趋势的曲线类型时,为了提高曲线回归模型对资料的拟合优度,需要充分发挥"节点"的作用。可基于两种不同视角来利用"节点":其一,人为设定不同数目的节点,利用样条变换方法拟合分段多项式曲线;其二,在客观存在的节点上,求曲线的一阶乃至四阶导数,并据此构建曲线回归模型。得到的结论是:后者的拟合效果优于前者。     

合理进行多重线性回归分析——结合倾向性评分分析

本文目的是介绍如何结合倾向性评分分析,合理地进行多重线性回归分析的方法。第一,介绍了与倾向性评分分析有关的3个基本概念。第二,介绍了倾向性评分分析的核心内容,即3种匹配方法。第三,通过一个流行病学的调查实例,介绍了如何用SAS软件进行分析的全过程,内容如下：(1)针对原始数据集,检验协变量在处理组与对照组之间的差异是否具有统计学意义;(2)针对原始数据集,直接进行多重线性回归分析;(3)采用倾向性评分分析产生匹配后的数据集;(4)针对匹配后的数据集,检验协变量在处理组与对照组之间的差异是否具有统计学意义;(5)针对匹配后的数据集,合理进行多重线性回归分析。     

主成分分析应用(Ⅰ)——主成分回归分析

本文目的是介绍主成分回归分析的概念、作用以及用软件实现计算的方法。先对自变量进行主成分分析,然后将主成分变量视为新的自变量,再进行多重线性回归分析。通过不引入和引入派生变量以及采取不同的策略筛选自变量,可以获得多个合格的多重线性回归模型。在回归模型自由度接近相等时,基于残差方差最小、复相关系数最大为评价指标,从众多回归模型中优中选优。得出的经验为:应慎用主成分回归分析。     

如何正确运用t检验——线性回归模型中参数与0比较t检验及SAS实现

本文目的是介绍t检验在简单线性回归分析和多重线性回归分析中参数与0之间差异性比较时的理论依据和应用实践。首先介绍线性回归分析中t检验的基本原理和计算公式;然后用SAS程序分别对2个实例进行简单线性和多重线性回归分析,提请读者着重关注输出结果中有关"参数假设检验部分的检验统计量的名称及结果";最后对结果进行解释和讨论。     

岭回归分析

本文目的是介绍岭回归分析的概念、作用以及用软件实现计算的方法。先介绍有关的基本概念,再介绍基本原理和实施步骤,最后,通过一个实例并基于SAS软件演示如何实施岭回归分析。结果表明:对于计量因变量,要想构建高质量的多重线性回归模型,较好的建模策略是基于派生变量建立初步模型,在此基础上,再进行岭回归分析。     

非配对设计多值有序资料一水平多重Logistic回归分析

本文目的是介绍非配对设计多值有序资料一水平多重logistic回归模型的构建与求解方法。本文详细介绍了构建累积logistic回归模型的原理和具体方法,并结合实例介绍如何使用SAS软件中的LOGISTIC过程来拟合此回归模型,并对逐步回归法的输出结果进行了解释;其次讨论了有关构建累积logistic回归模型的过程中自变量筛选、模型评价以及拟合模型时需注意的问题。     

提高回归模型拟合优度的策略(Ⅰ)——哑变量变换与其他变量变换

本文目的是介绍第一种提高回归模型拟合优度的策略,即哑变量变换与其他变量变换。具体方法包括以下几个方面:①对多值名义自变量采取"哑变量变换";②对定量和有序自变量引入派生变量,包括"对数变换""平方根变换""指数变换""平方变换""立方变换"和"交叉乘积变换"的结果;③对定量因变量分别采取"对数变换""平方根变换""指数变换""倒数变换"和"Logistic变换";④构建回归模型时,在假定"包含截距项"与"不含截距项"的条件下,分别采取"前进法""后退法"和"逐步法"筛选自变量。得到了如下几个结论:①对定量因变量和自变量不做变量变换时,回归模型的拟合优度非常差;②根据资料所具备的条件,对定量因变量采取不同的变量变换方法,其回归模型的拟合优度是不尽相同的;③对多值名义自变量进行"哑变量变换"是常规的做法,但存在不足之处;④对定量自变量引入派生变量是非常有价值的;⑤假定回归模型中不含截距项有助于提高回归模型的拟合优度。     

An efficient sampling algorithm with adaptations for Bayesian variable selection

In Bayesian variable selection, indicator model selection (IMS) is a class of well-known sampling algorithms, which has been used in various models. The IMS is a class of methods that uses pseudo-priors and it contains specific methods such as Gibbs variable selection (GVS) and Kuo and Mallick’s (KM) method. However, the efficiency of the IMS strongly depends on the parameters of a proposal distribution and the pseudo-priors. Specifically, the GVS determines their parameters based on a pilot run for a full model and the KM method sets their parameters as those of priors, which often leads to slow mixings of them. In this paper, we propose an algorithm that adapts the parameters of the IMS during running. The parameters obtained on the fly provide an appropriate proposal distribution and pseudo-priors, which improve the mixing of the algorithm. We also prove the convergence theorem of the proposed algorithm, and confirm that the algorithm is more efficient than the conventional algorithms by experiments of the Bayesian variable selection.     

提高回归模型拟合优度的策略(Ⅲ)——校正均值变换与其他变量变换

本文目的是介绍第三种提高回归模型拟合优度的策略,即校正均值变换与其他变量变换。具体方法包括以下几个方面:①对多值名义自变量采取"校正均值变换";②对定量自变量引入派生变量,包括"对数变换""平方根变换""指数变换""平方变换""立方变换"和"交叉乘积变换"的结果;③对定量因变量分别采取"对数变换""平方根变换""指数变换""倒数变换"和"Logistic变换";④构建回归模型时,在假定"包含截距项"与"不含截距项"的条件下,分别采取"前进法""后退法"和"逐步法"筛选自变量。得到了如下结论:①对定量因变量和自变量不做变量变换时,回归模型的拟合优度非常低;②根据资料所具备的条件,对定量因变量采取不同的变量变换方法,其回归模型的拟合优度是不同的;③对多值名义自变量进行"校正均值变换"是合理的,且有助于提高回归模型拟合优度;④对定量自变量引入派生变量是非常有价值的;⑤假定回归模型中不含截距项有助于提高回归模型的拟合优度。     

提高回归模型拟合优度的策略(Ⅱ)——算术均值变换与其他变量变换

本文目的是介绍第二种提高回归模型拟合优度的策略,即算术均值变换与其他变量变换。具体方法包括以下几个方面:①对多值名义自变量采取"算术均值变换";②对定量自变量引入派生变量,包括"对数变换""平方根变换""指数变换""平方变换""立方变换"和"交叉乘积变换"的结果;③对定量因变量分别采取"对数变换""平方根变换""指数变换""倒数变换"和"Logistic变换";④构建回归模型时,在假定"包含截距项"与"不含截距项"的条件下,分别采取"前进法""后退法"和"逐步法"筛选自变量。得到了如下结论:①对定量因变量和自变量不做变量变换时,回归模型的拟合优度非常差;②根据资料所具备的条件,对定量因变量采取不同的变量变换方法,其回归模型的拟合优度是不同的;③对多值名义自变量进行"算术均值变换"是合理的,且有助于提高回归模型拟合优度;④对定量自变量引入派生变量是非常有价值的;⑤假定回归模型中不含截距项有助于提高回归模型的拟合优度。     

合理进行多元分析——定量资料对应分析

本文目的是介绍与定量资料对应分析有关的基本概念、计算方法、两个实例以及SAS实现。基本概念包括变量与样品、显变量与隐变量、因子分析、R型分析与Q型分析、对应分析;计算方法涉及基本原理、变量变换、构建R型和Q型协方差矩阵、因子分析;两个实例分别为“某年中国10个省份农村居民家庭人均消费支出数据”和“不同民族的各种基因出现的频率”;借助SAS软件,对两个实例中的定量资料进行了定量资料对应分析,并对SAS输出结果做出了解释。     

影响癌症患者生活质量的相关因素分析

目的探讨影响癌症患者生活质量的相关因素,提示干预措施。方法对124例癌症患者在入院一周内进行癌症病人生活质量问卷(EORCT QLQ-30)、艾森克人格问卷(EPQ)、防御方式问卷(DSQ)、生活事件量表(LES)、社会支持评定量表(SSRS)、汉密尔顿抑郁量表(HAMD)和汉密尔顿焦虑量表(HAMA)的评估,用t检验,多元逐步回归进行统计分析。结果单因素分析显示对患病知情有利于患者认知功能提高且恶心呕吐减少；病程长躯体功能及角色功能差；本组抑郁发生率为32．26%,焦虑发生率为29．84%,抑郁、焦虑对癌症患者生活质量的多项因子都有显著影响。多元分析结果表明,癌症患者生活质量总评与负性生活事件强度、疼痛、疲劳、社会支持利用度相关,社会功能与年龄、疲劳、HAMD总分有关。结论癌症患者的生活质量受多种因素影响,其中抑郁、焦虑等情绪障碍严重影响了癌症患者的生活质量,负性生活事件、神经质个性、年龄、病程也是影响患者生活质量的重要因素。针对相关因素进行干预有利于癌症患者生活质量的提高。