提高回归模型拟合优度的策略(Ⅱ)——算术均值变换与其他变量变换

本文目的是介绍第二种提高回归模型拟合优度的策略,即算术均值变换与其他变量变换。具体方法包括以下几个方面:①对多值名义自变量采取"算术均值变换";②对定量自变量引入派生变量,包括"对数变换""平方根变换""指数变换""平方变换""立方变换"和"交叉乘积变换"的结果;③对定量因变量分别采取"对数变换""平方根变换""指数变换""倒数变换"和"Logistic变换";④构建回归模型时,在假定"包含截距项"与"不含截距项"的条件下,分别采取"前进法""后退法"和"逐步法"筛选自变量。得到了如下结论:①对定量因变量和自变量不做变量变换时,回归模型的拟合优度非常差;②根据资料所具备的条件,对定量因变量采取不同的变量变换方法,其回归模型的拟合优度是不同的;③对多值名义自变量进行"算术均值变换"是合理的,且有助于提高回归模型拟合优度;④对定量自变量引入派生变量是非常有价值的;⑤假定回归模型中不含截距项有助于提高回归模型的拟合优度。     

提高回归模型拟合优度的策略(Ⅰ)——哑变量变换与其他变量变换

本文目的是介绍第一种提高回归模型拟合优度的策略,即哑变量变换与其他变量变换。具体方法包括以下几个方面:①对多值名义自变量采取"哑变量变换";②对定量和有序自变量引入派生变量,包括"对数变换""平方根变换""指数变换""平方变换""立方变换"和"交叉乘积变换"的结果;③对定量因变量分别采取"对数变换""平方根变换""指数变换""倒数变换"和"Logistic变换";④构建回归模型时,在假定"包含截距项"与"不含截距项"的条件下,分别采取"前进法""后退法"和"逐步法"筛选自变量。得到了如下几个结论:①对定量因变量和自变量不做变量变换时,回归模型的拟合优度非常差;②根据资料所具备的条件,对定量因变量采取不同的变量变换方法,其回归模型的拟合优度是不尽相同的;③对多值名义自变量进行"哑变量变换"是常规的做法,但存在不足之处;④对定量自变量引入派生变量是非常有价值的;⑤假定回归模型中不含截距项有助于提高回归模型的拟合优度。     

提高回归模型拟合优度的策略(Ⅳ)——优化计分变换与其他变量变换

本文目的是介绍第四种提高回归模型拟合优度的策略,即优化计分变换与其他变量变换。具体方法包括以下几个方面:①第一,对多值名义自变量采取"优化计分变换";②对有序自变量分别采取"单调变换"与"优化计分变换";③对定量自变量分别采取"样条变换"和"单调样条变换";④对定量因变量分别采取"样条变换""单调样条变换"和"BOX-COX变换"。全部变量变换方法组合起来共12种,共创建了12个多重非线性回归模型。依据"拟合优度评价指标"的取值,从12个回归模型中挑选出一个,即本文中的"模型1",其"均方误差平方根=0.30935、R~2=0.9586、调整R~2=0.9527"。结合本期科研方法专题同类文章的结果和结论,得出提高回归模型拟合优度的策略主要在于以下四点:①应对"定量因变量""定量自变量"和"多值有序自变量"采取合适的变量变换方法;②在拟合回归模型的过程中,应尽可能多地引入派生变量;③应假定回归模型中不含截距项;④在构建回归模型的过程中,应尽可能多地使用筛选自变量的策略,如"前进法""后退法"和"逐步法"。     

适应性回归分析(Ⅳ)——与非适应性回归分析的比较

本文目的是分析一个已知真实情况的资料,比较适应性回归分析与非适应性回归分析建模的效果。结论如下:当资料中存在与因变量确有关系的自变量时,ADAPTIVEREG过程具有较好的甄别能力;REG过程具有较好的甄别能力,但需要满足一定条件,即采用"前进法"或"逐步法"筛选自变量,同时还需要"假定模型包含截距项"。当资料中不存在与因变量确有关系的自变量时,ADAPTIVEREG过程几乎完全失去了甄别能力;REG过程具有较好的甄别能力,但需要满足一定条件,即采用"前进法"筛选自变量,同时还需要"假定模型包含截距项"。若研究者基于"基本常识"和"专业知识"确定的自变量都与因变量有关系,对因变量进行Logistic变换,并且,假定回归模型中不含截距项时,会在回归模型中保留非常多的自变量。     

非配对设计二值资料一水平多重Logistic回归分析

本文的目的是介绍非配对设计二值资料一水平多重Logistic回归模型的构建与求解方法。基于SAS软件分别对以列联表和数据库形式呈现的定性资料进行全面分析,并得出了4个对提高模型拟合优度很有价值的结论:第一,若资料以列联表形式呈现,应拟合"加权"Logistic回归模型;第二,若资料中包含定量自变量,不适合将其定性化;第三,若资料中包含定量自变量,应依据定量自变量和二值自变量产生出派生自变量;第四,若资料中有定性自变量时,必须将多值名义或有序自变量进行哑变量变换,不需要依据二值自变量产生出派生自变量。     

回归建模的基础与要领(Ⅲ)——变量状态与相互间关系

本文目的是介绍回归建模的基础与要领之三,即"变量状态与相互间关系"。首先,介绍"因变量状态"与"自变量状态";其次,介绍"自变量间相互关系",即"自变量间相互独立""自变量间有线性关系"和"自变量间有非线性关系";最后,介绍"自变量与因变量间关系",包括"自变量与因变量间无任何数量关系""自变量与因变量间有间接数量关系"和"自变量与因变量间有直接数量关系"。很明显,清楚"变量状态和变量间关系"是构建合理回归模型的重要基础与要领之一。     

M∶N配对设计二值资料一水平多重Logistic回归分析

本文的目的是介绍m∶n配对设计二值资料一水平多重Logistic回归分析方法。首先,介绍了需要了解的基本概念;其次,介绍了构建此类回归模型的基本原理;最后,通过一个实例介绍了使用SAS实现计算的全过程。在此过程中,获得了如下四点启示:其一,有必要确保所获得的科研资料是值得分析的;其二,有必要基于定量自变量产生派生变量;其三,有必要同时采用"逐步法""前进法"和"后退法"筛选自变量;其四,有必要采用多种方法评价不同回归模型对资料的拟合优度。     

零膨胀Poisson分布模型回归分析

本文目的是介绍零膨胀Poisson分布模型回归分析。首先,介绍零膨胀计数资料及其零膨胀Poisson分布回归模型构建原理,包括"零膨胀Poisson分布回归模型的形式"和"零膨胀Poisson分布回归模型的求解";其次,介绍"零膨胀Poisson分布回归模型的SAS实现",包括"创建SAS数据集""呈现因变量Y的频数分布""求出因变量Y的均值和方差"和"基于全部自变量对因变量Y构建多重零膨胀Poisson分布回归模型"。本文结果提示,当计数资料为非严重过离散的零膨胀计数资料时,拟合"多重零膨胀Poisson分布回归模型",可获得满意的拟合效果。     

一般计数资料Poisson分布模型回归分析

本文目的是介绍一般计数资料Poisson分布模型回归分析。首先,介绍一般计数资料及其Poisson分布模型构建原理,包括"一般计数资料Poisson分布回归模型的形式"和"一般计数资料Poisson分布回归模型的求解";其次,介绍"一般计数资料Poisson分布回归模型的SAS实现",包括"创建SAS数据集""求出因变量Y的均值和方差""检验因变量是否存在过离散现象""对过离散进行校正"和"基于全部自变量对因变量Y构建多重Poisson分布回归模型"。本文结果提示,在"过离散"不十分严重的情况下,通过在GENMOD过程的"model语句"中增加选项"dist=poisson"和"scale=deviance",可以较好地校正"过离散"导致的不良后果。     

适应性回归分析(Ⅱ)——排除噪声变量的干扰

本文目的是通过分析一个带有8个噪声变量的数据集,揭示适应性回归模型的实际应用价值。在数据集包含两个自变量与因变量有密切数量联系的前提条件下,适应性回归模型受噪声变量的影响接近于零;在数据集包含一个自变量与因变量有密切数量联系的前提条件下,适应性回归模型受噪声变量的影响较大,其分析结果出现了一定程度的"失真";在数据集包含零个自变量与因变量有密切数量联系的前提条件下,适应性回归模型受噪声变量的影响非常大,其分析结果是完全不可信的。得出的结论是:适应性回归分析模型不是万能的,其结果的可信度取决于数据集中是否真正包含"客观存在的规律性"。     

变量变换回归分析(Ⅰ)——拟合含间断点资料的方法

本文目的是介绍一种能很好地拟合具有间断点资料的方法。当资料中具有明确的间断点或整个资料包含多段不同变化趋势的曲线类型时,为了提高曲线回归模型对资料的拟合优度,需要充分发挥"节点"的作用。可基于两种不同视角来利用"节点":其一,人为设定不同数目的节点,利用样条变换方法拟合分段多项式曲线;其二,在客观存在的节点上,求曲线的一阶乃至四阶导数,并据此构建曲线回归模型。得到的结论是:后者的拟合效果优于前者。     

主成分分析应用(Ⅰ)——主成分回归分析

本文目的是介绍主成分回归分析的概念、作用以及用软件实现计算的方法。先对自变量进行主成分分析,然后将主成分变量视为新的自变量,再进行多重线性回归分析。通过不引入和引入派生变量以及采取不同的策略筛选自变量,可以获得多个合格的多重线性回归模型。在回归模型自由度接近相等时,基于残差方差最小、复相关系数最大为评价指标,从众多回归模型中优中选优。得出的经验为:应慎用主成分回归分析。     

适应性回归分析(Ⅰ)——回归模型的构建与求解

本文目的是介绍适应性回归模型的构建与求解方法。众所周知,在自变量数目很多时,就会出现维数灾难,此时,统计学家倾向于采用非参数回归模型取代参数回归模型。然而,当自变量数目大到一定程度时,普通的非参数回归模型也不堪重负,于是,适应性回归样条算法应运而生。此法由以下几种统计技术组成:①特殊的变量变换;②基于向前选择法构建过拟合回归模型,再基于向后选择法"修剪"回归模型;③基于"减少在向前选择的每个步骤中,检验B、V和t的组合的数目"的基本思想,实现快速算法;④借助"GCV"和"LOF"作为"拟合优度"的界值,评价已构建的回归模型的拟合效果。此法为复杂数据结构的回归建模提供了新思路。     

经典统计的回归模型概述

本文目的是系统全面地总结和归纳经典统计中的回归模型及其合理选用的要领。具体方法是先按因变量的性质分为定量因变量与定性因变量两大类,再分别按自变量所具备的不同前提条件,并基于经典统计思想构建相应的回归模型。初步结果为:在定量因变量的场合下,经典回归模型大致有16种不同情形;而在定性因变量的场合下,经典回归模型大致有6种不同情形。总之,在构建经典回归模型时,应当依据因变量的性质和自变量所具备的前提条件,选择最合适的回归模型,才能达到比较理想的统计分析目的。     

过离散计数资料负二项分布模型回归分析

本文目的是介绍过离散(即方差明显大于均值)计数资料负二项分布模型回归分析。首先,介绍了过离散计数资料及其负二项分布回归模型构建原理,包括"过离散计数资料负二项分布回归模型的形式"和"过离散计数资料负二项分布回归模型的求解";第二,介绍了"过离散计数资料负二项分布回归模型的SAS实现",包括:(1)"创建SAS数据集";(2)"求出因变量Y的均值和方差""检验因变量是否存在过离散现象"和"基于全部自变量对因变量Y构建多重负二项分布回归模型"。本文结果提示,在"过离散"非常严重的情况下,应使用"负二项分布回归模型"取代"Poisson分布回归模型"。否则,易得出不正确的结果和结论。     

回归建模的基础与要领(Ⅱ)——偏态分布计量资料的变换

本文目的是介绍如何将呈偏态分布计量资料变换为近似服从正态分布计量资料的方法。首先,明确指出:在经典统计学中,参数统计分析方法常需要将呈偏态分布计量资料变换为呈正态分布(至少是对称分布)计量资料。其次,介绍常用计量资料变换方法,有如下4种:(1)对数变换法;(2)平方根变换法;(3)倒数变换法;(4)Box-Cox变换法。最后,通过实例,介绍基于SAS软件和Box-Cox变换法实现对正偏态分布和负偏态分布计量资料成功变换为呈正态分布计量资料的方法。需要注意的是:(1)变换不一定都能成功;(2)有时需要将多种变换方法结合使用;(3)变换主要用于计量的结果变量(适用场合为基于参数法的差异性分析、区间估计和回归分析)。     

如何正确运用χ~2检验——高维表资料统计分析方法概述

本文目的是介绍高维表资料的种类及其对应的统计分析方法。基于结果变量的资料类型,常见的高维表资料可分为以下三类,即结果变量为二值变量、多值名义变量和多值有序变量。高维表资料的统计分析方法主要有两大类,第一类为广义差异性分析,内容包括"加权χ~2检验""CMH χ~2检验"和"Meta分析";第二类为回归分析,内容包括"对数线性回归模型分析""Logistic回归模型分析""Probit回归模型分析"和"离散选择模型分析"。     

变量变换回归分析（ＩＩ）———拟合近似呈均匀分布资料的方法

本文利用SAS帮助数据库中的一个数据集sashelp.enso,介绍对自变量进行样条变换后的曲线回归分析方法。在SAS/STAT的TRANSREG过程中,涉及到六种样条变换方法,分别为:B-样条变换、B-样条基函数变换、单调B-样条变换、非迭代惩罚B-样条变换、迭代光滑样条变换、非迭代光滑样条变换。获得的结论是:在确保R~2≈0.7且回归模型尽可能精简的条件下,"非迭代惩罚B-样条变换"与"迭代光滑样条变换"两种方法是以上六种方法中最好的曲线回归建模方法,这两种方法的拟合效果几乎完全相同。     

如何正确运用方差分析——方差齐性检验与SAS实现

本文目的是介绍方差齐性检验与SAS实现.方差齐性检验可分为以下三类:①直接基于方差比较的方差分析法;②对原始数据经过变量变换后的新数据采取基于均值比较的方差分析法;③对符合正态分布的定量原始数据采取χ2检验法.在第一类中,直接基于两样本方差比构造出服从F分布的检验统计量;在第二类中,对原始数据有多种不同的变量变换方法,...     

基于标准化变换的求和法:一种新的样品聚类分析方法

本文目的是介绍一种新的样品聚类分析方法,即基于标准化变换的求和法,它也可归类于传统综合评价方法体系之中。具体地说,第1步,对全部定量变量进行同趋势化变换;第2步,选择一种合适的定量变量标准化变换方法,使第3步中求得的"综合指标"的标准差达到最大值;第3步,求每个样品按综合指标上的数值,即求每个样品在全部标准化变换后的定量指标上取值之和;第4步,将全部样品按综合指标上的取值由大到小(整体为高优指标)或由小到大(整体为低优指标)排序,此顺序就是由优到劣的顺序。基于统计学基础知识和任何两个样品之间易于判定优劣的基本常识,本文提出了评价样品优劣排序合理性的两条标准。以此标准为依据,得出本文方法比其他七种综合评价方法(本质上是样品排序或样品聚类)的排序结果都更为合理。