1
最小二乘法

(1)普通最小二乘估计(OLS):这是使用的最为普遍的模型,基本原理就是估计残差平方和最小化,不予赘述。
(2)加权最小二乘估计(WLS)
Eviews路径:LS模型设定对话框—–options
OLS的假设条件最为严格,其他的估计方法往往是在OLS的某些条件无法满足的前提下进行修正处理的。WLS就是用来修正异方差问题的。
在解释变量的每一个水平上存在一系列的被解释变量值,每一个被解释变量值都有自己的分布和方差。在同方差性假设下,OLS对每个残差平方ei^2都同等看待,即采取等权重1。但是,当存在异方差性时,方差δi^2越小,其样本值偏离均值的程度越小,其观测值越应受到重视,即方差越小,在确定回归线时的作用应当越大;反之方差δi^2越大,其样本值偏离均值的程度越大,其在确定回归线时的作用应当越小。
WLS的一个思路就是在拟合存在异方差的模型的回归线时,对不同的δi^2区别对待。在利用样本估计系数时依旧是使得总体残差最小化,但是WLS会给每个残差平方和一个权重wi=1/δi。这样,当δi^2越小,wi越大;反之,δi^2越大,wi越小。Eviews的WLS没有要求权重因子必须是1/δi。一般纠正异方差性的方法还包括模型变换法,这种方法假定已知Var(ui)=δi^2=δ^2*f(Xi),令权重wi=f(Xi)^(1/2),用f(Xi)^(1/2)去除原模型,可知随机干扰项转换为ui/f(Xi)^(1/2),这时Var(ui)=δi^2=δ^2,即实现了同方差。
由上面的分析可知,WLS核心就是找到一个等式:Var(ui)=δi^2=δ^2*f(Xi)。这个等式经过调整更容易理解:δ^2=δi^2/f(Xi)或δ=δi/f(Xi)^(1/2)。δ为某一常数,权重wi=1/f(Xi)^(1/2),经过wi的加权便实现了同方差。前面提到的特殊权重wi=1/δi,即f(Xi)=1/δi^2,这时δ=δi/f(Xi)^(1/2)=1。由此可知,它只是模型转换法的一种特殊形式。常用的权重因子有:1/X,1/X^2, 1/X^0.5。其对应的f(Xi)的函数形式为f(Xi)=X^2, f(Xi)=X^4, f(Xi)=X。
(3)异方差一致协方差矩阵估计
必须特别注意的是,当存在异方差性时,使用WLS可以提供参数的一致估计,但这时候回归系数的标准差将不正确,这也将导致T检验的扭曲。Eviews在LS模型设定对话框的options中提供了两种进行估计参数一致协方差修正的方法:White异方差一致协方差或Newey-West异方差一致协方差。
使用White异方差一致协方差或Newey-West HAC异方差一致协方差估计不会改变参数的点估计,只改变参数的估计标准差。
White协方差矩阵假设被估计方程的残差是序列不相关的,Newey-West协方差矩阵则提出了一个更一般的估计量,在有未知形式的异方差和自相关存在时仍保持一致。White异方差一致协方差和WLS一般结合使用以更好地纠正异方差问题,Newey-West HAC异方差一致协方差估计则不能和WLS结合使用。

2
两阶段最小二乘法(TSLS)

(1)一般过程 
OLS的一个基本假设是解释变量与扰动项不相关。但是,由于解释变量测量误差的存在,用于估计模型参数的数据经常与它们的理论值不一致;或者由于遗漏了变量,使得随机误差项中含有可能与解释变量相关的变量,这些都可能导致解释变量与扰动项的相关。出现这种问题时,OLS和WLS估计量都有偏差且不一致,因而要采用其他方法估计。最常用的估计方法是二阶段最小二乘法。
二阶段最小二乘方法本质上属于工具变量法,工具变量满足下面两个条件:(1)与方程解释变量相关;(2)与扰动项不相关。
二阶段最小二乘法包括两个阶段:第一个阶段,找到一组工具变量,模型中每个解释变量分别对这组变量作最小二乘回归;第二个阶段,所有变量用第一个阶段回归得到的拟合值来代替,对原方程进行回归,这样求得的回归系数就是TSLS估计值。可以证明二阶段最小二乘估计量是一致估计量。
回归模型中所包含的外生变量或前定变量(如解释变量中包括被解释变量的滞后变量,该滞后变量则为前定变量,它与外生变量一样都不是由模型确定的,而是由外在因素确定的)应当同时出现在方程设定和工具变量列表中。
常数c是一个合适的工具变量,如果忽略了它,EViews会自动把它加进去。
根据经济计量学理论,与扰动项不相关的解释变量可以用作工具变量。
使用TSLS估计,方程说明必需满足识别的阶条件,即工具变量的个数至少与方程的系数一样多。换句话说,工具变量列表中额外的外生变量至少要和方程设定中右边的内生变量一样多。
(2)带有序列相关的的TSLS
带有序列相关修正的TSLS可以通过在方程设定的最后加入AR(1)来实现,在这种情况下可以获得一致估计。但是为取得一致估计,滞后被解释变量和滞后解释变量都必须包含在工具变量列表中。高阶或者广义AR和MA设定也可以出现在TSLS的方程中。
3、 多项式分布滞后模型(Polynomial Distributed Lags,PDL )的TSLS
多项式分布滞后模型考虑了变量跨时期的影响关系,所以也称作动态模型。首先要理解对象时分布滞后模型PDL,PDL(A,B,C,D)说明它主要有四个参数要设定:A表示变量名,可以使原始变量也可以是滞后变量;B表示滞后期;C表示多项式中的最高幂次;D表示多项式分布滞后模型所采用的约束类型。主要有两种约束:第一,近端约束,说明解释变量对被解释变量的即时(超前)作用为0,即最近一期解释变量的系数β1=0;第二,远端约束,指解释变量对被解释变量的作用在端点处消失(衰减),即βL(L为最长滞后期)=0.当D=1表示存在近端约束;D=2表示存在远端约束;D=3表示两端约束都存在;省略D则表示两端都没有约束。
PDL的设定可以用于TSLS,如果PDL中的序列是外生或者前定的,则该序列也可以包含在工具变量中。如果设定PDL(*)作为工具变量,这就意味着所有的PDL变量都会被用作工具变量。
注:PDL有时候也被称作阿尔蒙分布滞后模型,而阿尔蒙多项式变换可以通过重新组合转换解释变量消除分布滞后模型可能存在的严重多重共线性。TSLS经常运用在联立方程模型的估计中。

3
广义矩估计(GMM)

        传统的计量经济模型估计方法,例如普通最小二乘法、工具变量法、极大似然法等,都有它们的局限性,其参数估计量必须在模型满足某些假设时才具有良好的性质,如只有当模型的随机误差项服从正态分布或某一已知分布,极大似然法估计量才是可靠的估计量;而GMM估计是一个稳健估计量,因为它不要求扰动项的准确分布信息,允许随机误差项存在异方差和序列相关,所得到的参数估计量比其他参数估计方法更合乎实际;而且可以证明,GMM包容了许多常用的估计方法,普通最小二乘法、工具变量法、极大似然法都是它的特例。
GMM估计的出发点是参数应满足的一种理论关系。其思想是选择参数估计尽可能接近理论上的关系。把理论上的关系用样本近似值代替,并且估计量的选择就是要最小化理论值和实际值之间的加权距离。概率论与数理统计在进行统计推断时主要采取两种方法:点估计和区间估计。而点估计除了极大似然估计之外应用地更广泛的就是矩估计。例如我们用样本均值估计总体均值,用样本方差去估计总体方差。均值就是一阶原点钜,而方差则是二阶中心距。
GMM过程也需要采用工具变量,工具变量的设置与前面所讲完全相同。GMM估计量选择参数估计的标准是使工具变量与参数函数的样本相关性是否接近于0,越接近于0效果越好,即要满足正交条件(与OLS中计算残差平方和最小化的约束条件的实质是一样的,可以参照思考)。所以要得到GMM估计,应该写出矩条件作为参数表达式和工具变量之间的正交条件。而写正交条件的方法有两种:有因变量和没有因变量。
如果使用列表法或有等号的表达式法说明方程,EViews会把矩条件理解为工具变量和方程残差之间的正交条件(这就和OLS的约束条件完全一样)。如果用没有等号的表达式,EViews会正交化表达式和工具变量。
GMM需要设置权数矩阵,权数矩阵就是采用之前在WLS中的一致协方差矩阵。在方程说明框右边是选择目标函数的权数矩阵A。如果选择基于White 协方差的加权矩阵,则GMM估计对未知形式的异方差将是稳健的。如果选择基于HAC时间序列的加权矩阵,则GMM估计量对未知形式的异方差和自相关是稳健的。对于HAC选项,必须说明核和带宽(一般直接按照Eviews的默认设置)。由于HAC的效度更高,一般都采用后者,这也是Eviews的默认设置。

(来源:公众号  计量经济学)