共计 681 个字符，预计需要花费 2 分钟才能阅读完成。
明天这篇来讲讲加权最小二乘法 (WLS)，加权最小二乘是在一般的最小二乘回归(OLS) 的根底上进行革新的，次要是用来解决异方差问题的。
OLS 的惯例模式如下：
咱们在后面讲过 OLS 有几个根本假设，其中一个就是 ui 是随机烦扰项，即随机稳定的，不受其余因素的影响，即在 x 取不同值时 var(ui)都是一个固定的常数。但有的时候 ui 不是随机烦扰项，而是与 x 的取值无关的，比方在钻研年龄和工资收入的之间的关系时，随着年龄越大，ui 的稳定是会越大的，即 var(ui)不是常数了，这就是呈现了异方差。此时的数据不满足 OLS 的根本假设，所以如果间接应用 OLS 进行预计，会使预计进去的后果是有偏的。
如果咱们在预计的时候能够把不同 x 的对应的 ui 的大小思考进去的话，失去的后果应该就是 ok 的。那咱们应该如何思考进去呢？
假如不同 x 对应的 ui 的稳定 (方差) 为 σi^2，咱们在 OLS 根本方程左右两边同时除 σi，最初失去如下后果：
为了让方程看起来更加相熟一点，咱们再做一个变换：
变换后的方程是不是就和一般的 OLS 的方程模式是一样的了，此时的方程也满足根本的 OLS 假设，因为咱们把不同 x 对应的 σi 给除掉了。就能够利用一般 OLS 方程的办法进行求解了。咱们把这种变换后的方程称为 WLS，即加权最小二乘法。
尽管整体思路上没啥问题了，然而这里还有一个关键问题就是 σi 怎么获取呢？
先用一般最小二乘 OLS 的办法去预计去进行预计，这样就能够失去每个 x 对应理论的残差 ui，而后将 ui 作为 σi。1/ui 作为权重在原方程左右两边相乘，将失去的新的样本值再去用一般最小二乘预计即可。
以上就是对于加权最小二乘的一个简略介绍。
