登录
首页 >  数据库 >  MySQL

统计科学之加权最小二乘法

来源:SegmentFault

时间:2023-01-23 11:56:44 237浏览 收藏

你在学习数据库相关的知识吗?本文《统计科学之加权最小二乘法》,主要介绍的内容就涉及到MySQL、数据库、python、网页爬虫、数据挖掘,如果你想提升自己的开发能力,就不要错过这篇文章,大家要知道编程理论基础和实战操作都是不可或缺的哦!

今天这篇来讲讲加权最小二乘法(WLS),加权最小二乘是在普通的最小二乘回归(OLS)的基础上进行改造的,主要是用来解决异方差问题的。

OLS的常规形式如下:

image

我们在前面讲过OLS有几个基本假定,其中一个就是ui是随机干扰项,即随机波动的,不受其他因素的影响,即在x取不同值时var(ui)都是一个固定的常数。但有的时候ui不是随机干扰项,而是与x的取值有关的,比如在研究年龄和工资收入的之间的关系时,随着年龄越大,ui的波动是会越大的,即var(ui)不是常数了,这就是出现了异方差。此时的数据不满足OLS的基本假定,所以如果直接使用OLS进行估计,会使估计出来的结果是有偏的。

如果我们在估计的时候可以把不同x的对应的ui的大小考虑进去的话,得到的结果应该就是ok的。那我们应该如何考虑进去呢?

假设不同x对应的ui的波动(方差)为σi^2,我们在OLS基本方程左右两边同时除σi,最后得到如下结果:

image

为了让方程看起来更加熟悉一点,我们再做一个变换:

image

变换后的方程是不是就和普通的OLS的方程形式是一样的了,此时的方程也满足基本的OLS假定,因为我们把不同x对应的σi给除掉了。就可以利用普通OLS方程的方法进行求解了。我们把这种变换后的方程称为WLS,即加权最小二乘法。

虽然整体思路上没啥问题了,但是这里还有一个关键问题就是σi怎么获取呢?

先用普通最小二乘OLS的方法去估计去进行估计,这样就可以得到每个x对应实际的残差ui,然后将ui作为σi。1/ui作为权重在原方程左右两边相乘,将得到的新的样本值再去用普通最小二乘估计即可。

文中关于mysql的知识介绍,希望对你的学习有所帮助!若是受益匪浅,那就动动鼠标收藏这篇《统计科学之加权最小二乘法》文章吧,也可关注golang学习网公众号了解相关技术文章。

声明:本文转载于:SegmentFault 如有侵犯,请联系study_golang@163.com删除
相关阅读
更多>
最新阅读
更多>
课程推荐
更多>