概率统计Python计算：一元线性回归未知参数的区间估计

本文主要是介绍概率统计Python计算：一元线性回归未知参数的区间估计，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

在博文《一元线性回归未知参数的点估计》中利用scipy.stats的linregress函数，计算了总体分布$N(ax+b,{\sigma }^2)$的未知参数$a$，$b$和${\sigma }^2$的无偏估计$\stackrel{\wedge }{a}$，$\stackrel{\wedge }{b}$和$\stackrel{\wedge }{{\sigma }^2}$。由于$(\stackrel{\wedge }{a}-a)\sqrt{\frac{n\stackrel{\wedge }{{\sigma }^2}}{(n-2)\sum _{i=1}^n(x_i-\overline{x}{)}^2}}$~$t(n-2)$，$(\stackrel{\wedge }{b}-b)\sqrt{\frac{\stackrel{\wedge }{{\sigma }^2}\sum _{i=1}^n{x}_i^2}{(n-2)\sum _{i=1}^n(x_i-\overline{x}{)}^2}}$~$t(n-2)$及$\frac{n\stackrel{\wedge }{{\sigma }^2}}{{\sigma }^2}$~${\chi }^2(n-2)$，故对$1-\alpha$的置信水平,$a$，$b$和${\sigma }^2$的置信区间分别为
$$\begin{gathered} \left(\stackrel{\wedge }{a}\pm t_{\alpha /2}(n-2)\sqrt{\frac{n\stackrel{\wedge }{{\sigma }^2}}{(n-2)\sum _{i=1}^n(x_i-\overline{x}{)}^2}}\right), \\ \left(\stackrel{\wedge }{b}\pm t_{\alpha /2}(n-2)\sqrt{\frac{\stackrel{\wedge }{{\sigma }^2}\sum _{i=1}^n{x}_i^2}{(n-2)\sum _{i=1}^n(x_i-\overline{x}{)}^2}}\right), \\ \left(\frac{n\stackrel{\wedge }{{\sigma }^2}}{{\chi }_{\alpha /2}^2(n-2)},\frac{n\stackrel{\wedge }{{\sigma }^2}}{{\chi }_{1-\alpha /2}^2(n-2)}\right). \end{gathered}$$
我们已经知道linregress函数的返回值属性slope和intercept分别表示$a$和$b$的无偏估计，$\stackrel{\wedge }{a}$和$\stackrel{\wedge }{b}$，利用属性stderr（表示$\sqrt{\frac{n\stackrel{\wedge }{{\sigma }^2}}{(n-2)\sum _{i=1}^n(x_i-\overline{x}{)}^2}}$）可算得${\sigma }^2$的无偏估计$\stackrel{\wedge }{{\sigma }^2}$，而这刚好是$a$的置信区间增量因子。linregress函数的返回值属性intercept_stderr表示$\stackrel{\wedge }{b}$的标准差$\sqrt{\frac{{\sigma }^2\sum _{i=1}^n{x}_i^2}{n\sum _{i=1}^n(x_i-\overline{x}{)}^2}}$的估计量$\sqrt{\frac{\stackrel{\wedge }{{\sigma }^2}\sum _{i=1}^n{x}_i^2}{(n-2)\sum _{i=1}^n(x_i-\overline{x}{)}^2}}$，恰为$b$的置信区间增量因子。而用$(n-2)\sum _{i=1}^n(x_i-\overline{x}{)}^2$乘以stderr的平方，即得${\sigma }^2$的置信区间上下限的分子$n\stackrel{\wedge }{{\sigma }^2}$。
例1为研究某一化学反应过程中，温度$x$（摄氏度）对产品得率$Y$（%）的影响，测得数据如下
$$\begin{gathered} \text{温度}x:100,110,120,130,140,150,160,170,180,200 \\ \text{得率}Y:45,51,54,61,66,70,74,78,85,89 \end{gathered}$$
设$Y$~$N(ax+b,{\sigma }^2)$，计算$a$，$b$和${\sigma }^2$置信水平为$1-\alpha$的置信区间。
解： 下列代码完成本例计算。

alpha=0.05
x=np.array([100,110,120,130,140,150,160,170,180,190])
y=np.array([45,51,54,61,66,70,74,78,85,89])
n=x.size
x_bar=x.mean()
lxx=((x-x_bar)**2).sum()
res=linregress(x, y)
a=res.slope
b=res.intercept
s2=(res.stderr**2)*lxx*(n-2)/n
print('a=%.3f,b=%.3f,s2=%.3f'%(a,b,s2))
d=res.stderr
(la, ra)=muBounds(a, d, 1-alpha, n-2)
d=res.intercept_stderr
(lb, rb)=muBounds(b, d, 1-alpha, n-2)
d=n*s2
(ls, rs)=sigma2Bounds(d, n-2, 1-alpha)
print('(%.3f,%.3f)'%(la, ra))
print('(%.3f,%.3f)'%(lb, rb))
print('(%.3f,%.3f)'%(ls, rs))

第6行计算$\sum _{i=1}^n(x_i-\overline{x}{)}^2$为lxx。第7行调用linregress，返回值为res。第8~10行分别计算$a$，$b$和${\sigma }^2$的点估计值（参见博文《一元线性回归未知参数的点估计》）。第12行计算$a$的置信区间增量因子$\sqrt{\frac{n\stackrel{\wedge }{{\sigma }^2}}{(n-2)\sum _{i=1}^n(x_i-\overline{x}{)}^2}}$（即res的stderr字段）为d，第13行调用muBounds函数计算$a$的双侧置信区间。相仿地，第14行计算$b$的置信区间增量因子$\sqrt{\frac{\stackrel{\wedge }{{\sigma }^2}\sum _{i=1}^n{x}_i^2}{(n-2)\sum _{i=1}^n(x_i-\overline{x}{)}^2}}$（即res的intercept_stderr字段）为d，第15行计算$b$的置信区间。第16行调用sigma2Bounds函数计算${\sigma }^2$的置信区间上下限分子$n\stackrel{\wedge }{{\sigma }^2}$为d，第17行计算${\sigma }^2$的置信区间。运行程序，输出

a=0.483,b=-2.739,s2=0.722
(0.459,0.507)
(-6.306,0.827)
(0.412,3.314)

表示$a$，$b$和${\sigma }^2$的点估计值分别为0.483，-2.739和0.722，在0.95的置信水平下，$a$，$b$和${\sigma }^2$的置信区间分别为(0.459,0.507)，(-6.306,0.827)和(0.412,3.314)。
写博不易，敬请支持：
如果阅读本文于您有所获，敬请点赞、评论、收藏，谢谢大家的支持！
代码诚可贵，原理价更高。若为AI学，读正版书好。
返回《导引》

这篇关于概率统计Python计算：一元线性回归未知参数的区间估计的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---