绘制带回归线的散点图

回归分析

这里列出的是一些常用的回归方法

1.1参数回归分析，也即拟合曲线。一般采用最小二乘法实现拟合曲线的参数计算（使残差平方和最小）

按自变量的多少分为一元和多元回归分析；按自变量和因变量的关系分为线性和非线性回归；比较常用的是多项式回归、线性回归和指数回归。

1.2 用lm（）拟合回归模

拟合线性模型最基本的函数就是lm（），格式为：

myfit<-lm(formula,data)

formula指要拟合的模型形式，data是一个数据框，包含了用于拟合模型的数据

formula形式如下：Y~X1+X2+……+Xk （~左边为响应变量，右边为各个预测变量，预测变量之间用+符号分隔）

1.3. 简单线性回归

直线回归的假设检验

任何两个变量之间都可以建立直线回归方程，而该方程是否有意义，关键在于回归是否达到显著水平/因为即使x，y之间不纯在线性关系，即β=0，但由于抽样误差，其回归系数b也不一定为0，因此我们需要用到方差分析或者t检验进行β是否为零的假设检验。

直线回归的变异来源

2、一元线性回归的假设检验

在一元线性回归中（多元也一样），假设检验主要分两块，分为对回归方程的检验和对回归系数的检验，这两个检验虽然构造的统计量不同，但在一元线性回归中，这两个检验结果是一样的。

对回归方程的检验

y的变异我们可以对其进行分解，即总编一可以分解为由x引起的变异和误差引起的变异

总变异分解

其中：

为变量y的总变异，记为SST

为x引起的变异，或者叫回归平方和，记为SSR

为误差引起的变异，也叫离回归平方和或残差平方和，几位SSE

所以平方和分解式可以写成：

F检验。

假设H0：两个变量之间无线性关系， HA：两个变量之间存在线性关系。在无效假设下，SSR与SSE之间的比值服从df=1和df=n-2的F分布

构造统计量：

后面就是计算统计量，计算P值，确定是否显著。

T检验

我们也可以采用T检验检验线性回归的显著性。H0:β=0，HA:β不等于0

知道了一个统计量的值以及他的样本方差，便可以对进行t检验，比如我们检验β均值为0, t值如下，通过t分布，可以查出某一个t值对应的p值，如果p值<0.05, 那么我可以拒绝该假设。

t统计量

R方

R方的取值范围是0到1，所以它给出的信息是一个相对的RSE值，计算方式如下。如果R方越接近于1，越是说明RSS即残差平方和足够小。所以R方与F统计值有很强的关系，可以看作F值的另一种形式。

R方

F检验统计量

综合上述，对一个拟合的检验有三种统计量衡量，分别为t,F,和R方，在R中如下图所示：

eg：

fit<-lm(weight~height,data=women)
summary(fit)

> summary(fit)

lm(formula = weight ~ height, data = women)

Residuals:

Min 1Q Median 3Q Max

-1.7333 -1.1333 -0.3833 0.7417 3.1167

Coefficients:

Estimate Std. Error t value Pr(>|t|)

(Intercept) -87.51667 5.93694 -14.74 1.71e-09 ***

height 3.45000 0.09114 37.85 1.09e-14 ***

---

Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

Residual standard error: 1.525 on 13 degrees of freedom

Multiple R-squared: 0.991, Adjusted R-squared: 0.9903

F-statistic: 1433 on 1 and 13 DF, p-value: 1.091e-14

在Pr(>|t|)栏，可以看到回归系数（3.45）显著不为0（p<0.001），表明身高每增加1英寸，体重将预期地增加3.45磅

R平方项（0.991）表明模型可以解释体重99.1%的方差，它也是实际和预测值之间的相关系数（R^2=r^2）

残差的标准误（1.53lbs）则可认为模型用身高预测体重的平均误差

F统计量检验所有的预测变量预测响应变量是否都在某个几率水平之上

residuals(fit)#拟合模型的残差值

绘制带回归线的散点图

fit<-lm(weight~height,data=women)
summary(fit)
myintercept<-fit$coefficients[[1]]
myslope<-fit$coefficients[[2]]
ggplot(data=women,aes(height,weight))+
  geom_point(size=5,color="red")+
  geom_abline(slope=myslope,intercept=myintercept)

绘制带残差显得散点图

fit<-lm(weight~height,data=women)
summary(fit)
women$predicted <- predict(fit)   # Save the predicted values
women$residuals <- residuals(fit) # Save the residual values
women$Abs_Residuals<-abs(women$residuals)  
myintercept<-fit$coefficients[[1]]
myslope<-fit$coefficients[[2]]
ggplot(data=women,aes(x=height,y=weight))+
  geom_point(aes(size=Abs_Residuals,color=Abs_Residuals))+            # 根据残差大小绘制点
  scale_fill_continuous(low = "black", high = "red") +
  geom_abline(slope=myslope,intercept=myintercept)+      #添加回归线
  geom_segment(aes(xend = height, yend = predicted), alpha = .2)+   #添加纵向残差线
  
  theme_classic()

用geom_smooth方法绘制回归线

fit<-lm(weight~height,data=women)
summary(fit)
women$predicted <- predict(fit)   # Save the predicted values
women$residuals <- residuals(fit) # Save the residual values
women$Abs_Residuals<-abs(women$residuals)  
myintercept<-fit$coefficients[[1]]
myslope<-fit$coefficients[[2]]
ggplot(data=women,aes(x=height,y=weight))+
  geom_point(aes(size=Abs_Residuals,color=Abs_Residuals))+
  scale_fill_continuous(low = "black", high = "red") +
  #geom_abline(slope=myslope,intercept=myintercept)+
  geom_segment(aes(xend = height, yend = predicted), alpha = .2)+
  geom_smooth(method = "lm", se =F, color = "lightgrey") +
  
  theme_classic()