方差分析和回归分析的异同是什么？

【慧航的回答(36票)】:

谢邀。

又有人提出这个问题，依稀想起来刚来知乎的时候，我跟几个学统计学的人的辩论。

直接告诉你，方差分析是特殊情形的回归分析，是回归分析的特例。方差分析就是解释变量全为分组的dummy的回归分析。

不信？看Wikipedia：

ANOVA is considered to be a special case of linear regression which in turn is a special case of the general linear model. All consider the observations to be the sum of a model (fit) and a residual (error) to be minimized.

还有这个：Why ANOVA and Linear Regression are the Same Analysis，里面解释的很清楚

随便找个数据在Stata里面做一下：

看到没？结果是一模一样的。至于回归分析的ANOVA表，实际上是把残差平方和、总平方和和模型平方和算出来，细心的你会发现模型的看到没？结果是一模一样的。至于回归分析的ANOVA表，实际上是把残差平方和、总平方和和模型平方和算出来，细心的你会发现模型的

所以你的问题，就要分情况了。如果你的解释变量是有连续的，只能用回归分析。如果都是离散的，都行。不过如果变量很多，还是建议用回归分析吧，线性回归解决各种问题的工具也多。

=================

@赵卿元我没有否认ANOVA的作用。在这个问题里面，题主问的是两者之间的关系，我就回答两者之间的关系，是特例。在另外一个问题里面，建议你看一下问题编辑日志：知乎 - 与世界分享你的知识、经验和见解

这是一开始的时候的问题，题主问的是“做线性回归的时候，回归结果中都会包含ANOVA的分析”，题主问的是做线性回归之后的那张ANOVA表（上图有），根本不是ANOVA分析本身好吗？那个表格本质上是在计算线性回归的R2啊！这是一开始的时候的问题，题主问的是“做线性回归的时候，回归结果中都会包含ANOVA的分析”，题主问的是做线性回归之后的那张ANOVA表（上图有），根本不是ANOVA分析本身好吗？那个表格本质上是在计算线性回归的R2啊！

我不知道 @Jack Diamond吧那个问题的“计量经济学”话题移除是何居心。我那个回答本质上就是想说，那张表格是计算R2用的，但是计量经济学并不关心R2。好了，你把这个话题移除了，我就彻底成了胡搅蛮缠了。。。。

【赵卿元的回答(6票)】:

谢邀。

题主可以先看看在这个问题线性回归中的 ANOVA 的作用是什么？ - 方差分析下我和 @慧航的答案。

@慧航 在这个问题里的回答还是强调ANOVA是线性回归的特例。这当然是对的，但是这并不代表ANOVA就没有存在的价值。例如，ANOVA和线性回归都是广义线性模型(GLM, generalized linear model)的特例，但这就意味着标准的线性回归没有单独存在的价值了吗？显然不是的。比如著名的Least Angle Regressions(LARS)就是基于标准的线性回归，充分利用了correlation在其中的重要性。将LARS扩展到GLM就并不容易，而且会失去很多数学上的直观和美感。

ANOVA和线性回归也是一样的。虽然ANOVA是特例，但它还是有存在的价值：

1. ANOVA原本是针对试验设计提出的，这个设定直到现在还是有很多实际用途。

2. ANOVA在数学上非常简洁，甚至不需要矩阵计算。ANOVA的结果汇总为一张表，清晰易懂。

3. ANOVA检验的是一整个factor的显著性，而线性回归一般检验的是单个variable（factor的某个level）。虽然线性回归也可以用来一起检验很多variable，但比ANOVA来得更复杂一些。

【知乎用户的回答(0票)】:

统统都是GLM

都在GLM里面，就没啥不同