广义线性模型（GLM）

Generalized Linear Models (GLMs)

在我看来，线性回归模型无疑是一个极其强大的模型。然而，它对自己能建模的数据类型做了一些严格的假设，如下所示。

这些条件往往限制了它在不满足上述假设的数据情形下的适用性。因此，了解它的扩展形式就极为重要。广义线性模型（GLM）恰恰做到了这一点。它们放宽了线性回归的假设，使线性模型更能适应真实世界的数据集。

线性回归在能建模的数据类型上相当受限。例如，它假设的数据生成过程是这样的：

线性回归假设的数据生成过程

• 首先，它假设给定 X 时 Y 的条件分布是高斯分布。
• 其次，它对上述高斯分布的均值假设了非常具体的形式。它说均值应当始终是特征（或预测变量）的线性组合。
• 最后，它假设条件分布 P(Y|X) 在所有 X 的取值上方差恒定。用图示来说明如下：
• 这些条件往往限制了它在不满足上述假设的数据情形下的适用性。换句话说，没有什么能阻止真实世界的数据集违背这些假设。事实上，在许多场景下，数据可能呈现复杂的关系、异方差性（方差变化），甚至完全遵循截然不同的分布。

然而，如果我们打算构建线性模型，就应该设计出更好的算法来处理这些特殊性。广义线性模型（GLM）恰恰做到了这一点。它们放宽了线性回归的假设，使线性模型更能适应真实世界的数据集。更具体地说，它们考虑了以下几点：

• 如果分布不是正态的，而是其他某种分布呢？
• 如果 X 与均值之间存在更复杂的关系呢？
• 如果方差随 X 变化呢？
• 247

某种特定 GLM——泊松回归（我们之前章节讨论过）相对于线性回归的有效性，从下图可见一斑：

• 线性回归假设数据来自高斯分布，而实际上并非如此，因此它表现不佳。
• 泊松回归把回归拟合调整到非高斯分布上，因此表现明显更好。