虚拟变量陷阱

Dummy Variable Trap

使用独热编码时，我们会在数据中引入一个大问题。当我们对类别数据做独热编码时，不知不觉间就引入了完美的多重共线性。

当两个或更多特征能够预测另一个特征时，就会出现多重共线性。在这里，由于独热编码特征之和恒为 1，就导致了完美的多重共线性。

这通常被称为虚拟变量陷阱。它之所以糟糕，是因为模型中存在冗余特征。而且，在存在多重共线性的情况下，回归系数也变得不可靠。那么该如何解决呢？

解决办法很简单。从独热编码特征中丢弃任意一个特征。这能立刻消除多重共线性，并打破之前存在的线性关系。