多元回归：深入专题¶

本页收拾几个让回归"用得更好"的专题：度量单位与 $\beta$ 系数（让不同量纲的变量可比）、对数 / 二次 / 交互等函数形式、用调整 $R^2$ 做模型选择，以及预测与残差分析。

核心结论速览

专题	要点
度量单位	改单位：系数、标准误、置信区间端点成倍变；$t$、$F$、$R^2$ 不变
$\beta$ 系数	标准化回归的斜率：$x_j$ 增 1 个标准差 $\Rightarrow y$ 变 $b_j$ 个标准差，量纲无关
对数模型	因变量取 log 读"%变化"；log-level 大变化用精确式 $\%\Delta y=100(e^{\beta\Delta x}-1)$
二次项	转折点 $x^*=\left
调整 $R^2$	$\bar R^2=1-\dfrac{\mathrm{SSR}/(n-k-1)}{\mathrm{SST}/(n-1)}$，对加变量惩罚，可比非嵌套模型

度量单位与 $\beta$ 系数¶

改变变量的度量单位不改变任何检验结论：$t$、$F$、$R^2$ 不变；但系数、标准误、回归标准误、置信区间端点都按比例变化。若把某变量乘以 $c$，对应系数与标准误同乘 $c$（或 $1/c$），残差乘 $c$、$\mathrm{SSR}$ 乘 $c^2$。

为消除量纲、让系数可比，可做标准化回归（把每个变量减均值除以样本标准差），得到 $\beta$ 系数 / 标准化系数：

\[ \hat b_j=\frac{\hat\sigma_j}{\hat\sigma_y}\,\hat\beta_j \]

$\beta$ 系数的含义

$x_j$ 提高一个标准差，$y$ 平均变化 $\hat b_j$ 个标准差。标准化回归的截距为 0，且 $t$ 统计量与原回归相同（标准化不影响显著性）。它常用于比较不同量纲变量"谁的影响更大"。

函数形式¶

对数模型¶

四种对数组合及其斜率解读（详见简单回归）：因变量取 log → 读作 $y$ 的百分比变化；自变量取 log → 原因读作百分比变化。

log-level 的精确百分比变化

log-level 模型里 $\%\Delta y\approx 100\beta\,\Delta x$ 只是近似，$\beta\Delta x$ 较大时误差明显。精确百分比变化为

\[ \%\Delta y=100\cdot\big(e^{\beta\Delta x}-1\big) \]

推导

由 $\Delta\ln y=\beta\Delta x$：

\[ \ln(y+\Delta y)-\ln y=\ln\!\Big(1+\frac{\Delta y}{y}\Big)=\beta\Delta x \ \Longrightarrow\ \frac{\Delta y}{y}=e^{\beta\Delta x}-1 \]

故 $\%\Delta y=100(e^{\beta\Delta x}-1)$。$\beta\Delta x$ 很小时 $e^{\beta\Delta x}-1\approx\beta\Delta x$，回到近似式。$\blacksquare$

二次项¶

为刻画递增 / 递减的边际效应，常加二次项 $y=\beta_0+\beta_1 x+\beta_2 x^2+u$。偏效应随 $x$ 变化：$\dfrac{\partial y}{\partial x}=\beta_1+2\beta_2 x$。令其为零得转折点：

\[ x^*=\left|\frac{\beta_1}{2\beta_2}\right| \]

$\beta_2<0$ 时为先增后减的"倒 U"（峰），$\beta_2>0$ 时为"正 U"（谷）。注意转折点是否落在数据范围内，影响解读。

交互项¶

$y=\beta_0+\beta_1 x_1+\beta_2 x_2+\beta_3 x_1 x_2+u$ 中，$x_1$ 的偏效应是 $\beta_1+\beta_3 x_2$——依赖 $x_2$。直接看 $\beta_2$ 容易误读（它是 $x_1=0$ 处的效应，常无意义）。重参数化为

\[ y=\alpha_0+\delta_1 x_1+\delta_2 x_2+\beta_3(x_1-\mu_1)(x_2-\mu_2)+u \]

则 $\delta_2=\beta_2+\beta_3\mu_1$ 就是在 $x_1$ 取均值处 $x_2$ 对 $y$ 的偏效应，更可解释。

拟合优度与回归元选择¶

调整 $R^2$¶

$R^2$ 随变量增加只升不降，不能用于选模型。调整 $R^2$ 对加变量施加自由度惩罚：

\[ \bar R^2=1-\frac{\mathrm{SSR}/(n-k-1)}{\mathrm{SST}/(n-1)}=1-(1-R^2)\frac{n-1}{n-k-1} \]

性质：加入一个新变量后，$\bar R^2$ 上升 $\iff$ 该变量的 $|t|>1$；加入一组变量后上升 $\iff$ 其联合 $F>1$。$\bar R^2$ 可能为负。

用 $\bar R^2$ 选非嵌套模型

$F$ 检验只能比嵌套模型（一个是另一个的特例）。对非嵌套模型（如自变量用 $\log x$ vs 用 $x+x^2$），可比 $\bar R^2$ 择优。

易错点：因变量形式不同则 $R^2$/$\bar R^2$ 不可比

比较的前提是因变量形式相同。一个模型用 $y$、另一个用 $\log y$，两者拟合的是不同的因变量，$R^2$ 与 $\bar R^2$ 都不能直接比。

回归元的选择¶

别为了拼 $R^2$ 而塞变量：过多控制变量会损害"其他条件不变"的解释。理想的追加变量是既影响 $y$、又与所关心的自变量无关的——它能在不引入多重共线性的前提下降低误差方差、提高精度。

预测与残差分析¶

预测值由 OLS 估计量算得，故带抽样波动，需给预测区间（比单点预测的置信区间更宽，因为还要叠加个体误差 $u$ 的波动）。当因变量为 $\log(y)$ 时，预测 $y$ 不能简单取指数 $e^{\widehat{\log y}}$（会系统性低估），需乘一个由残差估计的修正因子。

速查表¶

专题	关键式
$\beta$ 系数	$\hat b_j=(\hat\sigma_j/\hat\sigma_y)\hat\beta_j$
log-level 精确变化	$\%\Delta y=100(e^{\beta\Delta x}-1)$
二次项转折点	$x^*=
交互项偏效应	$\partial y/\partial x_1=\beta_1+\beta_3 x_2$
调整 $R^2$	$\bar R^2=1-(1-R^2)\dfrac{n-1}{n-k-1}$

易错点与考点提醒：

高频陷阱

改单位 → 系数 / 标准误 / 置信区间端点成倍变，但 $t$、$F$、$R^2$ 不变；
有交互项时不要单看主效应系数；有二次项时记得报转折点并看它是否在数据范围内；
$\bar R^2$ 加变量才惩罚，$|t|>1$ 是它上升的临界；
因变量取了对数就别和水平模型比 $R^2$；
$\log(y)$ 预测 $y$ 要做指数修正，不能直接 $e^{(\cdot)}$。