原理层 T4 / 27 · 高中出发
两把尺子和一把更好的尺子
均值、方差、正态分布是高中统计内容。这一篇只用它们,推出卡尔曼滤波最核心的一条:两个「不太准」的测量合起来,可以比谁都准。
一句话结论
卡尔曼滤波在「单次融合」这一步,数学上就是一次加权平均。权重反比于方差——听起来吓人,算起来是一道配方求最小值的题。
动图版 · 拖两条钟形曲线改胖瘦,融合结果永远比两把单尺都窄——反方差加权的动画版
/labs/kalman/ 实验台现在就能玩;/math/expect/ 的深水版需要概率公理。这一篇是从高中统计直通实验台的第三条路。
为什么需要它
两把尺子测同一根轴:一把 ±1mm,一把 ±3mm,各测了一次。信谁?各信多少?
答案不是扔掉差的,是加权平均:准的多信,散的少信。
加完之后,方差比两把里任何一把都小——「合起来更好」有定量版本。
定义
方差与正态分布
方差 Var = 平均的(离差)²,标准差 σ = √Var。正态分布里约 68% 的样本落在 μ±σ,95% 落在 μ±2σ。
为什么这样定方差衡量「测量的散布」,是「该信多少」的定量依据:σ 越大越散,越不该全信。
定理与证明
定理(反方差加权)
两个无偏估计 x̂₁(方差 σ₁²)与 x̂₂(σ₂²),取 x̂ = w·x̂₁ + (1−w)·x̂₂。方差最小的权重是 w = σ₂²/(σ₁²+σ₂²),且合并方差 σ² = σ₁²σ₂²/(σ₁²+σ₂²),比两个里较小的那个还小。
证
独立性下方差直接相加:Var(x̂) = w²σ₁² + (1−w)²σ₂²。展开是关于 w 的二次函数(凸的,开口向上)。
对 w 求导置零:2w·σ₁² − 2(1−w)·σ₂² = 0,解得 w = σ₂²/(σ₁²+σ₂²)。注意分子是「另一把尺子」的方差——越不准的邻居,权重越低。
代回整理:Var(x̂) = σ₁²σ₂²/(σ₁²+σ₂²)。要证它 ≤ min(σ₁², σ₂²),不妨设 σ₂² ≥ σ₁²,则合并式分母 ≥ σ₂²,故 ≤ σ₁²σ₂²/σ₂² = σ₁²。
注「合起来更好」是定理,不是口号。卡尔曼滤波在单次融合时的卡尔曼增益 K,正是从这个 w 扩展到矩阵版本。
手算一遍
σ₁ = 1mm,σ₂ = 3mm。算权重和合并后的标准差。
- w = σ₂²/(σ₁²+σ₂²) = 9/(1+9) = 0.9——好尺子占九成。
- 合并方差 = 1×9/(1+9) = 0.9 mm²。
- σ = √0.9 ≈ 0.949mm。
合并后 ±0.95mm,比好尺子(±1mm)还好。「扔掉差的」反而不如「都用上」。
实跑一遍
数字出处
蒙特卡洛实跑(生成器真算):两把尺子各测 20000 次,真值 100mm,按权重 0.9/0.1 融合:
- 融合结果的样本标准差 = 0.95mm,与公式的 √0.9 ≈ 0.949mm 吻合到第三位。
- 两次独立的信息合在一起,永远不比单次差——这是整个估计理论的底盘。
映射回强化学习
边界:这一篇停在哪里
本篇停在「静态的两次测量」。测量之间有时间演化(预测步)、状态多维(矩阵版增益)、噪声非高斯(粒子滤波),在 /k/B7/ 与 /labs/kalman/。
自测 3 题
全是手算和「找证明错在哪」类题目,不出背诵题。答不上来回到对应小节。
01两把一模一样的尺子(σ₁=σ₂)合并后 σ 变成多少?
w=0.5,合并方差 = σ²/2,σ 变成 1/√2 ≈ 0.707 倍——测两次就是比测一次准。
02为什么权重不用 0.5 而用反方差?
信不准的那把会把合并结果拖散。反方差权重是「让合并方差最小」的解,不是审美选择。
03「合起来更准」依赖哪两个假设?破坏了怎么办?
无偏(均值对)+ 独立。有系统偏差时再怎么加权都偏(偏差不平均掉);相关时方差公式要加协方差项——深水版的入口。