Выборочная дисперсия и поправка на оценённое среднее

Как в учебнике

Для наблюдений $x_1,\ldots,x_n$ сначала вычисляют $\bar x=\frac1n\sum_i x_i$. Величина $v_n=\frac1n\sum_i(x_i-\bar x)^2$ — дисперсия эмпирического распределения с весом $1/n$ на каждое наблюдение. Она описывает разброс самого набора.

Если наблюдения независимы, одинаково распределены и имеют конечный второй момент, для $n>1$ величина $s^2=\frac1{n-1}\sum_i(x_i-\bar x)^2$ является несмещённой оценкой дисперсии исходного распределения: $\mathbb E[s^2]=\operatorname{Var}(X)$. Несмещённость относится к повторению выборки, а не к точности каждого отдельного результата.

Поправка связана с тем, что центр $\bar x$ оценён по тем же данным: $\sum_i(x_i-\bar x)=0$, поэтому последнее отклонение определяется остальными. При указанных условиях $\mathbb E[\sum_i(X_i-\bar X)^2]=(n-1)\operatorname{Var}(X)$, что и объясняет знаменатель.

У наблюдений 2, 4, 6 сумма квадратов равна 8: эмпирическая дисперсия равна $8/3$, исправленная оценка — 4. При $n=1$ первая равна нулю, а вторая не определена. Термины в библиотеках различаются, поэтому результат зависит от формулы и параметра числа степеней свободы.

Изменение знаменателя не меняет центр или сумму квадратов: оно меняет назначение итоговой величины. Для $n>1$ оценки связаны равенством $s^2=\frac{n}{n-1}v_n$. Исправленная оценка поэтому не меньше эмпирической, но это не делает её автоматически ближе к неизвестной дисперсии в конкретной выборке. Если все наблюдения совпадают, обе величины равны нулю. По одному такому набору нельзя заключить, что источник всегда выдаёт одинаковые значения.

Определения и обозначения: Mathematics for Machine Learning.

Связанные понятия: Дисперсия: средний квадрат отклонения, Среднее арифметическое наблюдений.