Как в учебнике
Пусть у случайной величины $X$ конечный второй момент: $\mathbb E[X^2]<\infty$. Её дисперсия определяется как ожидание квадрата отклонения от ожидания. Это неотрицательная характеристика разброса распределения.
$$\operatorname{Var}(X):=\mathbb E[(X-\mathbb E[X])^2]=\mathbb E[X^2]-(\mathbb E[X])^2.$$
Используются также обозначения $D(X)$ и $\sigma_X^2$. Стандартное отклонение $\sigma_X=\sqrt{\operatorname{Var}(X)}$ — корень дисперсии. Если $X$ измеряется в секундах, дисперсия измеряется в квадратных секундах, а стандартное отклонение — в секундах.
Для равновероятных значений 2, 4, 6 ожидание равно 4, квадраты отклонений — 4, 0, 4. Поэтому дисперсия равна $8/3$, а стандартное отклонение равно $\sqrt{8/3}\approx1.633$. Если величина постоянна, все отклонения нулевые.
При изменении масштаба $Y=aX+b$ дисперсия становится $a^2\operatorname{Var}(X)$: сдвиг не меняет отклонений, множитель возводится в квадрат. Оценка неизвестной дисперсии по выборке — отдельная задача; её знаменатель нельзя выбирать по внешнему сходству формул.
В равенстве двух формул дисперсии раскрывается квадрат: $\mathbb E[X^2-2\mu X+\mu^2]=\mathbb E[X^2]-2\mu\mathbb E[X]+\mu^2$, где $\mu=\mathbb E[X]$. Поскольку $\mu$ постоянно, получается $\mathbb E[X^2]-\mu^2$. Неотрицательность яснее видна в первой форме: квадрат неотрицателен для каждого исхода. В конечной модели нулевая дисперсия означает, что все значения с положительной вероятностью совпадают с ожиданием; исходы нулевого веса на результат не влияют.
Определения и обозначения: Mathematics for Machine Learning.
Связанные понятия: Математическое ожидание: среднее распределения, Выборочная дисперсия и поправка на оценённое среднее.
На пальцах
Отклонения чисел 2 и 6 от центра 4 в сумме дают ноль, хотя разброс не исчез. Квадраты лишают противоположные знаки возможности устроить фиктивное перемирие: дисперсия усредняет их с вероятностными весами. Центром служит собственное ожидание распределения; сдвиг всех значений на десять метров разброса не меняет, а удвоение расстояний увеличивает дисперсию вчетверо. Результат измеряется в квадратных единицах. Корень возвращает исходные единицы, но стандартное отклонение остаётся другой мерой, чем средняя абсолютная ошибка.
Пример
Учебное распределение равновероятно даёт 2, 4, 6. Пример показывает переход от значений к дисперсии.
Дисперсия: средний квадрат отклонения
Центр распределения
Ожидание равно 4.
Шаг 1 из 4: Центр распределения
Все шаги текстом
Центр распределения
Ожидание равно 4.
- Значения
- 246
- Центр
- 4текущий
Отклонения от центра
Отклонения равны −2, 0 и 2; их среднее равно нулю.
- Отклонения
- −2текущий02текущий
Квадраты отклонений
Квадраты отклонений не сокращаются.
- Квадраты
- 4включён04включён
Средний квадрат
Каждый квадрат имеет вес 1/3, поэтому дисперсия равна 8/3.
- Дисперсия; стандартное отклонение
- 8/3включён√(8/3)текущий
Взвешенная проверка даёт $\mathbb E[X^2]=(4+16+36)/3=56/3$, а квадрат ожидания равен 16. Их разность $56/3-16=8/3$ совпадает с результатом пошагового вычисления. Это два способа посчитать одну величину, а не две дисперсии на выбор. Перенос квадрата за пределы ожидания в первом члене меняет результат: $\mathbb E[X^2]$ и $(\mathbb E[X])^2$ различаются именно настолько, насколько ненулева дисперсия.
Формула разброса требует заданных центра, весов и единиц результата.