Определение 1.13.

Среднеквадратической ошибкой статистики , оценивающей величину , называется математическое ожидание квадрата отклонения:

.

В случае несмещенной оценки, , среднеквадратическая ошибка становится равной дисперсии, поэтому для несмещенных оценок критерий наименьшей среднеквадратической ошибки совпадает с уже рассмотренным критерием наименьшей дисперсии.

В более общем случае в рассмотрение вводится функция потерь , которая используется при вычислении функции условного риска :

,

где функция распределения выборки . Значения функции используются для сравнения оценок, в частности, если , то функция условного риска есть среднеквадратическая ошибка.

Понятие состоятельной оценки и предельные теоремы, используемые для доказательства состоятельности оценок (теорема Бернулли, теорема Хинчина, неравенство Чебышева и закон больших чисел в форме Чебышева). Утверждение о состоятельности несмещенной оценки с убывающей дисперсией (без доказательства).

Теорема (Бернулли)

Пусть – количество появлений события в независимых испытаниях, тогда последовательность относительных частот сходится по вероятности к вероятности события , при :

, при .

Теорема (Хинчин)

Пусть , , … – последовательность взаимно независимых случайных величин, имеющих одинаковую функцию распределения с конечным математическим ожиданием , тогда последовательность случайных величин сходится по вероятности к , при :

, при .

Утверждение (неравенство Чебышева)

Пусть случайная величина имеет конечную дисперсию, , тогда:

.

Теорема (закон больших чисел в форме Чебышева)

Пусть , , … – последовательность взаимно независимых случайных величин, имеющих конечные математические ожидания , , … и конечные дисперсии , , … соответственно.

Если,

,

Тогда последовательность арифметических средних случайных величин сходится по вероятности к арифметическому среднему математических ожиданий при:

, при .