Параметрическое оценивание распределений

Параметрическое оценивание распределений реализуется в тех случаях, когда известен вид распределений и по обучающей выборке необходимо лишь оценить значения параметров этих распределений. Априорное знание вида на практике встречается нечасто, однако, учитывая удобство данного подхода, иной раз делают допущение, например, о том, что - нормальный закон. Такого рода допущения далеко не всегда имеют убедительные основания, но тем не менее используются, если результаты обучения приводят к приемлемым ошибкам распознавания.

Итак, обучение сводится к оценке значений параметров при заранее известном виде этих распределений. Особое место среди распределений занимает нормальный закон. Это связано с тем, что, как известно из математической статистики, если случайная величина порождена воздействием достаточно большого числа случайных факторов с произвольными законами распределения и среди этих влияний нет явно доминирующего, то интересующая нас величина имеет нормальный закон распределения. Для одномерного случая

(для простоты впредь будем рассматривать одномерный случай, а заинтересовавшиеся слушатели могут обратиться к литературе, приведённой в конце конспекта лекций).

Параметрами этого распределения являются две величины: – математическое ожидание, – дисперсия. Их-то и нужно оценить по выборке. Одним из наиболее простых является метод моментов. Он применим для распределений , зависящих от параметров, имеющих конечных первых моментов, которые могут быть выражены как явные функции параметров . Тогда, вычислив по выборке первых её моментов и приравняв их , получим систему уравнений

,

из которой определяются оценки .

Для одномерного нормального закона

.

.