Задача нахождения оценок параметров распределения

Дана выборка объема :

Предполагается некоторый теоретический закон распределения СВ X с функцией плотности распределения вида: , где – неизвестные параметры распределения. Определить значения вектора оценок параметров распределения.

Метод моментов

Идея метода: определенное количество выборочных моментов начальных и/или центральных ( и/или ) приравниваются к соответствующим теоретическим аналогам, ( и/или ), полученным для предполагаемого теоретического закона распределения.

Алгоритм

1. Определяем k теоретических моментов для предполагаемого теоретического закона распределения:

Количество теоретических моментов равно количеству параметров распределения.

2. По выборке СВ Х определяем выборочных моментов и приравниваем к соответствующим теоретическим аналогам.

3. Получим систему из уравнений с неизвестными:

Замечание: если есть возможность используют и .

Пример: найти методом моментов по выборке оценки параметров а и b равномерного закона распределения.

Решение:

Теоретические значения первого начального и второго центрального моментов распределения равномерного закона выражаются формулами:

; .

Выборочные моменты:

; .

Уравнения метода моментов

.

Метод максимального правдоподобия

Идея метода: строится функция правдоподобия, выражающая плотность вероятности совместного появления результатов выборки:

Функция правдоподобия

Для непрерывных СВ:

.

Для дискретных СВ:

.

Согласно методу максимального правдоподобия в качестве оценки – неизвестного вектора , принимается такое значение этого вектора, которое максимизирует функцию L, то есть нужно найти , чтобы L – max или ln L – max.

Для того чтобы найти значение максимума функции многих переменных, нужно записать необходимое условие экстремума:

или

.

Находим значения параметров: .

Оценки параметров, полученные по этому методу, называют МП-оценками или оценками максимального правдоподобия.

Пример: найти методом максимального правдоподобия оценку параметра экспоненциального закона распределения.

Дано:

Функция плотности распределения экспоненты равна:

.

Решение:

Запишем функцию правдоподобия:

.

Прологарифмируем ее:

.

Необходимое условие экстремума:

.

Критерии согласия

Критерии согласия решают вопрос о согласованности теоретического и эмпирического (статистического) распределения.

Пусть полученное статистическое распределение выровнено с помощью некоторой предполагаемой теоретической кривой f(x).

Возникает вопрос: расхождения между предполагаемым теоретическим и статистическим распределением связаны со случайными факторами (ограниченное число наблюдений, n) или они существенны и связаны с тем, что подобранная кривая плохо выравнивает статистическое распределение.

Ответ на этот вопрос дают критерии согласия:

- критерий Пирсона (“хи”-квадрат);

- критерий Колмогорова.

Критерий Пирсона ( -квадрат)

Алгоритм применения критерия

1. Определить меру расхождения между теоретическими () и эмпирическими частотами ():

,

где ,

– функция распределения предполагаемого теоретического закона распределения.

2. Для выбранного уровня значимости по таблице -распределения, находят критическое значение меры расхождения:

,

где – число степеней свободы:

k – количество интервалов в группировке,

s – число налагаемых связей (условий) на частости:

,

где – количество параметров предполагаемого теоретического закона распределения, тогда:

3. Фактически наблюдаемое значение: сравнивается с критическим значением :

при – гипотеза отвергается (противоречит опытным данным),

при – гипотеза принимается (не противоречит опытным данным).

Статистика – имеет распределение “хи”-квадрат только при следовательно, необходимо, чтобы в каждой интервальной группировке было достаточное число наблюдений (), в противном случае соседние интервалы объединяют или заново стоят группировку.

Критерий Колмогорова

1. Строится эмпирическая функция распределения F*(x) и предполагаемая теоретическая функция F(x).

2. Определяется мера расхождения между теоретическими и эмпирическими значениями функции распределения:

.

Задается уровень значимости, вычисляем критическое значение:

3. Если , гипотеза отвергается, если , гипотеза не противоречит опытным данным, то есть СВ Х имеет предполагаемый теоретический закон распределения, не противоречащий имеющимся выборочным данным.

Критические значения для критерия Колмогорова