Распределение хи-квадрат и построение доверительных интервалов для дисперсии и среднеквадратичного отклонения нормального распределения с известным математическим ожиданием.

Пусть – выборка из нормального распределения с известным математическим ожиданием и неизвестной дисперсией , построим доверительный интервал для дисперсии с уровнем доверия .

Рассмотрим статистику :

.

Поскольку случайные величины имеют нормальное распределение и независимы, то статистика имеет распределение («хи-квадрат с степенями свободы») и кроме того одновременно при всех реализациях выборки функция как функция параметра :

является непрерывной и убывающей. Таким образом, статистика является центральной статистикой для .

Для построения доверительного интервала выберем числа и так, чтобы выполнялось равенство:

.

Для выполнения равенства достаточно, например, в качестве взять квантиль уровня распределения , а качестве – квантиль уровня распределения , действительно:

,

где – случайная величина, имеющая распределение , и – функция распределения .

При таких значениях и получается так называемый «центральный интервал» (название обусловлено тем, что слева от «сосредоточена» вероятность и справа от «сосредоточена» вероятность ). Построение «наикратчайшего» доверительного интервала, то есть нахождение чисел и с наименьшей разностью среди всех чисел удовлетворяющих , в данном случае является технически сложным ([1] стр. 86), поэтому на практике ограничиваются более простым «центральным интервалом».

Преобразование неравенств приводит к следующему доверительному интевалу:

,

,

.

Поскольку последнее равенство справедливо при всяком значении , то интервал:

,

где и – квантили уровней и распределения соответственно, является доверительным интервалом для с уровнем доверия .

Нетрудно также получить и доверительный интервал для с.к.о. , действительно, поскольку:

,

то

,

тогда при тех же значениях и интервал:

является доверительным интервалом для с уровнем доверия .

Теорема Фишера о выборочном среднем и исправленной выборочной дисперсии. Построение доверительных интервалов для дисперсии и среднеквадратичного отклонения нормального распределения с неизвестным математическим ожиданием.

Теорема 5.5. (Фишер)

Пусть – выборка из нормального распределения , статистики и , тогда:

1) Статистика имеет распределение ;

2) Статистики и – независимые случайные величины.

Доказательство:

1) Преобразуем статистику следующим образом:

.

Определим вектор-столбец случайных величин :

,

тогда,

.

Поскольку случайные величины имеют нормальное распределение, то случайные величины также имеют нормальное распределение (как линейное преобразование нормальной случайной величины). Легко видеть, что математическое ожидание есть нулевой вектор:

,

и дисперсионная матрица является единичной матрицей , поскольку:

,

где при поскольку и независимы ( - выборка по условию теоремы).

Пусть – ортогональная матрица (т.е. , где – транспонированная матрица ), в которой все элементы первой строки равны :

(5.1)

Определим вектор-столбец случайных величин :

,

.

Каждая случайная величина имеет нормальное распределение, поскольку все имеют нормальное распределение. Математическое ожидание есть нулевой вектор:

,

и дисперсионная матрица есть единичная матрица , поскольку:

,

поскольку – ортогональная матрица (). Таким образом, случайные величины некоррелированные и поскольку все имеют нормальное распределение, то следовательно случайные величины независимы.

Покажем, что , действительно:

.

Из определения матрицы (5.1):

(5.2)

Таким образом,

(5.3)

где все величины имеют нормальное распределение и независимы, поэтому статистика имеет распределение .

2) Из (5.2) следует:

Из (5.3) следует:

.

Поскольку случайные величины независимы, то следовательно независимы и .

Теорема доказана.

Теорема 5.5 позволяет построить доверительный интервал для дисперсии нормального распределение в случае, когда математическое ожидание неизвестно. Пусть – выборка из нормального распределения , из теоремы 5.5 следует, что статистика :

имеет распределение , не зависящее от неизвестных параметров и , и одновременно при всех реализациях выборки функция как функция является непрерывной и убывающей. Следовательно, статистика является центральной статистикой для . Пусть и – квантили уровней и распределения , тогда:

,

,

.

Таким образом, интервал

,

где и являются квантилями уровней и распределения , является доверительным интервалом для дисперсии с уровнем доверия . Заметим, что при тех же значениях и интервал

является доверительным интервалом для с.к.о. с уровнем доверия .

Формулировка теоремы Фишера о выборочном среднем и исправленной выборочной дисперсии. Построение доверительного интервала для математического ожидания нормального распределения с неизвестной дисперсией.

Теорема 5.5. (Фишер)

Пусть – выборка из нормального распределения , статистики и , тогда:

1) Статистика имеет распределение ;

2) Статистики и – независимые случайные величины.

Пусть – выборка из нормального распределения с неизвестным математическим ожиданием и неизвестной дисперсией , построим доверительный интервал для с уровнем доверия .

Рассмотрим статистику :

,

(5.4)

, .

Заметим, что:

1) , поскольку все величины имеют нормальное распределение;

2) и независимы, поскольку в силу теоремы 5.5 статистики и независимы;

3) имеет распределение в силу теоремы 5.5.

Из 1)-3) следует, что статистика имеет распределение Стьюдента с степенью свободы . Кроме того, при всех реализациях выборки функция как функция является непрерывной и убывающей, следовательно, случайная величина является центральной статистикой для .

Пусть и – квантили уровней и распределения , тогда:

,

,

.

Поскольку распределение Стьюдента является симметричным относительно нуля, то для функции распределения справедливо равенство:

.

Отсюда следует, что , действительно:

.

Таким образом,

и следовательно интервал,

,

в котором , и – квантиль уровня распределения Стьюдента с степенью свободы, является доверительным интервалом для с уровнем доверия .

Построение доверительных интервалов с использованием асимптотической нормальности. Построение доверительного интервала для вероятности события (способ А до неравенства с квадратным уравнением, способы Б и В полностью). 3670

Пусть – наблюдение и случайная величина имеет асимптотически (при ) нормальное распределение :

, при ;

В силу асимптотической нормальности:

, при ,

тогда при больших справедливо приближенное равенство для вероятностей:

.

Пусть является квантилью распределения уровня , где – уровень доверия:

,

тогда,

.

Разрешая неравенство относительно , получим «приближенный» доверительный интервал:

.

Воспользуемся вышеизложенным методом для построения «приближенного» доверительного интервала неизвестной вероятности события в схеме независимых испытаний. Пусть – выборка, в которой каждая случайная величина является бинарной и принимает значение 1 с некоторой неизвестной вероятностью и значение 0 с вероятностью :

.

Требуется построить приближенный доверительный интервал для вероятности . Рассмотрим случайную величину :

.

К случайным величинам применима центральная предельная теорема, в соответствии с которой сумма имеет асимптотически (при ) нормальное распределение с параметрами , где:

,

,

тогда случайная величина:

имеет асимптотически (при ) нормальное распределение :

, при .

Пусть – квантиль распределения уровня , тогда при больших :

,

,

,

,

,

где . Разрешая неравенство относительно неизвестной вероятности , получим:

Пренебрегая слагаемыми с множителем и с множителем под корнем, получим приближенное неравенство:

,

,

.

Таким образом,

,

и «приближенный» доверительный интервал для вероятности имеет вид:

,

где и – квантиль распределения уровня .