Определение 3.3.

Пусть – вектор случайных величин и – функция вклада. Функция

называется информацией Фишера о параметре , содержащейся в наблюдении .

Пусть – множество всех возможных значений случайного вектора и – множество всех допустимых значений параметра , далее будем считать, что выполнены следующие условия, которые назовем условиями регулярности:

R1) Множество не зависит от параметра .

R2) На множестве функция правдоподобия положительна:

при всех .

R3) Функция правдоподобия дифференцируема по параметру при всех и всех .

R4) При всех справедливо равенство:

.

R5) При всех существует момент :

Теорема 3.4. (неравенство Рао-Крамера)

Пусть наблюдение представляет собой вектор случайных величин , – функция правдоподобия вектора , параметр , где – непустое множество допустимых значений параметра, – оценка величины . Если,

1) статистика является несмещенной оценкой величины ;

2) функция дифференцируема по при всех ;

3) выполнены условия регулярности R1-R5;

4) при всех существует производная:

;

тогда

,

где информация Фишера о параметре , содержащаяся в наблюдении .

Доказательство:

1) По условию 1 статистика является несмещенной оценкой :

.

Продифференцируем левую и правую часть по (производная левой части существует в силу условия 2, в правой – в силу условия 4) и в правой части внесем дифференцирование под знак интеграла (в силу условия 4):

Преобразуем правую часть в силу условия R2 (также как при выводе 3.1):

(3.2)

2) При выполнении условий регулярности справедливо соотношение (3.1):

Умножим левую и правую часть на и внесем в правой части как множитель, не зависящий от переменных интегрирования , …, :

(3.3)

3) Из (3.2) вычитаем (3.3):

.

По условию 1 теоремы статистика является несмещенной оценкой :

.

В условиях регулярности (условие 3 теоремы) математическое ожидание функции вклада равно нулю (соотношение 3.1):

.

Таким образом:

.

В соответствии со свойством ковариации:

.

Таким образом,

.

Отсюда,

,

поскольку по определению информация Фишера .

Теорема доказана.

Функция правдоподобия, функция вклада и информация Фишера. Условия регулярности, формулировка теоремы о неравенстве Рао-Крамера (без доказательства) и следствие из теоремы о неравенстве Рао-Крамера. Обобщение неравенства Рао-Крамера для векторных оценок. Неравенства для отдельных компонент вектора оценки.