Теорема Гаусса-Маркова. Суть

На основе выборочных наблюдений производится оценка уравнения регрессии

. Предполагается, что x - это неслучайная экзогенная переменная, т.е. ее значения во всех наблюдениях можно считать заранее заданными и никак не связанными с исследуемой зависимостью.

Величина y состоит из двух составляющих. Она включает неслучайную составляющую (, которая не имеет ничего общего с законами вероятности (α и β могут быть неизвестными, но, тем не менее это постоянные величины), и случайную составляющую u. Отсюда следует, что когда мы вычисляем b по обычной формуле:

, b также содержит случайную составляющую. зависит от значений y, а y зависит от значений u. Если случайная составляющая принимает разные значения в n наблюдениях, то мы получаем различные значения y и, следовательно, разные величины и b.

Теоретически существует возможность разложить b на случайную и неслучайную составляющие. Воспользовавшись соотношением , а также правилом 1 расчета ковариации, получим:

По ковариационному правилу 3, ковариация , по ковариационному правилу 2 , Причем величина , следовательно: , т.о. .

Таким образом, коэффициент регрессии b, полученный по любой выборке, представляется в виде суммы двух слагаемых:

1. Постоянной величины, равной истинному значению коэффициента β;

2. Случайной составляющей, зависящей от Cov(x, u), которой обусловлены отклонения коэффициента b от константы β.

Аналогично α имеет постоянную составляющую, равную истинному значению α, плюс случайную составляющую, которая зависит от случайного фактора u.