Метод наименьших квадратов. Допустим, что результаты эксперимента представлены в виде табл

Допустим, что результаты эксперимента представлены в виде табл. 5.1. И уравнение регрессии записывается в виде (5.11), т.е. зависит от (m +1) параметра

Эти параметры и определяют расположение графика уравнения регрессии относительно экспериментальных точек M_i (x_i, y_i), i= 1, 2 ,.., n (рис.5.2).

Однако эти параметры определяются не однозначно. Требуется подобрать параметры так, чтобы график уравнения регрессии был расположен «как можно ближе» к системе этих экспериментальных точек.

Введем понятие отклонения значения уравнения регрессии (5.11) от табличного значения y_i для x_{i :} , i= 1, 2 ,.., n.

Рассмотрим сумму квадратов отклонений, которая зависит от(m +1) параметра

Согласно МНК [3, 6] наилучшими коэффициентами a_i (i =0, 1,.., m) являются те, которые минимизирует сумму квадратов отклонений, т.е. функцию .

Используя необходимые условия экстремума функции нескольких переменных, получим так называемую нормальную систему для определения неизвестных коэффициентов :

Для аппроксимирующей функции (5.11) система (5.14) является системой линейных алгебраических уравнений относительно неизвестных .

Возможны случаи:

1. Если , то существует бесконечно много многочленов (5.11), минимизирующих функцию (5.13).

2. Если m=n –1, то существует только один многочлен (5.11), минимизирующий функцию (5.13).

Будем считать, что m< n–1.

Чем меньше m, тем проще эмпирическая формула, но это не всегда лучше. Необходимо помнить, что полученная эмпирическая формула должна быть адекватной изучаемому объекту.