Метод наименьших квадратов. Предположим, что требуется заменить некоторую величину и делается n измерений, результаты которых равны xi = x+εi (i = 1

Предположим, что требуется заменить некоторую величину и делается n измерений, результаты которых равны x_i = x+ε _i (i = 1, 2, …, n), где ε _i – это ошибки (или шум) измерений, а х – истинное значение. Метод наименьших квадратов утверждает, что наилучшее приближённое значение есть такое число, для которого минимальна сумма квадратов отклонений от _i:

Один из наиболее общих случаев применения этого метода состоит в том, что имеющиеся n наблюдений (x_i, y_i) (i = 1, 2, …, n) требуется приблизить многочленом степени m < n

y(x) = a₀+a₁x+a₂x²+…+a_mx^m.

Вычисленная кривая у(х) в некотором смысле даёт сложное множество значений у_i. Метод наименьших квадратов утверждает, что следует выбирать многочлен, минимизирующий функцию.

Для нахождения минимума дифференцируем (4) 4 по каждой из неизвестных a_k. В результате получим:

Определитель этой системы отличен от нуля, и задача имеет единственное решение. Но система степеней не ортогональна, и при больших значениях n задача плохо обусловлена. Эту трудность можно обойти, используя многочлены ортогональные с заданным весом на заданной системе точек, но к этому прибегают только в задачах, связанных с особенно тщательной статической обработкой эксперимента.