Аппроксимация функций методом наименьших квадратов

Пусть в результате измерений в процессе опыта получена таблица значений некоторой функции f:

(1)

Задача аппроксимации заключается в отыскании формулы, выражающей эту зависимость аналитически, причем должен учитываться и характер исходной функции, т.е. нужно найти функцию заданного вида y=F(x), которая в точках x1, x2, …, xn принимает значения, как можно более близкие к табличным значениям y1, y2, …, yn.

Практически вид приближающей функции F можно определить следующим образом: по таблице строится точечный график функции f, а затем проводится плавная кривая, по возможности наилучшим образом отражающая характер расположения точек. По полученной таким образом кривой устанавливается вид приближающей функцию

В качестве приближающих функций в зависимости от характера точечного графика функции f часто используют следующие функции:

1. y=ax+b,

2.

3. y= ,

4. y=a exp(mx),

5. y= ,

6. y=a lnx+b,

7. y=a +b,

8. y= .

Рассмотрим один из распространенных способов нахождения функции F(x). Предположим, что приближающая функция в точках x1, x2, …, xn имеет значения …, (2). Требование близости табличных значений y1, y2, …, yn и значений можно истолковать следующим образом: будем рассматривать совокупность значений функции f из таблицы (1) и совокупность (2) как координаты двух точек n-мерного пространства. Таким образом, необходимо найти такую функцию F заданного вида, чтобы расстояние между точками M(y1, y2, …, yn) и ) было наименьшим в пространстве Rⁿ, т.е. чтобы была наименьшей величина:

или . (3)

Итак, задача аппроксимации функции f теперь формулируется следующим образом: для функции f, заданной таблицей (1), найти функцию F определенного вида так, чтобы сумма квадратов (3) была наименьшей.

Эта задача носит название задачи аппрксимации функции методом наименьших квадратов.

Рассмотрим метод нахождения параметров приближающей функции в общем виде на примере приближающей функции с тремя параметрами: y=F(x, a, b, c). Итак, имеем F(xi, a, b, c)= , i=1, 2, …, n. Сумма (3) будет иметь вид: . Эта сумма Ф(a, b, c) является функцией трех переменных. Задача сводится к отысканию минимума этой функции. Используем необходимое условие экстремума функции трех переменных: , т.е.

(*)

Решив эту систему трех уравнений с тремя неизвестными относительно a, b, c, получим конкретный вид искомой функции F(x, a, b, c).

Количество параметров в функции F не влияет на сущность самого метода, а влияет лишь на количество уравнений в системе (*).

Естественно, что значения найденной функции F(x, a, b, c) в точках x1, x2, …, xn будут отличаться от табличных значений y1, y2, …, yn. Значения разностей y_i- F(x_i, a, b, c)= (i=1, 2, …, n) называются отклонениями измеренных значений y от вычисленных по формуле. Из двух разных приближений одной и той же табличной функции, лучшим является то, для которого сумма квадратов отклонений является наименьшей.

Нахождение приближающей функции в виде линейной функции.

Будем искать приближающую функцию в виде F(x, a, b)=ax+b. Найдем частные производные по параметрам a и b: .

Составим теперь систему вида (*)

Разделим каждое уравнение на n:

Введем обозначения:

(**)

Тогда система примет вид:

, откуда a= , b=

Коэффициенты этой системы , которые в каждой конкретной задаче приближения могут быть легко вычислены по формулам (**). Вычислив значения параметров a и b, получим конкретный вид линейной функции, осуществляющей наилучшее приближение среди всех линейных функций.