Главная страница Случайная страница КАТЕГОРИИ: АвтомобилиАстрономияБиологияГеографияДом и садДругие языкиДругоеИнформатикаИсторияКультураЛитератураЛогикаМатематикаМедицинаМеталлургияМеханикаОбразованиеОхрана трудаПедагогикаПолитикаПравоПсихологияРелигияРиторикаСоциологияСпортСтроительствоТехнологияТуризмФизикаФилософияФинансыХимияЧерчениеЭкологияЭкономикаЭлектроника |
Принцип наименьших квадратов
Рассмотрим величины хъ..., хк как независимые переменные. При этом каждое значение у можно считать случайным значением величины у, которое «выбирается» в соответствии с ее условным распределением к(у\хи..., хк) при фиксированных значениях хь..., хк независимых переменных. При такой интерпретации переменных поставленную выше задачу замены реальной статистической связи у с XI,..., хк на функциональную (сглаженную) зависимость у=/(х\,..., хк) можно свести к построению средней 136 квадратической регрессии у на хь..., хк при условии, что функция у =Дхи..., хк) относится к определенному классу функций Ср Предположим, что все функции из класса Су описываются определенным набором параметров (далее эти параметры обозначаются через аи аг,..., ам) и соответственно используем следующее обозначение для таких функций (случай множественной зависимости): У=Л< *\> а2,..., ам; хи..., хк). В рассмотренных выше представлениях зависимости у от х! ,..., хА-роль указанных параметров играют: в случае множественной линейной зависимости — а0, а\,..., ак при М=К+ 1, в кинетической зависимости — а0, аь..., ак, /ь..., /^ при М= 2К+ 1 и т. д. Средняя квадратическая регрессия определяется как наилучшее функциональное представление зависимости случайной величины у от хи..., хкв смысле принципа наименьших квадратов. Поскольку условные распределения к{у\хх,..., хк) неизвестны и на практике приходится иметь дело с выборочными их представлениями, этот принцип формализуется следующим образом: определить функцию / из класса С/, то есть найти значения параметров аь..., ам, при которых минимизируется сумма квадратов отклонений случайных значений величины у, полученных в выборках, от соответствующих значений функции/ N X У=1 1}~/{аъ а2,..., ам; х{, х{,..., х^ ► тт. (8.1) Отметим, что в приведенной сумме величины у-', х(,..., х^к, ]=\,.,., Ы — суть константы, и, следовательно, эта сумма может рассматриваться как функция только переменных аи..., ам. Принцип наименьших квадратов служит источником получения так называемых нормальных уравнений для определения искомых значений параметров аъ..., ам. Далее предполагается, что первые частные производные функции из заданного класса по параметрам аь..., ам существуют. Для получения нормальных уравнений в соответствии с необходимыми условиями достижения экстремума приравняем к нулю эти производные. С точностью до постоянных коэффициентов получим так называемую систему нормальных уравнений, из которой и находят значение параметров а\,..., ам: N X N X у* -/[аъ..., ам; х{,..., х{ф — у-1 -/(аи..., ам\х{,..., х^-^- хх,..., хк х{,..., х}к =0; =0: (8.2)
X У=1 ^ -/(«], - , ам', х ) " к #
с? а Х/,..., 4 =0. 8.3. СИСТЕМЫ НОРМАЛЬНЫХ УРАВНЕНИЙ ДЛЯ ОСНОВНЫХ ВИДОВ ПРОИЗВОДСТВЕННЫХ ФУНКЦИЙ Рассмотрим несколько примеров системы нормальных уравнений для случая парной зависимости (М= 1); во всех них нормальные уравнения линейны относительно параметров аи..., ам. 1. Пусть Су—класс линейных функций, то есть ищется линейная средняя квадратическая регрессия ^ нах. В принятых обозначениях это означает, что реальную статистическую зависимость результативного показателя у от производственного фактора х мы хотим заменить функциональной линейной связью У=Ааи аъ х) = ах + а2х. (8.3) Подставляя это выражение в общую систему нормальных уравнений (8.2), после дифференцирования и элементарных преобразований получим N. N. а{И+а2 X х3 = ХУ; у=1 У=1 7 = 1 у = Г ' у = Г ' (8.4) где N '— общее число наборов экспериментальных данных (число наблюдений). При проведении вычислений обычно уравнения из этой системы делят на число наблюдений, приводя ее к виду
й\\а2
|