Главная страница Случайная страница
КАТЕГОРИИ:
АвтомобилиАстрономияБиологияГеографияДом и садДругие языкиДругоеИнформатикаИсторияКультураЛитератураЛогикаМатематикаМедицинаМеталлургияМеханикаОбразованиеОхрана трудаПедагогикаПолитикаПравоПсихологияРелигияРиторикаСоциологияСпортСтроительствоТехнологияТуризмФизикаФилософияФинансыХимияЧерчениеЭкологияЭкономикаЭлектроника
Метод наискорейшего спуска
|
|
В градиентном методе с постоянным шагом величина шага, обеспечивающая убывание функции f(x) от итерации к итерации, оказывается очень малой, что приводит к необходимости проводить большое количество итерации для достижения точки минимума. Поэтому методы спуска с переменным шагом являются более экономными. Алгоритм, на каждой итерации которого шаг aк выбирается из условия минимума функции f(x) в направлении движения, то есть:
называется методом наискорейшего спуска. Разумеется, этот способ выбора aк сложнее ранее рассмотренных вариантов.
Реализация метода наискорейшего спуска предполагает решение на каждой итерации довольно трудоемкой вспомогательной задачи одномерной минимизации. Как правило, метод наискорейшего спуска, тем не менее, дает выигрыш в числе машинных операций, поскольку обеспечивает движение с самым выгодным шагом, ибо решение задачи одномерной минимизации связано с дополн–ми вычислениями только самой функции f(x), тогда как основное машинное время тратится на вычисление ее градиента f ` (xk).
Следует иметь в виду, что одномерную минимизацию можно производить любым методом одномерной опт–ции, что порождает разл–е варианты метода наискорейшего спуска.
Схема алгоритма
Шаг 1. Задаются х0, e3. Вычисляется градиент f `(x0), направление поиска.
Присваивается к=0.
Шаг 2.Опр–тся точка очередного эксперимента:
хк+1 = хк - a к f``(xk), где aк – минимум задачи одномерной минимизации:
 |
Шаг 3.Вычисляется значение градиента в точке хк+1: f`(xk+1)..
Шаг 4. Если || 
||£ e3, то поиск точки минимума заканчивается и полагается:
 |
Иначе к=к+1 и переход к шагу 2.