Вероятностные технологии

Оглавление

Аналитические технологии.. 4

Детерминированные технологии.. 4

Вероятностные технологии.. 4

Новые технологии.. 4

Искусственные нейронные сети.. 5

Принципы работы человеческого мозга. 5

Формализация нейронных сетей.. 6

Принцип обучения искусственных нейронных сетей.. 11

Концепция обучения нейронной сети, предложенная Хэбом.. 12

Сбор данных для нейронной сети.. 12

Прикладные возможности нейронных сетей.. 13

Переобучение и обобщение. 14

Персептрон.. 14

Алгоритм обратного распространения ошибки.. 16

Сигмоидальный нейрон.. 18

Нейрон типа «адалайн». 20

Инстар и оутстар Гроссберга. 22

Нейронтипа WTA (Winner Takes All). 25

Модель нейрона Хэбба. 26

Стохастическая модель нейрона. 27

Стохастические алгоритмы обучения.. 28

Настройка числа нейронов в скрытых слоях многослойных сетей в процессе обучения.. 31

Алгоритмы сокращения.. 31

Конструктивные алгоритмы... 32

Упрощенные алгоритмы расщепления.. 33

Радиальная базисная сеть.. 33

Вероятностные нейронные сети.. 35

Линейные нейронные сети.. 36

Обучение. 37

Сети с самоорганизацией на основе конкуренции.. 38

Модели ассоциативной памяти. Сети Хопфилда. 42

Когнитивные карты... 45

Генетические алгоритмы... 48

Естественный отбор и генетическое наследование. 48

Модель эволюции в природе, реализованная программно.. 48

Символьная модель простого генетического алгоритма. 50

Работа простого генетического алгоритма. 50

Шима (Schema). 50

Применение аналитических технологий.. 53

Список литературы... 54

Аналитические технологии

Аналитические технологии – это методики, которые на основе моделей, алгоритмов, математических теорем позволяют по известным данным оценить значение неизвестных характеристик и параметров.

Аналитические технологии позволяют решать не только хорошо формализованные задачи, но и обучаться решению новых задач.

Аналитические технологии делятся на:

1. Детерминированные;

2. Вероятностные;

3. Новые технологии: искусственные нейронные сети и генетические алгоритмы.

Детерминированные технологии

Полное описание задачи (модель) => [Известный алгоритм < = Известные параметры ]=> Ответ

Особенностью детерминированной технологии является то, что чтобы алгоритм был применим, необходимо чтобы задача полностью описывалась детерминированной моделью.

Вероятностные технологии

Исторические данные => [Статистика < = Вероятностная модель] => Параметры вероятностной модели => Прогноз

Вероятностные технологии применяются в случае когда встречаются задачи, связанные с наблюдением случайных величин. Параметры вероятностных моделей – это распределение случайных величин, среднего значения, дисперсии. Изначально эти параметры неизвестны, для их оценки используются статистические методы, применяемые к выборкам наблюдаемых значений.