Ансамбли нейросетевых моделей с применением многокритериального самоконфигурируемого эволюционного алгоритма

Тип работы:
Реферат
Предмет:
Общие и комплексные проблемы технических и прикладных наук и отраслей народного хозяйства


Узнать стоимость

Детальная информация о работе

Выдержка из работы

УДК 517. 9
АНСАМБЛИ НЕЙРОСЕТЕВЫХ МОДЕЛЕЙ С ПРИМЕНЕНИЕМ МНОГОКРИТЕРИАЛЬНОГО САМОКОНФИГУРИРУЕМОГО ЭВОЛЮЦИОННОГО АЛГОРИТМА2
Е. Д. Лосева Научный руководитель — Л. В. Липинский
Сибирский государственный аэрокосмический университет имени академика М. Ф. Решетнева
Российская Федерация, 660 037, г. Красноярск, просп. им. газ. «Красноярский рабочий», 31
E-mail: rabota_lena_19@mail. ru
Исследуется применение многокритериального самоконфигурируемого эволюционного алгоритма SelfCGP+ENN в задаче прогнозирования расхода электроэнергии на «сутки вперед» с помощью ансамблей нейросетевых моделей. Проведен анализ эффективности предложенного метода с различными начальными установка и различным объемом базы данных.
Ключевые слова: прогноз расхода электроэнергии, ансамбли нейросетевых моделей.
ENSEMBLES OF NEURAL NETWORKS USING MULTI-OBJECTIVE EVOLUTIONARY
SELFCONFIGURING ALGORITHMS
E. D. Loseva Scientific supervisor — L. V. Lipinsky
Reshetnev Siberian State Aerospace University 31, Krasnoyarsky Rabochy Av., Krasnoyarsk, 660 037, Russian Federation E-mail: rabota_lena_19@mail. ru
Iinvestigates effectiveness the using multi-criteria self-configurable evolutionary algorithm SelfCGP + ENN in the problem of forecasting power consumption for & quot-day-ahead"- using ensembles of neural network models. Introduced the effectiveness analysis of the proposed method with different initial installation and various volume database.
Keyword: forecasting electric energy consumption, ensembles of ANN, genetic algorithm.
Экономия потребления ресурсов электроэнергии разными категориями потребителей прогнозирование электроресурсных затрат является важной задачей. Анализ показал, что доля непромышленных потребителей составляет — 24,7%- сельскохозяйственные — 5,7%- бытовые — 19,4% [1]. Оптимизация загрузки электропроизводтвенных мощностей, планирование оптовой закупки электроэнергии требуют прогноза потребления электроэнергии на разные периоды времени и с различной допустимой погрешностью. Исследования и практический опыт показывают, что одни из перспективных направлений в области прогнозирования на сегодняшний день является использование аппарата искусственных нейронных сетей (ИНС) [2]. Цель разработки методики прогнозирования состояла в подборе архитектуры и параметров сетей ИНС для создания ансамбля нейросетевых моделей (АНС). Так как ансамбли — это совокупности нейронных сетей, взаимодействующих в целях формирования прогнозов, то. используя АНС, каждый выход можно предсказать по отдельности. Использование АНС является хорошим способом противодействия переобучению сетей и улучшает их обобщающие способности. Так как все имеющиеся нейронные сети имеют один выход, то ансамбль оценит значения этого выхода, комбинируя отдельные значения из результатов прогнозирования отдельными сетями. В статье рассматривается применение самоконфигурируемого алгоритма SelfCGP+ENN, позволяющего автоматически настраивать структуру каждой ИНС из ансамбля, что снижает требования к конечному пользователю и уменьшает затратность ресурсов на вычисления.
2 Работа выполнена в рамках проекта RFMEFI57414X0037.
Секция «Математические методы моделирования, управления и анализа данных»
В качестве исходных данных для прогнозирования использовались статистические данные по энергопотреблению Сибирского Федерального округа за 2011−2013 гг. Дополнительные характеристики, имеющиеся в базе данных: дата и время суток, потребление электроэнергии округа, потребление электроэнергии края, полное потребление города, цена. Алгоритм формирования ансамбля ИНС с помощью самоконфигурируемого эволюционного алгоритма 8е1ЮОР:
1. Создание популяции ИНС, состоящей из N индивидуумов: каждый индивид в популяции -это ИНС, представленная в качестве дерева. Для формирования деревьев проводится следующая процедура: в элементах (в вершинах, в листьях) дерева указывается структура ИНС: вершины состоят из F{+, & lt-} (двух видов операторов в узлах дерева), а листья состоят из Т{Ш1, N2, /N3, /N4 — блоки входных данных, …, Е1, Е2, Е3, Е4, …, — функции активации}. Знаки из множества Е являются указателями на то, что необходимо выполнить при формировании ИНС. «+» — объединение в один слой активационных функций, «& lt-» — соединение слоев (см. рисунок) [3].
Виды структур ИНС
2. Оптимизация весовых коэффициентов для каждого индивида (дерева — структуры) в популяции, найденные с применением генетического алгоритма (ОЛ) + алгоритма обратного распространения ошибки (Backpropagation) —
3. Установить равные вероятности для всех вариантов настройки для каждого вида оператора (кроме селекции) [4]- Выбор варианта рекомбинации (одноточечное, стандартное) и мутации (слабая, сильная) —
4. Оценка потомка по двум критериям: 1. Первой функцией пригодности является величина,
представляющее собой отклонение от эталонных значений, вычисленная по формуле: Е = -УУ!-
N
2. Вторая функция пригодности индивида — это величина, представляющая собой сложность структуры ИНС, вычисляемая по формуле: Сотр1 = г ¦ Ni + ^N1+1, где г — количество входных блоков
на первом слое- i — количество слоев без учета входного слоя- N — функций активации на i-м слое, N+1 — количество функций активации на i+I слое. Отбор деревьев — решений с выбором минимального значения по двум критериям проводится по следующему правилу:
• Результаты пригодности индивидуумов по первому критерию сортируются от минимального к максимальному.
• Попарно просматривается разница между двумя значениями: если разница между двумя значениями превышает пороговое значение: Ап & gt- 50%, то принимается решение о выборе того индивида, у которого значение по фитнесу было минимальное. Иначе, если Ап & lt- 50%, то принимается решение перейти к отбору индивида по второй функции пригодности. Необходимо выбрать того индивида из пары, у которого «сложность» минимальна.
5. Отбор родителей (элитарная селекция) — Рекомбинация родителей- мутации новой полученной популяции-
6. Обновить вероятности для операторов, используя среднюю пригодность потомков, полученных при помощи данного оператора-
7. Если алгоритм достиг заданного значения точности или исчерпал вычислительные ресурсы, то переход к п. 8, иначе переход к п. 2.
8. Проводится отбор нескольких «лучших» индивидов для создания ансамбля нейросетевых моделей.
Результаты исследований приведены в таблице. По итогам работы описанного подхода были найдены лучшие структуры ИНС, собранные в ансамбль. После проведения тестирования найденного ансамбля была вычислена погрешность прогнозирования. В таблице указаны усредненные результа-
ты по 50 прогонам для каждого вида начальных установок. В качестве начальных установок было взято: максимальное количество слоев — 7, количество функций активации на каждом слое — 15.
Результаты исследований
Количество индивидов
100 500 1000
Сложность ст] руктуры ИНС
Количество слоев Количество нейронов Количество слоев Количество нейронов Количество слоев Количество нейронов
2 9 2 5 4 12
Погрешность прогнозирования, %
2,57 3,55 2,44
По итогам исследования можно сделать вывод, что разработанный подход для автоматизированного формирования нейросетевых моделей показывает оптимальные результаты в задаче прогнозирования. Показатели точности прогнозирования варьируются в зависимости как от начальных настроек для структуры ИНС, так и от начальных настроек генетического программирования. При различном количестве прогонов и начальных настроек в среднем значения находятся в диапазоне от 2 до 12%.
Библиографические ссылки
1. Тукенов А. А. Рынок электроэнергии: от монополии к конкуренции. М.: Энергоатомиздат,
2007.
2. Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети, генетические алгоритмы и нечеткие системы / пер. с польск. И. Д. Рудинского. М.: Горячая линия — Телеком, 2006.
3. Семенкин Е. С. Липинский Л. В. Применение алгоритма генетического программирования в задачах автоматизации проектирования интеллектуальных информационных технологий // Вестник СибГАУ. Вып. 3 (10), Красноярск, 2006.
4. Семенкина М. Е. Самоадаптивные эволюционные алгоритмы проектирования информационных технологий интеллектуального анализа данных. Искусственный интеллект и принятие решений. К. :2013.
© Лосева Е. Д., 2015

ПоказатьСвернуть
Заполнить форму текущей работой