Разработка интеллектуального инструментария прогнозирования развития систем на базе нейронных сетей

Тип работы:
Диссертация
Предмет:
Системы автоматизации проектирования
Страниц:
153


Узнать стоимость

Детальная информация о работе

Выдержка из работы

Задачу прогнозирования развития различных систем пытаются решить на протяжении не одной сотни, лет. Обуславливается это тем, что человек не хочет быть просто пассивным наблюдателем, а как минимум старается предвидеть будущую ситуацию и наименьшими затратами повлиять на ход событий с большей эффективностью. Еще одной из причин, обуславливающих подобную заинтересованность, является тот факт, что единожды полученный инструментарий, дающий прогноз с приемлемой точностью и обладающий достаточной гибкостью, можно применять в различных сферах бытия: экономика, социология, промышленность, транспортные потоки, биотехнология и др. В России долгое время методы прогнозирования, да и сами результаты предсказания, не оказывали никакого влияния на развитие государства. Более того, отвергались правящей верхушкой и ставились вне закона. Во главу всего был поставлен план увеличения показателей предыдущей пятилетки любыми усилиями, что и привело к известным последствиям. И хотя в основу первоначального периода развития России в время новейшей истории были поставлены труды В.А. Базарова-Руднева, в создании дальнейших планов его выкладки использовались мало. Такие же тенденции прослеживались во многих областях.

Фундаментальные труды зарубежных футурологов (Э. Тоффлер, Дж. Нейсбитт, П. Эбурдин [2]) долгое время отвергались последователями марксистско-ленинской идеологии. Но, тем не менее, и советские ученые (И.В. Бестужев-Лада [1,11], Н. Ф. Федоров и др.) вели успешные разработки в данном направлении.

Также следует отметить, что существенный вклад в развитие теории искусственных нейронных сетей сделали следующие ученые: Горбатов В. А. [23], Горбатов А. В., Рябов Л. П., Суворов А. В., Овчинников В. В.

Теория искусственных сетей в последнее время стала одним из самых перспективных направлений в области прогнозирования развития систем [3−10]. С каждым годом увеличивается число компаний, которые тратят существенную часть доходов на внедрение и разработку собственных инструментов прогнозирования (ориентированных на конкретную предметную область в соответствии со спецификой предприятия) в существующую систему автоматизированного управления. Большинство руководителей, принявших такой путь развития, рассматривают подобные траты как вклад в эффективное развитие и, как показывает практика, при достаточно профессиональном подходе к решению этой проблемы затраты окупаются. Для решения задач краткосрочного прогнозирования в области интеллектуальных систем часто используют аппарат искусственных нейронных сетей [12−14]. Отчасти это связано с ростом производительности компьютеров, что напрямую влияет на один из важных параметров краткосрочного прогнозирования — время решения задачи. Еще одной из причин развития ИИ является постоянная разработка популярных программных пакетов [15−16] для решения прикладных задач этой области, что позволяет теоретикам обрабатывать идеи, не имея опыта разработки собственных программ.

В теории нейронных сетей и их применении существует ряд теоретических и практических проблем, которые не имеют однозначно правильного и эффективного решения до сих пор. Одной из актуальных задач является определение оптимальной структуры искусственной нейронной сети и фильтрация входных данных. Существующие решения не удовлетворяют постановке задачи прогнозирования и, как следствие, не получают широкого внедрения в существующих коммерческих программных пакетах.

Цель работы состоит в разработке математического, алгоритмического обеспечений и их программной реализации в виде соответствующего инструментария, являющегося частью САПР прогнозирования развития систем.

Идея работы заключается во впервые предложенном методе нахождения оптимальной структуры нейронной сети при помощи поисковой машины, основанной на механизме отбора, оценки и генерации новых решений, а также нахождения множества, определяющего состав и структуру входных данных.

Научные положения, выносимые на защиту, и их новизна:

1. Впервые предложена методика использования аппарата генетических алгоритмов для нахождения оптимальной структуры искусственной нейронной сети в задачах прогнозирования.

2. Впервые предложена фильтрация входных параметров, определяющих работу прогнозируемой системы, основанная на использовании теоретико-графовых структур, позволяющая уменьшить трудоемкость решения задачи (число синапсов и нейронов результирующей сети) прогнозирования.

3. Разработана структура хранения всех данных, необходимых для функционирования искусственных нейронных сетей и их автоматизированного проектирования, в ЭВМ.

4. Предложена для использования аппаратная реализация искусственных нейронных сетей в виде нейрочипов и обосновано применение этого типа.

Обоснованность научных положений, выводов и рекомендаций, сформулированных в диссертации, подтверждается:

• использованием теории нейронных сетей, теории статистики, теории генетических алгоритмов, теории графов и мографов, теории формальной логики и алгоритмов, теории лингвистического программирования, дискретной математики, теории баз данных-

• положительными результатами внедрения в учебный процесс разработанного программного инструментария автоматизированного прогнозирования развития систем на базе искусственных нейронных сетей.

Научное значение:

• развита теория применения искусственных нейронных сетей в задачах краткосрочного прогнозирования развития сложных систем-

• расширена теория фильтрации данных с применением графовых структур-

• развита теория применения реляционных баз данных для хранения информационной и алгоритмической составляющей прогнозирования при помощи предложенных алгоритмов.

Практическая значимость работы:

1. Разработано программное обеспечение (в виде открытого исходного кода) для практического использования предложенных методик и внедрения в действующие системы-

2. Разработаны графический пользовательский интерфейс и визуальная система представления информации-

3. Реализован в виде программных приложений ряд конвертеров для закачки данных в программный продукт, что позволяет использовать различные источники данных-

4. Разработана и практически реализована схема хранения всей необходимой информации в ЭВМ, отражающей деятельность прогнозируемой системы, и нейронных структур, необходимых для решения задач.

Апробация работы. Основные результаты диссертационной работы докладывались и обсуждались на научных семинарах кафедры Систем автоматизированного проектирования Московского государственного горного университета (2006, 2008 гг.).

Публикации. Основные положения и результаты диссертационного исследования опубликованы в четырех работах, в том числе одна в издании, входящем в перечень ВАК.

Выводы по 4 главе.

При помощи разработанного инструментария прогнозирования развития систем была получена информационная структура в виде обученной искусственной нейронной сети. Было получено практическое подтверждение работоспособности разработанного программного пакета (основу которого составили предложенные методики) на реальных статистических данных, характеризующих работу Банка России.

Также была представлена методика использования выбранных аппаратных средств для реализации обучения нейронной сети и последующего использования.

Заключение.

В результате диссертационного исследования решена задача разработки интеллектуального инструментария прогнозирования развития систем на базе искусственных нейронных сетей.

В результате исследований лично автором получены следующие основные выводы и результаты:

— обосновано использование искусственных нейронных сетей при решении задач прогнозирования-

— предложены топология, структура искусственных нейронных сетей и алгоритм обучения, имеющий полиномиальную сложность для решения задач прогнозирования-

— впервые разработан метод использования аппарата генетических алгоритмов для оптимизации структуры искусственной нейронной сети в задачах прогнозирования-

— впервые предложен метод фильтрации входных параметров, определяющих работу прогнозируемой системы, основанный на использовании теоретико-графовых структур, уменьшающий трудоемкость решения задачи-

— разработано программное обеспечение (в виде открытого исходного кода) для автоматизированного проектирования нейронных структур при моделировании функционирования Банка России-

— разработана оптимальная структура базы знаний для хранения всех данных, необходимых для функционирования искусственных нейронных сетей, в ЭВМ при решении задачи прогнозирования-

— предложена для использования аппаратная реализация искусственных нейронных сетей в виде нейрочипов (100 NAP) и обосновано применение этого типа.

Основные положения опубликованы в следующих работах:

1. Горбатов А. В., Домогаев В. В. Маркетинговое прогнозирование на базе нейронных сетей//Информационная математика. — 2005. — 1(5). — С. 53−60-

2. Домогаев В. В. Сравнительный анализ программных средств прогнозирования состояния систем в различных предметных интерпретациях//Информационная математика. — 2007. — 1(6). — С. 143−146-

3. Новиков Е. С., Домогаев В. В. Генетические алгоритмы определения структуры нейронной сети в задачах прогнозирования//Вопросы радиоэлектроники. — 2009. -2. — С. 10−17 (Издание входит в перечень ВАК) —

4. Домогаев В. В. Метод выбора входных параметров искусственной нейронной сети, в задачах прогнозирования//Информационная математика. — 2009. — 1(7). — С. 54−61.

ПоказатьСвернуть

Содержание

Глава 1. Прогнозирующие системы. Состояние проблемы

1.1 Прогноз и цели его использования.

1.2 Классификация и обзор методов прогнозирования.

1.3 Место искусственных нейронных сетей в задачах прогнозирования.

Выводы по 1 главе.

Глава 2. Теоретические аспекты разработки интеллектуального инструментария прогнозирования.

2.1 Выбор топологии нейронной сети.

2.2 Теория обратного распространения ошибки.

2.3 Нормализация-масштабирование данных для обучения сетей.

2.4 Метод выбора входных параметров искусственной нейронной сети в задачах прогнозирования.

2.5 Использование генетического алгоритма для определения структуры нейронной сети в задачах прогнозирования.

Выводы по 2 главе.

Глава 3. Практическая реализация инструментария прогнозирования.

3.1 Обзор систем прогнозирования, основанных на аппарате нейронных сетей.

3.2 Разработка программного инструментария прогнозирования.

Выводы по 3 главе.

Глава 4. Практическое использование инструментария прогнозирования.

4.1 Использование программного инструментария для прогнозирования развития реальной системы.

4.2 Аппаратная реализация результатов работы программного инструментария.

Выводы по 4 главе.

Список литературы

1. А. Гордон. Диалоги. Выпуск 2, М. Предлог, 2005 г.

2. Нэсбитт Дж., Эбурдин П. Что нас ждет в 90-е годы. Мегатенденции. 2000 г. М. Республика. 1992. — 416 с.

3. Галушкин А. И. Современные направления развития нейрокомпьютерных технологий в России//Открытые системы, 1997. № 4(24).

4. Головко В. А. Нейроинтеллект: теория и применение. Кн. 1: Организация и обучение нейронных сетей с прямыми и обратными связями. — Брест: Изд-во БПИ, 1999.

5. Гроссберг С. Внимательный мозг //Открытые системы, 1997. № 4(24).

6. Глущенко В. В., Глущенко И. И. Разработка управленческого решения. Прогнозирование-планирование. Теория проектирования экспериментов. Железнодорожный, Моск. обл.: ТОО НПЦ & laquo-Крылья»-, 1997

7. Громов А. И., Каменнова М. С., Старыгин А. Н. Создание корпоративного электронного архива и реорганизация бизнес-процедур компании// СУБД. 1995. № 3

8. Доугерти К. Введение в эконометрику. М.: ИНФРА-М, 1997

9. Дюк В. Обработка данных на компьютере. СПб.: Питер, 1997

10. Олейников Е. А. и др. Основы экономического и социального прогнозирования. М.: Изд-во Рос. экон. акад., 1996

11. Бестужев-Лада И. В. Рабочая книга по прогнозированию. М.: Мысль, 1982.

12. Галушкин А. И. Теория нейронных сетей. Кн. 1: //Сер. & laquo-Нейрокомпьютеры и их применение"/Под ред. А. И. Галушкина. — М.: Изд-во ИПРЖР, 2000

13. Головко В. А. Нейроинтеллект: Теория и применение. Кн. 2: Самоорганизация, отказоустойчивость и применение нейронных сетей — Брест: Изд-во БПИ, 1999

14. Ежов А. А., Шумский С. А. Нейрокомпьютинг и его применения в экономике и бизнесе. М.: МИФИ, 1998

15. Боровиков В. П., Боровиков И. П. STATISTICA -Статистический анализ и обработка данных в среде Windows. М.: Информационно-издательский дом & laquo-Филинъ»-, 1997

16. Боровиков В. П., Ивченко Г. И. Прогнозирование в системе STATISTICA в среде Windows: Учеб. пособие. М.: Финансы и статистика, 1999

17. Montgomery, Douglas С. Forecasting and time series analysis. /Douglas C. Montgomery, Lynwood A. Johnson, John S. Gardiner. 2nd ed. — ISBN 0−07−42 858−1.

18. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика М.: ИНФРА-М, 1997

19. Р. Каллан Основные концепции нейронных сетей: М. Вильяме 2003

20. Rumelhart D.E., Hinton G.E. and Williams R.J. Learning Internal Representations by Error Propagation, Parallel Distributed Processing, Explorations in the Microstructure of Cognition. Vol 1, Foundations. Cambridge, MA: MIT Press 1986.

21. К. Роберт, & laquo-Искусственных нейронные сети и их применение& raquo-, М: Вильяме, 2006.

22. М. Т. Джонс, & laquo-Программирование искусственного интеллекта в приложениях& raquo-, ДМК, 2006.

23. В. А. Горбатов, & laquo-Фундаментальные основы дискретной математики& raquo-, М., Наука, Физматлит, 1999

24. Алюшин М. В. Аппаратная реализация быстродействующих нейросетей на основе программируемой логики фирм AMD, ALTERA, XILINX// Нейроинформатика -99. -М.: МИФИ. Часть 2.

25. K. Tahir Shah Automata, neural networks and parallel machines: some emerging principles. World Scientific. 1999

26. Горбань А. Н. Обучение нейронных сетей — М.: СП «ParaGraph», 1990. 160 с.

27. Горбань А. Н., Россиев Д. А. Нейронные сети на персональном компьютере. &mdash- Новосибирск: Наука (Сиб. отделение), 1996. 276 с.

28. Гордиенко Е. К., Лукьяница А. А. Искусственные нейронные сети: I. Основные определения и модели /Изв. РАН. Сер. Техническая кибернетика, 1994. № 5. С. 79 — 92.

29. Гроссберг С. Внимательный мозг //Открытые системы, 1997. № 4(24). С. 29 — 33.

30. Деревицкий Д. П., Фрадков А. Л. Прикладная теория дискретных адаптивных систем управления. &mdash- М.: Наука, 1981. 216 с.

31. Колесников А. А. Основы теории синергетического управления,& mdash- М. :

32. Фирма «Испо-Сервис», 2000. 264 с. (Серия книг специалиста по автоматизациипроизводства. Под общ. ред. А. С. Клюева).

33. Меламед И. И. Нейронные сети и комбинаторная оптимизация //Автоматика и телемеханика, 1994. № 11. С. 3 — 40.

34. Минский М., Пейперт С. Перцептроны. &mdash- М.: Мир, 1971. 262 с.

35. Нейроинформатика и ее приложения // Материалы 3-го Всерос. семинара, 6 — 8 октября 1995 г. Ч. 1 /Под ред. А. Н. Горбаня. &mdash- Красноярск. Изд-во КГТУ, 1995. 230 с.

36. Нейроинформатика и ее приожения //Тез. докл. 5-го Всерос. семинара, 3 — 5 октября 1997 г. /Под ред. А. Н. Горбаня. &mdash- Красноярск: Изд-во КГТУ, 1997. 190 с.

37. Розенблатт Ф. Принципы нейродинамики: Перцептрон и теория механизмов мозга — М.: Мир, 1965. 480 с.

38. Айвазян С. А. Прикладная статистика и основы эконометрики. М.: Юнити, 1998.

39. Анчишкин А. И. Методы народнохозяйственного прогнозирования. М.: Наука, 1985.

40. Белявский И. К., Кулагина Г. Д., Короткое А. В. Статистика рынка товаров и услуг. М.: Финансы и статистика, 1995.

41. Бестужев-Лада И. В. Рабочая книга по прогнозированию. М.: Мысль, 1982.

42. Вир С. Мозг фирмы: Пер. с англ. М.: Радио и связь, 1993.

43. Боровиков В. П., Боровиков И. П. STATISTICA -Статистический анализ и обработка данных в среде Windows. М.: Информационно-издательский дом & laquo-Филинъ»-, 1997.

44. Боровиков В. П., Ивченко Г. И. Прогнозирование в системе STATISTICA в среде Windows: Учеб. пособие. М.: Финансы и статистика, 1999.

45. Бэстенс Д. -Э., Ван ден Берг В. -М., Вуд Д. Нейронные сети и финансовые рынки: принятие решений в торговых операциях. М.: ТВП, 1997.

46. Видяпин В. И., Журавлева Г. П. Общая экономическая теория (политэкономия). М.: ПРОМО-Медиа, 1995.

47. Глущенко В. В., Глущенко И. И. Разработка управленческого решения. Прогнозирование-планирование. Теория проектирования экспериментов. Железнодорожный, Моск. обл.: ТОО НПЦ & laquo-Крылья»-, 1997.

48. Громов А. И., Каменнова М. С., Старыгин А. Н. Создание корпоративного электронного архива и реорганизация бизнес-процедур компании// СУБД. 1995. № 3.

49. Доугерти К. Введение в эконометрику. М.: ИНФРА-М, 1997.

50. Дрейпер Н., Смит Г. Прикладной регрессионный анализ. М.: Статистика, 1973.

51. Дубров A.M., Мхитарян B.C., Трошин Л. И. Многомерные статистические методы. М.: Финансы и статистика, 1998.

52. Дюк В. Обработка данных на компьютере. СПб.: Питер, 1997.

53. Ежов А. А., Шумский С. А. Нейрокомпьютинг и его применения в экономике и бизнесе. М.: МИФИ, 1998.

54. Жданов С. А. Экономические модели и методы в управлении. М.: & laquo-Дело и сервис& raquo-, 1998.

55. Ивлев В. А., Попова Т. В. CASE в моделировании деятельности предприятий// Компьютер ПРЕСС. 1997. № 8.

56. Калянов Г. Н. Консалтинг при автоматизации предприятий: подходы, методы, средства. М.: СИНТЕГ, 1997.

57. Кейн Э. Экономическая статистика и эконометрия. Вып. 2. М.: Статистика, 1977.

58. Кендэл М. Временные ряды. М.: Финансы и статистика, 1981.

59. Кириллов В. П., Русскин В. М. Информационная технология SSADM методика моделирования информационных потоков при разработке автоматизированных систем// Компьютеры+Программы. 1995. № 3.

60. Кугаенко А. А. Синтез динамических моделей народного хозяйства и методы прогнозирования социально-экономических процессов. М.: Прометей, 1991.

61. Льюис К. Прогнозирование экономических показателей. М.: Финансы и статистика, 1986.

62. Мелихов А. Н. Ситуационные советующие системы с нечеткой логикой. М.: Наука, 1990.

63. Мкртчан С. О. Нейроны и нейронные сети. М.: Энергия, 1971.

64. Олейников Е. А. и др. Основы экономического и социального прогнозирования. М.: Изд-во Рос. экон. акад., 1996.

65. Орловский С. А. Проблемы принятия решений при нечеткой исходной информации. М.: Наука, 1981.

66. Позин Н. В. Моделирование нейронных структур. М.: Наука, 1970.

67. Попов В. А. Основы макроэкономического прогнозирования. М., 1996.

68. Попов В. А. Прогнозирование национальной экономики. М.: Изд-во Рос. экон. акад., 1997.

69. Попов Л. А. Анализ и моделирование трудовых показателей: Учебник. 2-е изд., доп. и перераб. М.: Финансы и статистика, 1999.

70. Попов Э. В., Фоминых И. Б., Кисель Е. Б., Шапот М. Д. Статические и динамические экспертные системы. М.: Финансы и статистика, 1996.

71. Попов Э. В., Шапот М. Д. Реинжиниринг бизнес-процессов и информационные технологии// Открытые системы. 1996. № 1.

72. Самочкин В. Н. Гибкое развитие предприятия. Анализ и планирование. М.: Дело, 1999.

73. Силов В. Б. Принятие стратегических решений в нечеткой обстановке. М.: ИНПРО-РЕС, 1995.

74. Суровцев И. С. Нейронные сети. Введение в современные информационные технологии. Воронеж: Гос. унт, 1994.

75. Тихомиров Н. П., Попов В. А. Методы социально-экономического прогнозирования. М.: изд-во ВЗПИ, 1993.

76. Трахтенгерц Э. А. Компьютерная поддержка принятия решений. М.: СИНТЕГ, 1998.

77. Тюрин Ю. Н., Макаров А. А. Статистический анализ данных на компьютере. М.: ИНФРА-М, 1998.

78. Френкель А. А. Прогнозирование производительности труда: методы и модели. М.: Экономика, 1989.

79. Хан Д. Планирование и контроль: концепция контроллинга: Пер. с нем. /Под ред. и с предисл. А. А. Турчака, Л. Г. Головача, М. Л. Лукашевича. М.: Финансы и статистика, 1997.

80. Хейс-Рот Ф., Уотерман Д., Ленит Д. Построение экспертных систем. М.: Мир, 1987.

81. Хирота К. Теория нечетких множеств. Прикладные нечеткие системы. М.: Мир, 1993.

82. Щетинин В. Г. Многослойная самоорганизация нейронных сетей оптимальной сложности// Автоматика и вычислительная техника. Рига, 1998. № 4. С. 30−37.

83. Щетинин В. Г., Костюнин А. В. Принятие решений на нейронных сетях оптимальной сложности// Автоматизация и современные технологии. 1998. № 4. С. 38−43.

84. Шмален Г. Математические модели в экономических исследованиях на предприятии// Проблемы управления. 1998. № 12.

85. Эрлих А. А. Технический анализ товарных и финансовых рынков. М.: ИНФРА-М, 1996.

86. Терехов В. АТюкин И. Ю. Нейросетевые системы управления: проблемытеории, приложения // Сб. докл. II науч. -техн. конф. мол. ученых & laquo-Навигацияи управление движением& raquo-. 28 — 30 марта 2000 г. Санкт-Петербург. — СПб. ГНЦ

87. РФ-ЦНИИ & laquo-Электроприбор»-, 2000. с. 97 — 121.

88. Терехов В. А. Динамические алгоритмы обучения многослойных нейронных сетей в системах управления // Изв. РАН. Сер. Теория исистемы управления, 1996. № 3. С. 70 -79.

89. Терехов В. А., Тюкин И. Ю. Устойчивость по Ляпунову процессов обучения многослойной нейронной сети в динамических системах управления // Изв.

90. ВУЗов. Приборостроение. № 9, 1999. С.

91. Терехов В. А., Тюкин И. Ю. Исследование устойчивости процессов обучения многослойных нейронных сетей. I, II // Автоматика и телемеханика. № 10,1999, С. 145 — 161- № И, 1999. С. 136 — 144.

92. Терехов В. А., Ефимов Д. В., Тюкин И. Ю., Антонов В. Н. Нейросетевыесистемы управления. &mdash- СПб.: Изд-во С. -Петербургского университета, 1999. 265 с.

93. Терехов В. А., Ефимов Д. В., Тюкин И. Ю. Нейросетевые системы управления // Сер. & laquo-Нейрокомпьютеры и их применение& raquo- / Под ред.1. А. И. Галушкина. -1. М.: Изд-во ИПРЖР, 2002.

94. Терехов В. А., Ефимов Д. ВТюкин И. Ю. Структурный синтез адаптивных систем управления с многослойными нейронными сетями // Изв. ГЭТУ, 1997. Вып. 510. С. 3 — 13.

95. Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика / Пер. с англ. &mdash- М.: Мир, 1992. 240 с.

96. Фрадков А. Л. Адаптивное управление в сложных системах: беспоисковыеметоды. &mdash- М.: Наука, 1990. 286 с.

97. Хакен Г. Синергетика. Иерархии неустойчивостей в самоорганизующихсясистемах и устройствах — М.: Мир, 1985.

98. Чернухин Ю. ВПшихопов В. X., Писаренко С. #., Трубачев О. Е.

99. Моделирование нейросетевых систем управления интеллектуальных мобильныхроботов // Тр. межд. конф. & laquo-Идентификация систем и задачи управления& raquo-

100. SICPR07000). Москва, 26 — 28 сентября 2000 & mdash-М.: Издво ИПУ РАН. С. 1108&mdash-1114.

101. Шквар А. М. Функциональные и структурные аспекты построения некоторых нейронных структур управления // Тр. 4-го Всесоюз. совещания & laquo-Теорияинвариантности и теория чувствительностиавтоматических систем& raquo-. Ч. П. 26 — 30 апреля 1971 — Киев, 1971. С. 78 — 89.

102. Юдашкин А. А. Бифуркации стационарных решений в синергетическойнейронной сети и управление распознаванием образов //1. Автоматика и телемеханика, 1996. № 11. С. 139 — 147.

Заполнить форму текущей работой