Однородная многослойная нейронная сеть прямого распространения без обратных связей

Тип работы:
Реферат
Предмет:
Общие и комплексные проблемы технических и прикладных наук и отраслей народного хозяйства


Узнать стоимость

Детальная информация о работе

Выдержка из работы

УДК 629.4. 014
В.А. ТАЗЕТД1НОВ
Черкаський державний технолопчний ушверситет
ОДНОР1ДНА БАГАТОШАРОВА НЕЙРОННА МЕРЕЖА ПРЯМОГО ПОШИРЕННЯ БЕЗ ЗВОРОТНИХ ЗВ'-ЯЗК1В
Стргмкий розвиток багатьох сфер масивгв тформацп, як з кожним роком помгтно зростають, збшьшуеться попит та розширюеться пропозищя призводе до в1дсутност1 можливостг пошуку за критергями в1дпов1дност1 у рамках новгтнгх позицш. Тому, автоматизацгя процесу пошуку за критергями в1дпов1дност1 е актуальною в жорстких умовах конкуренцП сьогодення.
Спещальт д1агностичн1 тести використовуються для вимгрювання характеристик певних призначень використовуються д1агностичн1 методи вимгрювання. Складтсть полягае в тому, що завжди не до ктця виршеним залишаеться питання про валгднгсть методу вгдбору, тобто в якостг набору i оптимальностi саме даного набору елементгв для в1дпов1дност1 певнт модел1. Будь-яка вим1рювальна система повинна надавати значення вимiрiв саме того, для чого вона призначена. Вимоги моделi вiдображають певнi критерИ успiшностi виконання роботи. Релеванттсть критерпв виконання роботи визначаеться ступенем, до якого ii використання в якостi тдексу устху спiввiдноситься з дшсним успiхом у будь-якому напрямку даного виду дiяльностi.
Питання про можливкть побудови на базi нейронних мереж формал1зованого механизму пошуку за критерiями вiдповiдностi зводиться до проблеми можливостi точного уявлення або апроксимацп за допомогою нейронно'-1'- мережi вiдображення, яке вхiдному вектору характеристик елементiв (1) ставить у вiдповiднiсть усереднений образ (2) вiдповiдностi вимогам модулю з певного рiвня та перюду i в цшому узагальнений показник це[0,1], щодо загально'-1'- задоволеностi модулю стосовно обраних елементiв вибiрки.
Для вирiшення завдання пошуку за критерiями вiдповiдностi, у якостi вибiрки виступають характеристики елементiвХ = (х1, х2, …, х") i критери модулю по вiдношенню доуспiшностi тдбору Y = (yi, y2, …, у") з певного рiвня i перюду вибiрки.
Back-Propagation Algorithm застосовуеться для реал1зацИ системи пошуку за критерiями вiдповiдностi. У рамках реалгзацИ запропоновано використовувати однорiдну багатошарову мережу прямого поширення без зворотних зв'-язюв.
Необхiднiсть вiрного видшення потреб модулю щодо тдбору елементiв, стосовно виду вибiрки виступае головною особливiстю розроблено'-1'- нейронно'-1'- мережi для вирiшення формал1зованого механизму пошуку за критерiями вiдповiдностi. Побудова стороншх механiзмiв та усереднення вихiдно'-i величини, як значення це[0,1], щодо загальноi задоволеностi модулю стосовно обраних елементiв вибiрки е однiею з можливостей вдосконалення нейронноi мережi.
Ключовi слова: нейронна мережа, пошукова система, критери вiдповiдностi, алгоритм зворотного поширення, мехашзм розпгзнавання
В.А. ТАЗЕТДИНОВ
Черкасский государственный технологический университет
ОДНОРОДНАЯ МНОГОСЛОЙНАЯ НЕЙРОННАЯ СЕТЬ ПРЯМОГО РАСПРОСТРАНЕНИЯ БЕЗ
ОБРАТНЫХ СВЯЗЕЙ
Стремительное развитие многих сфер массивов информации, которые с каждым годом заметно растут, увеличивается спрос и расширяется предложение приведет к отсутствию возможности поиска по критериям соответствия в рамках новейших позиций. Поэтому автоматизация процесса поиска по критериям соответствия является актуальной в жестких условиях конкуренции сегодняшнего дня.
Специальные диагностические тесты используются для измерения характеристик определенных назначений используются диагностические методы измерения. Сложность заключается в том, что всегда не до конца решенным остается вопрос о валидности метода отбора, то есть в качестве набора и оптимальности именно данного набора элементов для соответствия определенной модели. Любая измерительная система должна предоставлять значения замеров именно того, для чего она предназначена. Требования модели отражают определенные критерии успешности выполнения работы. Релевантность критериев выполнения работы определяется степенью, до которого ее использования в качестве индекса успеха соотносится с действительным успехом в любом направлении данного вида деятельности.
Вопрос о возможности построения на базе нейронных сетей формализованного механизма поиска по критериям соответствия сводится к проблеме возможности точного представления или аппроксимации с помощью нейронной сети отображение, которое входному вектору характеристик элементов (1) ставит в соответствие усредненный образ (2) соответствия требованиям модуля с определенного уровня и периода и в целом обобщенный показатель /1[0,1], относительно общей удовлетворенности модулю относительно выбранных элементов выборки.
Для решения задачи поиска по критериям соответствия, в качестве выборки выступают характеристики элементов Х = (х1, х2, …, хп) и критерии модулю по отношению к успешности подбора Y = (y1, y2, …, yn) с определенного уровня и периода выборки.
Back-Propagation Algorithm применяется для реализации системы поиска по критериям соответствия. В рамках реализации предложено использовать однородную многослойную сеть прямого распространения без обратных связей.
Необходимость правильного выделения потребностей модулю относительно подбора элементов, относительно вида выборки выступает главной особенностью разработанной нейронной сети для решения формализованного механизма поиска по критериям соответствия. Построение посторонних механизмов и усреднения выходной величины, как значение /е[0,1], относительно общей удовлетворенности модулю относительно выбранных элементов выборки является одной из возможностей совершенствования нейронной сети.
Ключевые слова: нейронная сеть, поисковая система, критерии соответствия, алгоритм обратного распространения, механизм распознавания
V.A. TAZETDINOV
Cherkassy State Technological University
HOMOGENEOUS MULTILAYER NEURAL NETWORK OF DIRECT DISTRIBUTION
WITHOUT FEEDBACK
The rapid development of many areas of information arrays that is significantly growing every year, an increase in demand and supply leads to a lack of possibilities to search by correspondence criteria in terms of the advanced positions. Therefore, automation of the process of searching by correspondence criteria is relevant in today'-s tough competitive environment.
Special diagnostic tests are used to measure the performance of certain appointments together with diagnostic measurement techniques. The difficulty is that the question of the validity of the method of selection is always not fully resolved, i. e. a set and optimality of a given set of items to suit a particular model. Any measurement system should provide values of measurements of the indicators for which it is intended. Requirements of the models reflect certain criteria for success in performance. The relevance of performance criteria is determined by the degree to which its use as an index of success relates to real success in any area of activity. The question of the possibility to build a formalized mechanism of search by correspondence criteria on the basis of neural networks is reduced to the problem of the possibility of accurate representation or approximation using neural network mapping that assigns input vector of the characteristics of elements (1) to the average image (2) module with a certain level and the period and overall general index / Bfgtf], of general correspondence with the module regarding selected elements of the
sample.
To solve the problem of searching by correspondence criteria the characteristics of elements Х = (х1, х2, …, хп) and module criteria in relation to selection success of Y = (y1, y2, …, yn) with certain sample level and period are used as a sample.
Back-Propagation Algorithm is used to implement search engine by correspondence criteria. Homogeneous multilayer network of direct distribution without feedback is suggested to be used in terms of implementation. The need of correct allocation of module needs regarding the selection of elements based on the type of sample is the main feature of the developed neural network for solving formalized mechanism for searching by correspondence criteria. Building of outside mechanisms and averaging the output value as / Щ (g0}eral correspondence of module regarding selected elements of the sample is one of the ways to
improve neural network. Key words: neural network, search engine, correspondence criteria, back-propagation algorithm, recognition mechanism.
Постановка проблеми
Ст^мкий розвиток багатьох сфер MacnBiB шформацп, яш з кожним роком помггно зростають, збшъшуетъся попит та розширюеться пропозищя призводить до вщсутносп можливосп пошуку за критерiями вщповщносп у рамках новггшх позицш. Тому, автоматизащя процесу пошуку за критерiями вщповщносп е актуальною в жорстких умовах конкуренцп съогодення.
AH^i3 останшх дослвджень i публiкацiй
Проблеми, пов'-язанi з питаннями управлiння нейронними мережами, розроблялися багатъма вичизняними та зарубiжними вченими i практиками.
Протягом багатъох рошв питаниям впровадження нейронних мереж у автоматизацш людсъких потреб займалося чимало як зарубiжних, так i вичизняних науковцiв. До! х числа варто вщнести: А. В. Гаврилова [1], А. Н. Горбаня [2], В. В. Борисова, В. В. Круглова [3], В.1. Гордеева, В. В. Фугача, Ф. Люггер Джорджа [4] та ш.
В останнш третиш ХХ ст. з'-явився ряд статей за визначенням оптимального пiдходу для навчання нейронних мереж авторiв D.E. Rumelhart, G.E. Hinton, R.J. Williams [5]. В останш десятилитя питання розробки систем тдбору необхiдних позицiй iз заданого перелжу на основi нейромережi розглядали наступи автори- Ю. А. Беляев, А. П. Долгов [6], шоземш S. Winograd, J.D. Cowan [7], G. M Shepherd, C. Koch [8], G.C. Fox, J.G. Koller [9]. Разом з тим слiд визнати, що питання, пов'-язанi з розробкою пошуково! системи за критерiями вщповщносп, е недостатнъо опрацъованими.
Формулювання мети дослвдження
Мета статтi — розробити однорщну багатошарову нейронну мережу прямого поширення без зворотних зв'-язкiв. Спещальш дiагностичнi тести використати для вимiрювання характеристик елементiв. Back-Propagation Algorithm використати для навчання мережъ Диференцiйовану передавальну функцiю нейронiв використати для можливосп застосування методу зворотного поширення помилки.
Викладення основного матерiалу дослiдження
Спираючись на попереднiй досвiд сучасних науковщв [3−7], е можливiстъ стверджувати, що нейронна мережа, за своею структурою, в точносп нагадуе нервову систему людини, яка, за своею природою, складаеться з нейронiв, це з бюлопчно! точки зору. Всi нейрони у обов'-язковому порядку пов'-язанi мiж собою за допомогою дендритiв i аксонiв, або вiдросткiв.
Нейронами називають клiтини, якi здатнi приймати, кодувати, обробляти, зберiгати i передавати шформацш, встановлювати контакти з iншими нейронами, клггинами органiв, органiзовувати реакцii на подразнення.
Стосовно штучних нейронних мереж, варто зазначити, що вони цшком i повнiстю повторюють будову бiлъшостi елементарних функцш бiологiчного нейрона, що робить! х незамiнними у галузi комп'-ютерного моделювання.
Штучш нейроннi мережi можуть змiнювати свою поведшку залежно вiд зовнiшнъого середовища. Данi мережi пiддаютъся навчанню. На сьогодшшнш день, налiчуетъся безлiч алгорштшв навчання розроблених пiд певнi вимоги.
На вхщ мережi подаеться набiр сигналiв i паралельно задаеться необхщний набiр вихiдних значень, сигнали що надшшли на вхiд налаштовуються у вщповщносп з мережею для отримання необхiдних вихiдних форм.
При цьому вщгук мережi пiсля навчання може бути нечутливий до невеликих змш вхiдних сигналiв.
У загальному виглядi механiзм оцiнки вiдповiдностi елементiв за критериями вiдповiдностi можна представити як мехашзм розпiзнавання, наскiлъки побудований вектор характеристик елеменпв
Х = (хь х2, …, хп) (1)
вщтворюе усереднений образ
Y = (yi, y2, …, yn) (2)
вимог моделi з певного рiвня i перiоду, i в цiлому узагальнений показник де[0,1], задоволеностi. Вектор характеристик елеменпв включае весь спектр даних, отриманих на всiх етапах стандартного вщбору. Багато з цих параметрiв вiдображаютъ аналiз сутностi та якосп елементiв.
Спецiалънi дiагностичнi тести використовуються для вимiрювання характеристик певних призначень. Складнiстъ полягае в тому, що завжди не до кiнця виршеним залишаеться питання про валiднiстъ методу вщбору, тобто в якостi набору i оптималъностi саме даного набору елеменпв для вiдповiдностi певнiй модель Будь-яка вимiрювалъна система повинна надавати значення вимiрiв саме того, для чого вона призначена. Вимоги моделi вiдображаютъ певнi критерii'- успiшностi виконання роботи. Релевантшсть критерiiв виконання роботи визначаеться ступенем, до якого ii використання в якостi iндексу устху спiввiдноситъся з дiйсним успiхом у будь-якому напрямку даного виду д^яльносп.
Постановка задачi формалiзованого механiзму пошуку за критериями вiдповiдностi згiдно заявленим вимогам пiдводитъ до того, що в основу розробки подiбних механiзмiв можуть бути покладенi нейромережевi технологи. Розглянемо, деяш науковi дослiдження, яш становлять фундамент штучних
нейронних мереж [1]. Даш науковi пращ [3], дозволяють використовувати нейромережевi мехашзми для досягнення поставленого завдання, в рамках поточного дослщження.
Питання про можливють побудови на базi нейронних мереж формалiзованого механiзму за критерiями вщповщносп зводиться до проблеми можливостi точного уявлення або апроксимацп за допомогою нейронно! мереж1 вiдображення, яке вхщному вектору характеристик iнвентарю (1) ставить у вщповщшсть усереднений образ (2) вщповщносп вимогам з певного рiвня та перiоду i в цшому узагальнений показник де[0,1], щодо задоволеносп даним набором елементiв.
Сутнiсть нейронно! мереж1 полягае у наближеннi функцш багатьох змiнних за допомогою лшшних операцiй i суперпозицiй функцiй одного змшного. Будь-яка нейронна штучна мережа складаеться з формальних нейронiв. На виход^ нейрон отримуе вектор сигналiв х, обчислюе його скалярний вираз на вектор ваг i застосовуе деяку функцш одного змшного. Отриманий результат розсилаеться на входи шших нейрошв або передаеться на вихщ [7]. Виходячи з цього, слщ зазначити, що нейроннi мереж1 обчислюють суперпозицп простих функцiй одного змшного та! х лiнiйних комбiнацiй.
А. Н. Горбань припустив, що для будь-яко! безлiчi пар вхiдних-вихiдних векторiв довшьно! розмiрностi
iснуе двошарова однорiдна нейронна мережа з послщовними зв'-язками, з сигмо! дальними
1
l-fl-«1 (4)
активацiйними функцiями i з кшцевим числом нейронiв, яка для кожного вхщного вектора Хк формуе вщповщний йому вихiдний вектор Yk. [2]
Грунтуючись на припущеннi А. Н. Горбаня, е можливiсть стверджувати, що для представлення багатовимiрних функцiй багатьох змшних може бути використана двошарова однорщна нейронна мережа iз сигмо! дальними активацiйними функцiями для пошуково! системи за критерiями вiдповiдностi [2].
Вццюсно оцшки числа нейрошв у прихованих шарах застосуемо формулу для оцшки необхцшого числа синаптичних ваг о, в рамках багатошарово! мерою з сигмоадальними передавальними функщями:
де 5у — - розмiрнiсть вих1дного сигналу-
6р число елеменпв навчально! вибiрки-
О. — розмiрнiсть вхщного сигналу.
Наступним етапом, шсля оцшки необхщного числа ваг, йде оцшка числа нейрошв у прихованих шарах. Для оцшки числа нейрошв у двошаровш мереж1 представимо формулу:
S —
6Х+6у
(6)
Прик1нцевим етапом формування мереж1 для !! подальшого застосування безпосередньо для здшснення пошуку за критер1ями вщповщносп, виступае процес формування вагових коефщенпв для кожного нейрона, на кожному шар1 мереж1, тобто етап навчання мереж1.
Суть Back-Propagation Algorithm полягае в поширенш сигнал1 В помилки ввд виход1 В мереж1 до !! вход1 В, у напрямку, зворотному прямому поширенню сигнал1 В у звичайному режим1 роботи [9].
Основним зауваження методу е те, що для можливосп застосування методу зворотного поширення помилки передавальна функщя нейрошв повинна бути диференцшована.
Для виршення завдання пошуку за критер1ями вщповщносп, у якосп виб1рки виступають характеристики елеменпв Х = (х1, х2, …, хп) i критерп модулю по вщношенню до усшшносп шдбору Y = (yb y2, …, yn) з певного рiвня i перiоду вибiрки.
Висновки
Необхiднiсть вiрного видшення потреб модулю щодо пiдбору елеменпв, стосовно виду вибiрки виступае головною особливютю розроблено! нейронно! мереж1 для виршення формалiзованого
мехашзму пошуку за критерiями вщповщносп. Побудова стороннiх механiзмiв та усереднення вихщно! величини, як значення де[0,1], щодо загалъноi задоволеносп модулю стосовно обраних елементiв вибiрки е однiею з можливостей вдосконалення нейронноi мереж1.
Список використаноТ л^ератури
1. Гаврилов, А. В. Системы искусственного интеллекта: Учеб. пособие: в 2-х ч. — Новосибирск: Изд-во НГТУ, 2001. — Ч.1. — 67 с.
2. Горбань А. Н. Обучение нейронных сетей. — М.: СП & quot-ПараГраф"-, 1990. — 160 с.
3. Круглов В. В., Борисов В. В. Искусственные нейронные сети. Теория и практика. М.: Горячая линия. Телеком, 2001. — 382 с.
4. Люггер Джордж Ф. Искусственный интеллект: стратегии и методы решения сложных проблем. -М.: Издательский дом «Вильямс», 2004. — 864 с.
5. Rumelhart D.E., Hinton G.E., Williams R.J. Learning representations by back-propagating errors // Nature (London). — 1986. — № 323. — 590 р.
6. Беляев Ю. А., Долгов А. П. Нейронна мережа, як основа iнтелектуальноi системи // Штучний штелект. — 2014. — № 2. — С. 25−31.
7. Winograd S., Cowan J.D. Reliable Computation in the Presence of Noise. — Cambridge, MA: MIT Press, 1963. — 247 p.
8. Shepherd G.M., Koch C. Introduction to synaptic circuits // The Synaptic Organization of the Brain (G. M. Shepherd, ed.). — New York: Oxford University Press, 1990. — 241 p.
9. Fox G.C., Koller J.G. Code generation by a generalized neural networks: general principles and elementary examples. // J. Parallel Distributed Comput. 1989. — V. 6. — № 2. — 660 р.

ПоказатьСвернуть
Заполнить форму текущей работой