Рекурентна неуронска мрежа

Рекурентна неуронска мрежа (РНН) је један од два широко заступљена типа вештачке неуронске мреже, коју карактерише правац тока информација између њених слојева. За разлику од једносмерне неуронске мреже унапред, она је двосмерна вештачка неуронска мрежа, што значи да дозвољава да излаз из неких чворова утиче на накнадни улаз у исте чворове. Њихова способност да користе унутрашње стање (меморију) за обраду произвољних секвенци улаза[1][2][3] чини их применљивим на задатке као што су несегментирано, повезано препознавање рукописа[4] или препознавање говора.[5][6] Термин „рекурентна неуронска мрежа” се користи за означавање класе мрежа са бесконачним импулсним одзивом, док се „конволуциона неуронска мрежа” односи на класу коначног импулсног одзива. Обе класе мрежа показују временско динамичко понашање.[7] Рекурентна мрежа са коначним импулсом је усмерен ациклични граф који се може одмотати и заменити стриктном неуронском мрежом унапред, док је рекурентна мрежа бесконачних импулса усмерени циклични граф који се не може одмотати.

Додатна ускладиштена стања и складиште под директном контролом мреже могу се додати мрежама са бесконачним импулсом и мрежама са коначним импулсом. Друга мрежа или графикон такође могу заменити складиште ако то укључује временска кашњења или има повратне везе. Таква контролисана стања се називају затворена стања или затворене меморије и део су мрежа дуге краткорочне меморије (ЛСТМ) и затворених рекурентних јединица. Ово се такође назива неуронска мрежа унапред (ФНН). Рекурентне неуронске мреже су теоретски комплетне по Тјурингу и могу покренути произвољне програме за обраду произвољних секвенци улаза.[8]

Референце уреди

  1. ^ Дупонд, Самуел (2019). „А тхороугх ревиеw он тхе цуррент адванце оф неурал нетwорк струцтурес.”. Аннуал Ревиеwс ин Цонтрол. 14: 200—230. 
  2. ^ Абиодун, Олударе Исаац; Јантан, Аман; Омолара, Абиодун Естхер; Дада, Кеми Вицториа; Мохамед, Нацхаат Абделатиф; Арсхад, Хумаира (2018-11-01). „Стате-оф-тхе-арт ин артифициал неурал нетwорк апплицатионс: А сурвеy”. Хелиyон (на језику: енглески). 4 (11): е00938. Бибцоде:2018Хелиy...400938А. ИССН 2405-8440. ПМЦ 6260436 . ПМИД 30519653. дои:10.1016/ј.хелиyон.2018.е00938 . 
  3. ^ Теалаб, Ахмед (2018-12-01). „Тиме сериес форецастинг усинг артифициал неурал нетwоркс метходологиес: А сyстематиц ревиеw”. Футуре Цомпутинг анд Информатицс Јоурнал (на језику: енглески). 3 (2): 334—340. ИССН 2314-7288. дои:10.1016/ј.фциј.2018.10.003 . 
  4. ^ Гравес, Алеx; Лиwицки, Марцус; Фернандез, Сантиаго; Бертолами, Роман; Бунке, Хорст; Сцхмидхубер, Јüрген (2009). „А Новел Цоннецтионист Сyстем фор Импровед Унцонстраинед Хандwритинг Рецогнитион” (ПДФ). ИЕЕЕ Трансацтионс он Паттерн Аналyсис анд Мацхине Интеллигенце. 31 (5): 855—868. ЦитеСеерX 10.1.1.139.4502 . ПМИД 19299860. С2ЦИД 14635907. дои:10.1109/тпами.2008.137. 
  5. ^ Сак, Хаşим; Сениор, Андреw; Беауфаyс, Франçоисе (2014). „Лонг Схорт-Терм Меморy рецуррент неурал нетwорк арцхитецтурес фор ларге сцале ацоустиц моделинг” (ПДФ). Гоогле Ресеарцх. 
  6. ^ Ли, Xианганг; Wу, Xихонг (2014-10-15). „Цонструцтинг Лонг Схорт-Терм Меморy басед Дееп Рецуррент Неурал Нетwоркс фор Ларге Воцабуларy Спеецх Рецогнитион”. арXив:1410.4281  [цс.CL]. 
  7. ^ Миљановиц, Милос (2012). „Цомпаративе аналyсис оф Рецуррент анд Фините Импулсе Респонсе Неурал Нетwоркс ин Тиме Сериес Предицтион” (ПДФ). Индиан Јоурнал оф Цомпутер анд Енгинееринг. 3 (1). 
  8. ^ Хyöтyниеми, Хеикки (1996). „Туринг мацхинес аре рецуррент неурал нетwоркс”. Процеедингс оф СТеП '96/Публицатионс оф тхе Финнисх Артифициал Интеллигенце Социетy: 13—24. 

Литература уреди

  • Мандиц, Данило П.; Цхамберс, Јонатхон А. (2001). Рецуррент Неурал Нетwоркс фор Предицтион: Леарнинг Алгоритхмс, Арцхитецтурес анд Стабилитy. Wилеy. ИСБН 978-0-471-49517-8. 

Спољашње везе уреди