Резервуарные нейронные сети: теория, приложения и реализации

Задание

• Прочитать и разобрать (законспектировать) материалы [1-3] про специальную архитектуру рекуррентных нейронных сетей - эхо-сети (echo-state network), а также про основанный на таких сетях вычислительный подход, названные резервуарными вычислениями (reservoir computing).
• Прочитать и разобрать (законспектировать) материалы [4] про применение эхо-сетей и резервуарных вычислений для предсказания поведения хаотических динамических систем.
• Используя высокоуровневые языки программирования Java/C++/Python или специальные математические пакеты вычислений MathWorks Matlab/Wolfram Mathematica, повторить численный эксперимент из [4] (см. также приложение с кодом [5]) по обучению эхо-сети и предсказанию поведения хаотической системы Маккея-Гласса, для хаотической системы Лоренца (см. комментарий автора статьи [4] на стр. 14 про выбор параметров алгоритма).
• Результаты работы (конспект, оформленный в виде курсовой работы с подробным описанием численных экспериментов, результатами и исходным кодом в приложении) присылать на электронную почту или в телеграм научному руководителю.

Список литературы

1. Статья "Echo state network" на Scholarpedia.org.
2. B. Schrauwen, D. Verstraeten, J. van Campenhout, An overview of reservoir computing: theory, applications and implementations [препринт https://biblio.ugent.be/publication/416607/file/447949.pdf].
3. M. Lukoševičius and H. Jaeger, Reservoir Computing Approaches to Recurrent Neural Network Training, Computer Science Review 3(3), 127-149, 2009 [препринт https://www.ai.rug.nl/minds/uploads/2261_LukoseviciusJaeger09.pdf].
4. H. Jaeger, H. Haas, Harnessing Nonlinearity: Predicting Chaotic Systems and Saving Energy in Wireless Communication, Science, 304, 5667, pp. 78-80, 2004 [препринт https://www.ai.rug.nl/minds/uploads/ESNScience04.pdf].
5. Код на Matlab для применения ESN к системе Маккея-Гласса.

Научный руководитель

ФИО: Мокаев Тимур Назирович [e-mail][Telegram]