Известия высших учебных заведений

Прикладная нелинейная динамика

ISSN 0869-6632 (Print)
ISSN 2542-1905 (Online)


Статья имеет ранний доступ!

Статья опубликована на условиях лицензии Creative Commons Attribution 4.0 International (CC-BY 4.0).
Полный текст в формате PDF(Ru):
Язык публикации: 
русский
Тип статьи: 
Научная статья
УДК: 
530.182
EDN: 

Динамика рекуррентных нейронных сетей с кусочно-линейной функцией активации в задаче контекстно-зависимого принятия решения

Авторы: 
Кононов Роман Андреевич, Институт прикладной физики РАН (ИПФ РАН)
Масленников Олег Владимирович, Институт прикладной физики РАН (ИПФ РАН)
Некоркин Владимир Исаакович, Институт прикладной физики РАН (ИПФ РАН)
Аннотация: 

Цель данной работы – исследовать динамические механизмы решения рекуррентными нейронными сетями когнитивной задачи двухальтернативного выбора с контекстом, вырабатываемые в процессе обучения с подкреплением, и развить методологию анализа таких моделей на основе теории динамических систем.

Методы. Построен ансамбль нейросетей с кусочно-линейной функцией активации. Модели оптимизировались с помощью метода обучения с подкреплением – проксимального обновления стратегии. Структура испытания с постоянными стимулами в течение длительного этапа позволяет трактовать входы в качестве параметров системы и рассматривать систему как автономную на конечных временных интервалах.

Результаты. Выявлен и описан динамический механизм двухальтернативного выбора в терминах аттракторов автономных систем. Описаны возможные типы аттракторов в рассматриваемой модели и изучено распределение типов аттракторов в ансамбле моделей относительно параметров когнитивной задачи. В полученных сетях выявлено устойчивое по ансамблю моделей разделение на функциональные популяции. Исследован процесс эволюции состава данных популяций в процессе обучения. На основе полученного понимания динамического механизма была сконструирована двумерная сеть, решающая упрощённую задачу двухальтернативного выбора без контекста.

Заключение. Предложенный подход позволяет качественно описать механизм решения задачи в терминах аттракторов. Подобное описание позволяет исследовать динамику функциональных моделей и выделять стоящие за динамическими объектами популяции. Данный подход позволяет отслеживать эволюцию аттракторов системы и соответствующих популяций в процессе обучения.
 

Благодарности: 
Работа выполнена при поддержке гранта Российского научного фонда № 23-72-10088.
Список источников: 

-

Поступила в редакцию: 
29.06.2024
Принята к публикации: 
04.09.2024
Опубликована онлайн: 
06.12.2024