Для цитирования:
Rybka R. Б., Vlasov D. S., Manzhurov A. I., Serenko A. В., Sboev A. G. Spiking neural network with local plasticity and sparse connectivity for audio classification [Рыбка Р. Б., Власов Д. С., Манжуров А. И., Серенко А. В., Сбоев А. Г. Спайковая нейронная сеть с локальной пластичностью и разреженной связью для классификации аудио] // Известия вузов. ПНД. 2024. Т. 32, вып. 2. С. 239-252. DOI: 10.18500/0869-6632-003094, EDN: QTJDPC
Spiking neural network with local plasticity and sparse connectivity for audio classification
[Спайковая нейронная сеть с локальной пластичностью и разреженной связью для классификации аудио]
Цель. Исследование возможности реализации метода классификации данных на базе спайковой нейронной сети, которая обладает низким количеством связей и обучается на основе правил локальной пластичности Spike-Timing-Dependent Plasticity.
Методы. В качестве базовой архитектуры спайковой нейронной сети используется сеть, включающая входной слой и слои возбуждающих и тормозных спайковых нейронов с утечкой (Leaky Integrate and Fire). Исследуются различные варианты организации связей в выбранной нейросетевой архитектуре. Предложен метод организации связности между слоями нейронов, в котором синаптическая связь формируется с некоторой вероятностью, рассчитываемой на основе пространственного расположения нейронов в слоях. При этом ограничение области связности приводит к более высокой разреженности связей в общей сети. Кодирование данных в спайковые последовательности проводится частотным способом, а для декодирования применяется логистическая регрессия.
Результаты. В результате на базе предложенного метода организации связей реализован набор архитектур спайковых нейронных сетей с различными коэффициентами связности для разных слоев исходной сети. Проведено исследование полученных архитектур спайковых сетей с использованием набора Free Spoken Digits, состоящего из 3000 аудиозаписей, соответствующих 10 классам цифр от 0 до 9.
Заключение. Показано, что предлагаемый метод организации связей для выбранной спайковой нейронной сети позволяет снизить количество связей до 60% по сравнению с полносвязной архитектурой. При этом точность решения классификационной задачи не ухудшается и составляет 0.92...0.95 по метрике F1. Это соответствует точности стандартных классификаторов на базе машины опорных векторов, k ближайших соседей и случайного леса. Исходный код для данной статьи представлен в открытом доступе: https://github.com/sag111/Sparse-WTA-SNN
- Davies M, Srinivasa N, Lin T-H, Chinya G, Cao Y, Choday SH, Dimou G, Joshi P, Imam N, Jain S, Liao Y, Lin C-K, Lines A, Liu R, Mathaikutty D, McCoy S, Paul A, Tse J, Venkataramanan G, Weng Y-H, Wild A, Yang Y, Wang H. Loihi: A neuromorphic manycore processor with on-chip learning. IEEE Micro. 2018;38(1):82–99. DOI: 10.1109/MM.2018.112130359.
- Merolla PA, Arthur JV, Alvarez-Icaza R, Cassidy AS, Sawada J, Akopyan F, Jackson BL, Imam N, Guo C, Nakamura Y, Brezzo B, Vo I, Esser SK, Appuswamy R, Taba B, Amir A, Flickner MD, Risk WP, Manohar R, Modha DS. A million spiking-neuron integrated circuit with a scalable communication network and interface. Science. 2014;345(6197):668–673. DOI: 10.1126/science. 1254642.
- Matsukatova AN, Vdovichenko AY, Patsaev TD, Forsh PA, Kashkarov PK, Demin VA, Emelyanov AV. Scalable nanocomposite parylene-based memristors: Multifilamentary resistive switching and neuromorphic applications. Nano Research. 2023;16(2):3207–3214. DOI: 10.1007/s12274- 022-5027-6.
- Matsukatova AN, Iliasov AI, Nikiruy KE, Kukueva EV, Vasiliev AL, Goncharov BV, Sitnikov AV, Zanaveskin ML, Bugaev AS, Demin VA, Rylkov VV, Emelyanov AV. Convolutional neural network based on crossbar arrays of (Co-Fe-B)×(LiNbO3)100-x nanocomposite memristors. Nanomaterials. 2022;12(19):3455. DOI: 10.3390/nano12193455.
- Bordanov I, Antonov A, Korolev L. Simulation of calculation errors in memristive crossbars for artificial neural networks. In: 2023 International Conference on Industrial Engineering, Applications and Manufacturing (ICIEAM). 15-19 May 2023, Sochi, Russian Federation. IEEE; 2023. P. 1008–1012. DOI: 10.1109/ICIEAM57311.2023.10139308.
- Vlasov D, Minnekhanov A, Rybka R, Davydov Y, Sboev A, Serenko A, Ilyasov A, Demin V. Memristor-based spiking neural network with online reinforcement learning. Neural Networks. 2023;166:512–523. DOI: 10.1016/j.neunet.2023.07.031.
- Tao T, Li D, Ma H, Li Y, Tan S, Liu E-X, Schutt-Aine J, Li E-P. A new pre-conditioned STDP rule and its hardware implementation in neuromorphic crossbar array. Neurocomputing. 2023;557:126682. DOI: 10.1016/j.neucom.2023.126682.
- Sboev A, Serenko A, Rybka R, Vlasov D. Solving a classification task by spiking neural network with STDP based on rate and temporal input encoding. Mathematical Methods in the Applied Sciences. 2020;43(13):7802–7814. DOI: 10.1002/mma.6241.
- Sboev A, Vlasov D, Rybka R, Davydov Y, Serenko A, Demin V. Modeling the dynamics of spiking networks with memristor-based STDP to solve classification tasks. Mathematics. 2021;9(24):3237. DOI: 10.3390/math9243237.
- Diehl PU, Cook M. Unsupervised learning of digit recognition using spike-timing-dependent plasticity. Frontiers in Computational Neuroscience. 2015;9:99. DOI: 10.3389/fncom.2015.00099.
- Sboev A, Davydov Y, Rybka R, Vlasov D, Serenko A. A comparison of two variants of memristive plasticity for solving the classification problem of handwritten digits recognition. In: Klimov VV, Kelley DJ, editors. Biologically Inspired Cognitive Architectures 2021. BICA 2021. Vol. 1032 of Studies in Computational Intelligence. Cham: Springer; 2022. P. 438–446. DOI: 10.1007/978-3- 030-96993-6_48.
- Vlasov D, Davydov Y, Serenko A, Rybka R, Sboev A. Spoken digits classification based on spiking neural networks with memristor-based STDP. In: 2022 International Conference on Computational Science and Computational Intelligence (CSCI). 14-16 December 2022, Las Vegas, NV, USA. IEEE; 2022. P. 330–335. DOI: 10.1109/CSCI58124.2022.00066.
- Lien H-H, Chang T-S. Sparse compressed spiking neural network accelerator for object detection. IEEE Transactions on Circuits and Systems I: Regular Papers. 2022;69(5):2060–2069. DOI: 10. 1109/TCSI.2022.3149006.
- Tsai C-C, Yang Y-H, Lin H-W, Wu B-X, Chang EC, Liu HY, Lai J-S, Chen PY, Lin J-J, Chang JS, Wang L-J, Kuo TT, Hwang J-N, Guo J-I. The 2020 embedded deep learning object detection model compression competition for traffic in Asian countries. In: 2020 IEEE International Conference on Multimedia & Expo Workshops (ICMEW). 06-10 July 2020, London, UK. IEEE; 2020. P. 1–6. DOI: 10.1109/ICMEW46912.2020.9106010.
- Han B, Zhao F, Zeng Y, Pan W. Adaptive sparse structure development with pruning and regeneration for spiking neural networks. arXiv:2211.12219. arXiv Preprint; 2022. 9 p. DOI: 10. 48550/arXiv.2211.12219.
- Amiri M, Jafari AH, Makkiabadi B, Nazari S. Recognizing intertwined patterns using a network of spiking pattern recognition platforms. Scientific Reports. 2022;12(1):19436. DOI: 10.1038/s41598- 022-23320-8.
- Timcheck J, Shrestha SB, Rubin DBD, Kupryjanow A, Orchard G, Pindor L, Shea T, Davies M. The intel neuromorphic DNS challenge. arXiv:2303.09503. arXiv Preprint; 2023. 13 p. DOI: 10. 48550/arXiv.2303.09503.
- McFee B, Raffel C, Liang D, Ellis DPW, McVicar M, Battenberg E, Nieto O. librosa: Audio and music signal analysis in python. In: Proceedings of the 14th Python in Science Conference. SciPy; 2015. P. 18–24. DOI: 10.25080/Majora-7b98e3ed-003.
- Morrison A, Diesmann M, Gerstner W. Phenomenological models of synaptic plasticity based on spike timing. Biological Cybernetics. 2008;98(6):459–478. DOI: 10.1007/s00422-008-0233-1.
- Bergstra J, Yamins D, Cox DD. Hyperopt: a Python library for model selection and hyperparameter optimization. In: Proceedings of the 12th Python in Science Conference. SciPy; 2013. P. 13–19.
- 367 просмотров