|
Математические основы информатики и программирования
Информационная ёмкость сети Хопфилда с квантованными весами
М. С. Тарков Институт физики полупроводников им. А. В. Ржанова СО РАН, г. Новосибирск, Россия
Аннотация:
Использование бинарных и многоуровневых мемристоров при аппаратной реализации нейронных сетей вызывает необходимость квантования их весовых коэффициентов. Исследуется влияние числа уровней квантования весов сети Хопфилда на её информационную ёмкость и устойчивость к искажениям входных данных. Показано, что при числе градаций весов порядка 20 ёмкость сети Хопфилда–Хебба с дискретными весами приближается к ёмкости её варианта с непрерывными весами. Для проекционной сети Хопфилда подобного результата удаётся достичь лишь при числе градаций порядка 100. Эксперименты показали, что: 1) бинарные мемристоры следует использовать в сетях Хопфилда–Хебба, редуцированных путём обнуления всех весов, модули которых строго меньше максимального для данной строки матрицы весов; 2) в проекционных сетях Хопфилда с дискретными весами следует использовать многоуровневые мемристоры с числом градаций (уровней) значительно больше двух, причём конкретное число уровней зависит от размерности хранимых эталонных векторов, их конкретного набора и допустимого уровня шума во входных данных.
Ключевые слова:
сети Хопфилда–Хебба, проекционные сети Хопфилда, информационная ёмкость, квантование весов, бинарные и многоуровневые мемристоры.
Образец цитирования:
М. С. Тарков, “Информационная ёмкость сети Хопфилда с квантованными весами”, ПДМ, 2019, № 45, 97–103
Образцы ссылок на эту страницу:
https://www.mathnet.ru/rus/pdm676 https://www.mathnet.ru/rus/pdm/y2019/i3/p97
|
|