Synthesis of a neural network for the implementation of the recursive least-squares method
Aleksandr Voevoda, Dmitry Olegovich Romannikov · Science Bulletin of the Novosibirsk State Technical University · 2018
В статье рассматривается синтез нейронной сети для решения задачи вычисления параметров P, K, статических объектов рекуррентным методом наименьших квадратов для скалярного случая.При этом структура нейронной сети получена из реализуемых соотношений, в которых каждая функция двух переменных аппроксимируется отдельной нейронной сетью.Для вычисления параметров K и P достаточно только аппроксимировать исходные соотношения, так как они сами зависят только от двух переменных (т.е. являются функциями двух переменных).Для вычисления параметра было необходимо представить исходное соотношение в виде функций двух переменных, а затем по отдельности построить нейронные сети для их аппроксимации и синтезировать итоговую нейронную сеть.Приведена структура синтезированной нейронной сети, основанная на использовании структуры для аппроксимации функции двух переменных, позволяющей рассчитать параметры нейронной сети и сумматоров, выполненных на нейронах.При этом часть связей является рекуррентной.Проведены эксперименты для подтверждения работы синтезированной нейронной сети для расчета заданных соотношений 1) при рассчитанных параметрах нейронной сети; 2) при параметрах нейронной сети, полученных путем обучения методом градиентного спуска обратного распространения ошибки для синтезированной структуры нейронной сети.Представлены графики, показывающие, что вычисленные с помощью синтезированной нейронной сети искомые параметры в достаточной степени соответствуют полученным в результате вычислений по исходным формулам значениям параметров в заданном диапазоне изменения водных переменных.Полученная нейронная сеть обладает такой же сходимостью, что и реализуемые соотношения.