Метод градиентного спуска – нахождение локального экстремума (минимума или максимума) функции путем движения вдоль градиента в направлении наискорейшего спуска, задаваемого антиградиентом.
[Воронина, В. В. Теория и практика машинного обучения: учебное пособие / В. В. Воронина, А. В. Михеев, Н. Г. Ярушкина, К. В. Святов. – Ульяновск: УлГТУ, 2017. – 290 с.]
Метод градиентного спуска — оптимизационный алгоритм для нахождения локального минимума функции, который изменяет все веса сети на значение пропорциональное вкладу данного веса в ошибку (в настоящее время используется модификация метода SGD – стохастический градиентный спуск).
[Университет искусственного интеллекта. Словарь терминов. (Электронный ресурс). Режим доступа: http:// old.neural-university.ru›vocabulary-neural-netwoks/, свободный.]