Спуск стохастический градиентный (SGD) — это алгоритм оптимизации, используемый для обновления параметров модели путем выполнения небольших шагов в направлении отрицательного градиента функции потерь. Пример: SGD используется в нейронных сетях, логистической регрессии и линейной регрессии.
[50 терминов искусственного интеллекта. (Электронный ресурс). Режим доступа: http:// pudie.ru›articles/704343/, свободный]