cuDNN — библиотека, содержащая оптимизированные для GPU реализации сверточных и рекуррентных сетей, различных функций активации, алгоритма обратного распространения ошибки и т.п., что позволяет обучать нейронные сети на GPU в несколько раз быстрее, чем просто CUDA.
[Университет искусственного интеллекта: Словарь терминов. (Электронный ресурс). Режим доступа: http:// old.neural-university.ru›vocabulary-neural-netwoks/, свободный.]