По данным Microsoft, CNTK включает автоматическое дифференцирование. Для лучшего понимания источника (который я успешно создал) я хотел бы знать, какие классы C ++ реализуют AD и как это реализовано в CNTK?
класс CNTK Function реализует AD (точнее, с помощью метода Gradients ).Нейронные сети представлены в виде нескольких Function композиций, таких как g (f (x)) .Затем производная функции g вычисляется относительно f следующим образом:
Function