У оптимизатора Адама есть fl aws при использовании с уменьшением веса. В 2018 году был предложен оптимизатор AdamW.
Существует ли какой-либо стандартный способ реализации AdamW в среде M XNet (реализация python)? Существует mxnet.optimizer.Adam
класс, но нет mxnet.optimizer.AdamW
один (проверено в mxnet-cu102==1.6.0
, mxnet==1.5.0
версиях пакета).
PS Я задавал эти вопросы на форуме M XNet и на сайте datascience.stackexchange.com , но безрезультатно.