Сглаживание меток в PyTorch

Question

Я строю модель классификации ResNet-18 для набора данных Stanford Cars с использованием трансферного обучения.Я хотел бы реализовать сглаживание меток , чтобы оштрафовать чрезмерно уверенные прогнозы и улучшить обобщение.

TensorFlow имеет простой аргумент ключевого слова в CrossEntropyLoss .Кто-нибудь создал подобную функцию для PyTorch, с которой я мог бы подключить и играть?

Answer 1

Ничего из того, что я знаю.

Вот два примера реализации PyTorch:

• LabelSmoothingLoss module в среде OpenNMT для машиныперевод

• attention-is-all-you-need-pytorch, повторная реализация Google Внимание - все, что вам нужно, бумага