Что такое optimizer.weights в tf.keras.optimizer ('fo')?

Question

Похоже, что он дает список переменных, которые относятся к тому, как работает оптимизатор, и я не должен беспокоиться об этом. Но , у меня есть подозрения, что это также касается вещей, которые я пытаюсь минимизировать, и переменных, которые я использую для этого. Это правда? Другими словами, безопасно ли использовать в моем NN только один оптимизатор с несколькими целевыми функциями? Или я должен создать отдельный оптимизатор для каждого?

Answer 1

Как правило, вы придерживаетесь одного оптимизатора.

Вы складываете все свои потери.

total_loss = loss1+loss2+lossN

Если вы считаете, что одна потеря больше другой, вы можете сопоставить их друг с другом:

total_loss = 0.01*unimportant+regular+10.0*low_rare_and_important

Использование нескольких оптимизаторов не предназначено.Это может привести к увеличению потребления памяти.Хотя вам строго запрещено иметь более одного.