Как инициализировать веса в модели тензорного потока CNN?

Question

Я строю модель CNN на основе этого учебника: https://www.tensorflow.org/tutorials/layers

Однако я подозреваю, что моя модель чувствительна к инициализации весов, потому что иногда модель может работать, но иногда выдает ошибку NAN.Следовательно, я хотел бы инициализировать веса по своему выбору.Как я могу инициализировать веса в этом случае？

Answer 1

Как правило, вам нужно определить инициализатор при определении модели.Для постоянных оценщиков у вас нет доступа к их инициализатору.Если вы определяете свой собственный model_fn, вы можете использовать kernel_initializer и bias_initializer для tf.layers.conv2d и tf.layers.dense.Tensorflow имеет модуль tf.initializers , который позволяет вам определять свой собственный инициализатор.Например, если вы имеете в виду конкретные значения, вы можете использовать tf.constant_initializer(init_value) для инициализации весов по вашему выбору.