Есть ли в tenorflow 2.0 альтернатива cudnnLSTM или cudNNGRU?

Question

CuDNNGRU в TensorFlow 1.0 действительно быстро. Но когда я перешел на TensorFlow 2.0, я не смог найти CuDNNGRU. Простой GRU действительно медленный в TensorFlow 2.0 Есть ли способ использовать CuDNNGRU в TensorFlow 2.0

Answer 1

Импортируемые реализации устарели - вместо этого LSTM и GRU по умолчанию будут CuDNNLSTM и CuDNNGRU, если будут выполнены все условия :

1. activation = 'tanh'
2. recurrent_activation = 'sigmoid'
3. recurrent_dropout = 0
4. unroll = False
5. use_bias = True
6. Входы, если замаскированные , строго правые
7. reset_after = True (только GRU)

---

Также убедитесь, что TensorFlow использует GPU:

import tensorflow as tf
from tensorflow.python.client import device_lib
print(device_lib.list_local_devices())
print('Default GPU Device: {}'.format(tf.test.gpu_device_name()))

---

Обновление : при работе с Colab при работе на Colab при запуске CuDNN возникает проблема; вместо этого попробуйте !pip install tensorflow==2.1.0.