ImportError: нет ошибки модуля с именем "Forgot_mult_cuda" при использовании модели языка с предварительной подготовкой на основе QRNN

Question

Я пытаюсь использовать кодировщик на основе QRNN для классификации текста путем настройки предварительно обученного LM QRNN.

Вот конфигурация qrnn

emb_sz:int = 400
nh: int = 1550
nl: int = 3

qrnn_config = copy.deepcopy(awd_lstm_lm_config)
dps = dict(output_p=0.25, hidden_p=0.1, input_p=0.2, embed_p=0.02, weight_p=0.15)
qrnn_config.update({'emb_sz':emb_sz, 'n_hid':nh, 'n_layers':nl, 'pad_token':1, 'qrnn':True})
qrnn_config

Я передаю конфигурацию lm_learner

lm_learner = language_model_learner(data_lm, AWD_LSTM, config=qrnn_config, pretrained=False,drop_mult=.1,pretrained_fnames=(pretrained_lm_fname,pretrained_itos_fname))

Что я получаю:

ImportError: No module named 'forget_mult_cuda'

Fast-ai версия: '1.0.51.dev0'

Answer 1

Используйте это для обновления QRnn до true

языковой модели

config = awd_lstm_lm_config.copy()
config['qrrn']=True

Классификационной модели

config = awd_lstm_clas_config.copy()
config['qrrn']=True

config Вам не нужно ничего копировать из исходного кода.

Answer 2

Попробуйте очистить наличные, используя

gc.collect()
torch.cuda.empty_cache()