Синтаксическая проблема Hyperas при использовании выбора - PullRequest
Новая
       25

Синтаксическая проблема Hyperas при использовании выбора

0 голосов
/ 10 марта 2019

Я новичок в использовании Hyperas и столкнулся с проблемой синтаксиса.Я хочу оптимизировать параметры моего LSTM в кератах, для этого я использую гиперы, чтобы зациклить такие параметры, как частота выпадения или количество нейронов, а также выбирать между различными архитектурами.Поэтому мой код выглядит следующим образом: 

def building_model(x_train, y_train, x_test, y_test):
    model = Sequential()
    model.add(LSTM({{choice([100, 200, 300, 400, 500])}}, input_shape=(48,  6), return_sequences=True))
    model.add({{choice([Dropout({{uniform(0, 1)}}), BatchNormalization()])}})
    model.add(LSTM({{choice([100, 200, 300, 400, 500])}}))
    model.add({{choice([Dropout({{uniform(0, 1)}}), BatchNormalization()])}})
    if {{choice(['three', 'four'])}} == 'four':
        model.add({{choice([Dense({{choice([100, 200, 300, 400, 500])}}), LSTM({{choice([100, 200, 300, 400, 500])}})])}})
        model.add({{choice([Dropout({{uniform(0, 1)}}), BatchNormalization()])}})
    model.add(Dense({{choice([100, 200, 300, 400, 500])}}))
    model.add(Dense(24, activation="linear"))
    model.compile(loss="mse", optimizer={{choice(['rmsprop', 'adam', 'sgd', 'nadam'])}}, metrics=['accuracy']) 
    result = model.fit(x_train, y_train, epochs=epochs, batch_size={{choice([12, 24, 64, 128])}}, validation_split=0.1, verbose=2, callbacks=[early_stopping, checkpointer], save_dir="saved_models")
    validation_acc = np.amax(result.history['val_acc']) 
    print('Best validation acc of epoch:', validation_acc)

return {'accuracy': validation_acc, 'status': STATUS_OK, 'model': model}

И я использую функцию optim.minimize для его запуска: 

best_run, best_model = optim.minimize(model=building_model,
                                      data=data,
                                      algo=tpe.suggest,
                                      max_evals=10,
                                      trials=Trials())

Но затем я сталкиваюсь с проблемой, когда Hyperas создаетСама модель создает следующий код: 

model = Sequential()
    model.add(LSTM(space['LSTM'], input_shape=(48, 6), return_sequences=True))
    model.add(Dropout(space['Dropout']))
    model.add(LSTM(space['LSTM_1'], return_sequences=True))
    model.add(space['add']), BatchNormalization()])}})
    model.add(LSTM(space['LSTM_2']))
    model.add(space['add_1']), BatchNormalization()])}})
    if space['add_2'] == 'four':
        model.add(space['add_3']), LSTM(space['LSTM_3'])])}})
        model.add(space['add_4']), BatchNormalization()])}})
    model.add(Dense(space['LSTM_4']))
    model.add(Dense(24, activation="linear"))

с синтаксической ошибкой в ​​строках 5, 7, 9 и 10. Есть идеи, как это изменить?

1 Ответ

0 голосов
/ 07 мая 2019

Я думаю, что правильный синтаксис для выпадающего слоя: 

model.add(Dropout({{uniform(0, 1)}}))
model.add(BatchNormalization())

Обратите внимание, что тип слоя, такой как LSTM или Dropout, находится снаружи.

...