Невозможно клонировать объект - PullRequest
Новая
       4

Невозможно клонировать объект

1 голос
/ 15 января 2020

Это относится к TF 2.0.

Ниже приведен мой код, который выполняет GridSearch наряду с перекрестной проверкой, используя sklearn.model_selection.GridSearchCV для набора данных mnist, который прекрасно работает. 

# Build Function to create model, required by KerasClassifier

    def create_model(optimizer_val='RMSprop',hidden_layer_size=16,activation_fn='relu',dropout_rate=0.1,regularization_fn=tf.keras.regularizers.l1(0.001),kernel_initializer_fn=tf.keras.initializers.glorot_uniform,bias_initializer_fn=tf.keras.initializers.zeros):
        model = tf.keras.models.Sequential([
        tf.keras.layers.Flatten(input_shape=(28, 28)),    
        tf.keras.layers.Dense(units=hidden_layer_size, activation=activation_fn,kernel_regularizer=regularization_fn,kernel_initializer=kernel_initializer_fn,bias_initializer=bias_initializer_fn), 
        tf.keras.layers.Dropout(dropout_rate),
        tf.keras.layers.Dense(units=hidden_layer_size,activation='softmax',kernel_regularizer=regularization_fn,kernel_initializer=kernel_initializer_fn,bias_initializer=bias_initializer_fn) 
          ])
        optimizer_val_final=optimizer_val
        model.compile(optimizer=optimizer_val, loss='sparse_categorical_crossentropy', metrics=['accuracy'])
        return model

    #Create the model with the wrapper
    model = tf.keras.wrappers.scikit_learn.KerasClassifier(build_fn=create_model, epochs=100, batch_size=10, verbose=2)

    #Initialize the parameter grid
    nn_param_grid = {
        'epochs': [10],     
        'batch_size':[128],
        'optimizer_val': ['Adam','SGD'],
        'hidden_layer_size': [128],
        'activation_fn': ['relu'],     
        'dropout_rate': [0.2],    
        'regularization_fn':['l1','l2','L1L2'],    
        'kernel_initializer_fn':['glorot_normal', 'glorot_uniform'],    
        'bias_initializer_fn':[tf.keras.initializers.zeros]    
    }
    #Perform GridSearchCV
    grid = GridSearchCV(estimator=model, param_grid=nn_param_grid, verbose=2, cv=3,scoring=precision_custom,return_train_score=False,n_jobs=-1) 
    grid_result = grid.fit(x_train, y_train)

Моя идея состоит в том, чтобы передать разные оптимизаторы с разными скоростями обучения, скажем Адам, для уровней обучения 0,1,0,01 и 0,001. Я также хочу попробовать SGD с разными скоростями обучения и значениями импульса.

В этом случае, когда я прохожу 'optimizer_val': [tf.keras.optimizers.Adam(0.1)],, я получаю ошибку, как указано ниже: 

Cannot clone object <tensorflow.python.keras.wrappers.scikit_learn.KerasClassifier object at 0x7fe08b210e10>, as the constructor either does not set or modifies parameter optimizer_val

Пожалуйста посоветуйте, как мне исправить эту ошибку.

1 Ответ

2 голосов
/ 03 марта 2020

Это ошибка склеарн. Вы должны уменьшить версию sklearn: 

conda install scikit-learn==0.21.2

Все нормально!

...