Оптимизация скрытого слоя классификатора Sklearn MLP (RandomizedSearchCV)

Question

У меня настроены следующие параметры:

parameter_space = {
    'hidden_layer_sizes': [(sp_randint.rvs(100,600,1),sp_randint.rvs(100,600,1),), (sp_randint.rvs(100,600,1),)],
    'activation': ['tanh', 'relu', 'logistic'],
    'solver': ['sgd', 'adam', 'lbfgs'],
    'alpha': stats.uniform(0.0001, 0.9),
    'learning_rate': ['constant','adaptive']}

Все параметры, кроме hidden_layer_sizes, работают должным образом.

В настоящее время значения hidden_layer_sizes random предварительно рассчитаны и остаются одинаковыми на всех итерациях.

Существует ли способ получить 1 или 2 слоя MLP с нейронами скрытого слоя между 100 и 600 выбраннымислучайно для каждой итерации RandomizedSearchCV.

Есть идеи / другие советы?

Answer 1

RandomizedSearchCV использует ParameterSampler , который предполагает наличие списка случайных выборок или объекта с атрибутом rvs().Вы можете имитировать этот объект с помощью

class RandIntMatrix(object):
    def __init__(self, low, high, shape=(1)):
        self.low = low
        self.high = high
        self.shape = shape

    def rvs(self, random_state=None):
        np.random.seed(random_state)
        return np.random.randint(self.low, self.high, self.shape)

print (RandIntMatrix(100, 600, 3).rvs())  # [ 506 124 310]