Как получить лучшую модель после ранней остановки, не сохраняя ее в файл?

Question

Если обучение прекращено досрочно, лучшая модель сохраняется в файле best_model.h5.Но загрузка модели из файла занимает относительно много времени.Есть ли способ получить лучшую модель другим способом?

Например, путем создания файла в памяти и чтения его из памяти.Или поместив каждую модель для каждой эпохи в список и получив лучшую модель из списка, используя EarlyStopping.stopped_epoch для доступа к соответствующему элементу списка.

import numpy as np
import pandas as pd
from keras.models import Sequential
from keras.layers import Dense
from keras.callbacks import EarlyStopping, ModelCheckpoint
from keras.models import load_model
from sklearn.model_selection import train_test_split

df = pd.DataFrame(np.random.randint(0,100,size=(1000, 3))/100, columns=['x_1', 'x_2','y'])
x_train, x_test, y_train, y_test = train_test_split(df[['x_1', 'x_2']], df[['y']], test_size=0.2, random_state=0)
x_train, x_val, y_train, y_val = train_test_split(x_train, y_train, test_size=0.2, random_state=0)

callbacks = [EarlyStopping(monitor='val_loss', patience=2),
             ModelCheckpoint(filepath='best_model.h5', monitor='val_loss', save_best_only=True)]

model = Sequential()
model.add(Dense(units=1, activation='linear', input_dim=2))
model.add(Dense(units=1))
model.compile(loss='mean_squared_error',optimizer='adam',metrics=['mean_absolute_error', 'mean_squared_error'])
model.fit(x_train, y_train, epochs=100, batch_size=32, callbacks=callbacks, validation_data=(x_val, y_val))

model = load_model('best_model.h5')

print(model.evaluate(x_test, y_test, batch_size=32))

Answer 1

Вам необходимо сохранить текущее состояние модели в какой-то момент, потому что дальнейшее обучение изменит это состояние.

Если вы не собираетесь сохранять (самый простой вариант с ModelCheckpoint), то вам нужен пользовательский обратный вызов, который выполняет stored_weights = model.get_weights().

Опция 1

Вы можете попробовать использовать save_weights_only=True в ModelCheckpoint и более поздних версиях, с той же моделью используйте model.load_weights(path).Это не создаст новую модель, только загрузит веса.

Вариант 2

Если даже вы думаете, что это слишком медленно, вы можете создать свой собственный обратный вызов и использовать оперативную память для хранения весов.:

from keras.callbacks import LambdaCallback

bestLoss = 1000000000000000000
bestWeights = None

def storeWeights(e, logs):
    if logs['val_loss'] < bestLoss:
        bestLoss = logs['val_loss']
        bestWeights = model.get_weights()

callbacks = [EarlyStopping(monitor='val_loss', patience=2), 
             LambdaCallback(on_epoch_end=storeWeights)]

#train here
model.fit...........................
#finished train

model.set_weights(bestWeights)