В этом случае вы можете сначала округлить прогнозируемое значение y. Для округления до ближайшего числа вы можете использовать np.round (), для округления до следующего числа вы можете использовать np.ceil () или для округления до. Предыдущее число вы можете использовать np.floor ().
И затем вы можете вычислить свое значение rmse.
y_pred=model.predict(x_test)
y_pred=np.rint(y_pred)
Округлить это значение, используя один из вышеуказанных методов, а затем вычислить окончательное Значение rmse
rmse=np.sqrt(np.mean((y_test-y_pred)**2))
помните, что при округлении значений они не округляются на месте. Вы должны хранить их явно.