Ошибка памяти при попытке преобразования с помощью IncrementalPCA из sklearn - PullRequest
0 голосов
/ 20 июня 2020

Я использовал al oop, чтобы подогнать обучающие пакеты в методе IncrementalPCA.

inc_pca = IncrementalPCA(n_components=154)

for train_batch in np.array_split(X_train,100):
    inc_pca.partial_fit(train_batch)

При попытке преобразовать данные все равно выдает ошибку памяти:

X_reduced = inc_pca.transform(X_train)

MemoryError: Unable to allocate 62.8 MiB for an array with shape (42000, 784) and data type float16

Я использовал IncrementalPCA, чтобы избежать этой ошибки, почему он не может преобразовать данные? Я думал, что для этой конкретной c причины будет использоваться IncrementalPCA, когда вы не можете загрузить все данные в память сразу. Может кто подскажет, почему не работает трансформация?

...