Как использовать pickle для более быстрой загрузки данных? - PullRequest
0 голосов
/ 08 мая 2020

Привет, я сохранил свои данные, используя пакет pickle в python. Я сделал это так:

save=open('slidings.txt','wb')
pickle.dump(slidings,save)
save.close()

Формат данных такой:

slidings=[dic,dic,...,dic]
where dic={key1:value1, key2:value2,...}
where value is a list.

Полученный txt-файл составляет 18 ГБ, что слишком велико для загрузки. Я использую следующий код для загрузки своих данных:

import pickle
df=open('slidings.txt','rb')
slidings=pickle.load(df)
df.close()

Но это очень медленно. Есть ли альтернативный способ сделать это? Будь то альтернативный способ сохранить данные или загрузить данные. Любые предложения будут высоко ценится! Спасибо.

...