Могу ли я прочитать 1 терабайтный файл с pandas? - PullRequest
0 голосов
/ 06 августа 2020

Могу ли я прочитать файл csv размером 1 терабайт, используя pandas ?. Например, мы можем использовать аргумент chunksize в read_csv / excel / sql.

Например, если я запустил этот код для файла размером 1 ТБ:

df = pd.read_csv('my_terabyte_file.csv', chunksize = 10**6)

Будет ли это работать? Или мне нужно использовать другие инструменты, такие как искра или мазок?

...