Concat много данных с pandas python - PullRequest
0 голосов
/ 27 января 2020

У меня 12 датафреймов за 12 разных месяцев года. Я хочу объединить их в один, чтобы сделать мою жизнь намного проще. Хотя я могу читать все csvs без проблем оперативной памяти, я не могу их объединить. (Я использую Google Colab). Я попытался:

import pandas as pd


df = pd.concat([read_csv(f) for f in names_list])

read_csv - это функция, которая получает имя csv, предварительно обрабатывая фрейм данных и в конце возвращает фрейм данных. Когда я делаю это, я получаю: tcmallo c: большой алло c. Я также попробовал другое решение, которое я видел здесь, где он объединяет все CSV в один и затем читает их, но я также получаю сообщение об ошибке. Есть ли способ «разбить» мой concat на части, так что если read 3 csvs и aply concat function, то освободите ram и продолжите делать это? Очень странно, что хотя я могу хранить все 12 кадров данных в df1, df2 ... et c, я не могу найти способ сохранить все их в одном df. Я думаю, что проблема не в том, что я спрашиваю больше оперативной памяти, чем я имею, а в том, что я спрашиваю много оперативной памяти сразу! Заранее спасибо.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...