Почему списки Python могут содержать больше данных, чем числовые массивы? - PullRequest
0 голосов
/ 02 марта 2019

Извините, я чувствую, что это может быть основной вопрос, но я не нашел никаких "решений" для этого.

Я заполняю список python большим количеством данных и, наконец, хочу преобразовать его в numpy.array для дальнейшей обработки.

Однако, когда я вызываю numpy.asarray(my_list),Я получаю ошибку нехватки памяти.Почему это происходит?Это потому, что numpy.array объекты хранятся в последовательных блоках памяти, а для этого недостаточно места для памяти?

Как мне тогда лучше всего обрабатывать такие большие объемы данных?Я думаю, numpy определенно является подходящим способом, поэтому мне немного любопытно, что я могу обрабатывать такие объемы с помощью простых list объектов, но не с моим текущим подходом numpy.

Опять повторяюмой самый важный вопрос: как мне лучше всего обрабатывать данные, которые вписываются в python lists (так что я предполагаю, что в целом они все еще умещаются в моей памяти), но не могут быть преобразованы в numpy.array?

Спасибо!

1 Ответ

0 голосов
/ 02 марта 2019

Выделите память для пустого массива и никогда не создавайте список в первую очередь.

memmap не должен быть необходим, так как исходный список помещается в память.

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...