Восстановите двоичные данные с помощью numpy из файла, который был сохранен с numpy сохранить - PullRequest
Новая
       8

Восстановите двоичные данные с помощью numpy из файла, который был сохранен с numpy сохранить

0 голосов
/ 10 января 2020

У меня есть огромный 3D-массив (float16), который был сохранен на диск с помощью numpy.save. Когда я загружаю его, он заполняет мою память, поэтому мне нужно читать его порциями и обрабатывать данные шаг за шагом. Но кажется, что данные читаются в другом порядке измерений, чем они были сохранены. Я подготовил следующий простой пример: 

import numpy as np

myArray = np.zeros((2, 5, 3))
content = np.arange(0,10).reshape((2, 5))
myArray[:,:,0] = content
myArray[:,:,1] = content*10
myArray[:,:,2] = content*100

np.save("myArray.npy", myArray.astype(np.float16))

myArray - это трехмерный массив с 2 строками, 5 столбцами и 3 срезами в направлении z. Обратите внимание, что вдоль z у меня есть числа от 0 до 9 в первом срезе, затем от 0 до 90 во втором и от 0 до 900 в третьем. Загрузка первого среза через np.load работает просто отлично, но когда я пытаюсь выполнить следующее, порядок нарушается: 

with open("myArray.npy", mode="rb") as fhandle:
    chunknp = np.fromfile(fhandle, count=10, dtype=np.float16)
    chunknp = np.resize(chunknp, new_shape=(2, 5, 1))

print(chunknp)
# Out: 
>> [[[2.630e+01]
  [2.133e+01]
  [1.700e+02]
  [5.960e-08]
  [7.033e-06]]

 [[2.922e-02]
  [1.380e+03]
  [9.535e+02]
  [2.908e-02]
  [8.255e-03]]]

Count=10 дает мне первые 10 элементов, которые, как я думал, были 2x5 из г == 0. Изменение размера до (2, 5, 1) не является существенным для проблемы, но это последний порядок, который мне нужен. Как мне извлечь это правильно?

1 Ответ

1 голос
/ 10 января 2020 
In [103]: myArray = np.zeros((2, 5, 3)) 
     ...: content = np.arange(0,10).reshape((2, 5)) 
     ...: myArray[:,:,0] = content 
     ...: myArray[:,:,1] = content*10 
     ...: myArray[:,:,2] = content*100 
     ...:                                                                                                 
In [104]: myArray                                                                                         
Out[104]: 
array([[[  0.,   0.,   0.],
        [  1.,  10., 100.],
        [  2.,  20., 200.],
        [  3.,  30., 300.],
        [  4.,  40., 400.]],

       [[  5.,  50., 500.],
        [  6.,  60., 600.],
        [  7.,  70., 700.],
        [  8.,  80., 800.],
        [  9.,  90., 900.]]])
In [105]: myArray.ravel()                                                                                 
Out[105]: 
array([  0.,   0.,   0.,   1.,  10., 100.,   2.,  20., 200.,   3.,  30.,
       300.,   4.,  40., 400.,   5.,  50., 500.,   6.,  60., 600.,   7.,
        70., 700.,   8.,  80., 800.,   9.,  90., 900.])

Использование tostring показывает тот же порядок: 

In [108]: np.frombuffer(myArray.tostring(), dtype=float)                                                  
Out[108]: 
array([  0.,   0.,   0.,   1.,  10., 100.,   2.,  20., 200.,   3.,  30.,
       300.,   4.,  40., 400.,   5.,  50., 500.,   6.,  60., 600.,   7.,
        70., 700.,   8.,  80., 800.,   9.,  90., 900.])

Чтобы выбрать последовательный фрагмент сохраненных данных, индексируйте по первому измерению: 

In [112]: myArray[0,:,:]                                                                                  
Out[112]: 
array([[  0.,   0.,   0.],
       [  1.,  10., 100.],
       [  2.,  20., 200.],
       [  3.,  30., 300.],
       [  4.,  40., 400.]])

Индексирование при последнем обращении к значениям content, но они не хранятся в буфере данных myArray: 

In [113]: myArray[:,:,0]                                                                                  
Out[113]: 
array([[0., 1., 2., 3., 4.],
       [5., 6., 7., 8., 9.]])
...