Превратить квадратную форму расстояния в длинный формат в python - PullRequest
Новая
       7

Превратить квадратную форму расстояния в длинный формат в python

0 голосов
/ 22 мая 2018

Код: 

import numpy as np
import pandas as pd
from scipy.spatial.distance import pdist, squareform

ids = ['1', '2', '3']
points=[(0,0), (1,1), (3,3)]
distances = pdist(np.array(points), metric='euclidean')
print(distances)
distance_matrix = squareform(distances)
print(distance_matrix)

печатает: 

[1.41421356 4.24264069 2.82842712]
[[0.         1.41421356 4.24264069]
 [1.41421356 0.         2.82842712]
 [4.24264069 2.82842712 0.        ]]

как ожидалось

Я хочу превратить это в длинный формат для записи в CSV, как в

id1,id2,distance
1,1,0
1,2,1.41421356
1,3,4.24264069
2,1,1.41421356
2,2,0
2,3,2.82842712

и т. Д. - как мне добиться максимальной эффективности?Использование панд является опцией

Ответы [ 2 ]

0 голосов
/ 22 мая 2018

Я бы предложил использовать indices_merged_arr_generic_using_cp -

Вспомогательная функция - 

import numpy as np
import functools

# https://stackoverflow.com/a/46135435/ by @unutbu
def indices_merged_arr_generic_using_cp(arr):
    """
    Based on cartesian_product
    http://stackoverflow.com/a/11146645/190597 (senderle)
    """
    shape = arr.shape
    arrays = [np.arange(s, dtype='int') for s in shape]
    broadcastable = np.ix_(*arrays)
    broadcasted = np.broadcast_arrays(*broadcastable)
    rows, cols = functools.reduce(np.multiply, broadcasted[0].shape), len(broadcasted)+1
    out = np.empty(rows * cols, dtype=arr.dtype)
    start, end = 0, rows
    for a in broadcasted:
        out[start:end] = a.reshape(-1)
        start, end = end, end + rows
    out[start:] = arr.flatten()
    return out.reshape(cols, rows).T

Использование - 

In [169]: out = indices_merged_arr_generic_using_cp(distance_matrix)

In [170]: np.savetxt('out.txt', out, fmt="%i,%i,%f")

In [171]: !cat out.txt
0,0,0.000000
0,1,1.414214
0,2,4.242641
1,0,1.414214
1,1,0.000000
1,2,2.828427
2,0,4.242641
2,1,2.828427
2,2,0.000000

Чтобы получить distance_matrix мы также можем использовать Scipy's cdist: cdist(points, points).Также есть пакет eucl_dist (заявление об отказе: я его автор), который содержит различные методы для вычисления евклидовых расстояний, которые намного более эффективны, чем SciPy's cdist, особенно для больших массивов.

0 голосов
/ 22 мая 2018

Использовать DataFrame конструктор с stack: 

df = pd.DataFrame(distance_matrix, index=ids, columns=ids).stack().reset_index()
df.columns=['id1','id2','distance']
print (df)
  id1 id2  distance
0   1   1  0.000000
1   1   2  1.414214
2   1   3  4.242641
3   2   1  1.414214
4   2   2  0.000000
5   2   3  2.828427
6   3   1  4.242641
7   3   2  2.828427
8   3   3  0.000000

Или DataFrame Конструктор с numpy.repeat, numpy.tile и ravel: 

df = pd.DataFrame({'id1':np.repeat(ids, len(ids)), 
                   'id2':np.tile(ids, len(ids)),
                   'dist':distance_matrix.ravel()})
print (df)
  id1 id2      dist
0   1   1  0.000000
1   1   2  1.414214
2   1   3  4.242641
3   2   1  1.414214
4   2   2  0.000000
5   2   3  2.828427
6   3   1  4.242641
7   3   2  2.828427
8   3   3  0.000000
...