Найти ближайшее значение из нескольких столбцов и добавить в новый столбец в Python

Question

У меня есть следующий фрейм данных:

import pandas as pd
import numpy as np
data = {
    "index": [1, 2, 3, 4, 5],
    "A": [11, 17, 5, 9, 10],
    "B": [8, 6, 16, 17, 9],
    "C": [10, 17, 12, 13, 15],
    "target": [12, 13, 8, 6, 12]
}
df = pd.DataFrame.from_dict(data)
print(df)

Я хотел бы найти ближайшие значения для цели столбца в столбцах A, B и C и поместить эти значения в результат столбца.Насколько я знаю, мне нужно использовать функции abs () и argmin ().Вот результат, который я ожидал:

     index   A      B     C    target  result
0      1     11     8    10      12      11
1      2     17     6    17      13      17
2      3     5     16    12       8       5
3      4     9     17    13       6       9
4      5     10     9    15      12      10

Вот решение и ссылки, которые я нашел из stackoverflow, которые могут помочь:

(df.assign(closest=df.apply(lambda x: x.abs().argmin(), axis='columns'))
 .apply(lambda x: x[x['target']], axis='columns'))

Определение ближайшего значения в столбцедля каждого фильтра с использованием панд https://codereview.stackexchange.com/questions/204549/lookup-closest-value-in-pandas-dataframe

Answer 1

Вы можете использовать NumPy позиционное целочисленное индексирование с argmin:

col_lst = list('ABC')
col_indices = df[col_lst].sub(df['target'], axis=0).abs().values.argmin(1)
df['result'] = df[col_lst].values[np.arange(len(df.index)), col_indices]

Или вы можете lookup метки столбцов с idxmin:

col_labels = df[list('ABC')].sub(df['target'], axis=0).abs().idxmin(1)
df['result'] = df.lookup(df.index, col_labels)

print(df)

   index   A   B   C  target  result
0      1  11   8  10      12      11
1      2  17   6  17      13      17
2      3   5  16  12       8       5
3      4   9  17  13       6       9
4      5  10   9  15      12      10

Принцип тот же, но для больших фреймов данных NumPy может оказаться более эффективным:

# Python 3.7, NumPy 1.14.3, Pandas 0.23.0

def np_lookup(df):
    col_indices = df[list('ABC')].sub(df['target'], axis=0).abs().values.argmin(1)
    df['result'] = df[list('ABC')].values[np.arange(len(df.index)), col_indices]
    return df

def pd_lookup(df):
    col_labels = df[list('ABC')].sub(df['target'], axis=0).abs().idxmin(1)
    df['result'] = df.lookup(df.index, col_labels)
    return df

df = pd.concat([df]*10**4, ignore_index=True)

assert df.pipe(pd_lookup).equals(df.pipe(np_lookup))

%timeit df.pipe(np_lookup)  # 7.09 ms
%timeit df.pipe(pd_lookup)  # 67.8 ms

Answer 2

Вычтите «цель» из других столбцов, используйте idxmin, чтобы получить столбец минимальной разницы, затем lookup:

idx = df.drop(['index', 'target'], 1).sub(df.target, axis=0).abs().idxmin(1)
df['result'] = df.lookup(df.index, idx)
df
   index   A   B   C  target  result
0      1  11   8  10      12      11
1      2  17   6  17      13      17
2      3   5  16  12       8       5
3      4   9  17  13       6       9
4      5  10   9  15      12      10

Общее решение, обрабатывающее строковые столбцы и NaN (вдольс вашим требованием заменить значения NaN в target на значение в "v1"):

df2 = df.select_dtypes(include=[np.number])
idx = df2.drop(['index', 'target'], 1).sub(df2.target, axis=0).abs().idxmin(1)
df['result'] = df2.lookup(df2.index, idx.fillna('v1'))

---

Вы также можете индексировать в базовый массив NumPy, получая целочисленные индексы, используя df.columns.get_indexer.

# idx = df[['A', 'B', 'C']].sub(df.target, axis=0).abs().idxmin(1)
idx = df.drop(['index', 'target'], 1).sub(df.target, axis=0).abs().idxmin(1)
# df['result'] = df.values[np.arange(len(df)), df.columns.get_indexer(idx)]
df['result'] = df.values[df.index, df.columns.get_indexer(idx)]

df
   index   A   B   C  target  result
0      1  11   8  10      12      11
1      2  17   6  17      13      17
2      3   5  16  12       8       5
3      4   9  17  13       6       9
4      5  10   9  15      12      10