Панды: получить подмножество данных без цикла

Question

Я пытаюсь разделить данные поезда для обучения / тестирования разделения на основе customer_id (несколько строк в кадре данных могут иметь одинаковые customer_id), и мне интересно, можем ли мы сделать build df_test и drop from df_train секции без цикла более родным для панд?

#Split data for train / test split

df_train = pd.read_csv('data/train.csv')
print('df_train.shape', df_train.shape)

df_train = df_train.replace(np.nan, 'nan', regex=True)

train_customer_id_set = df_train.customer_id.unique()
print('len(train_customer_id_set)', len(train_customer_id_set))

#Split train data to train/test by customer_id
n = 1000
test_customer_id_set = list(train_customer_id_set)
random.shuffle(test_customer_id_set)
test_customer_id_set = test_customer_id_set[:n]

#Q: how to do it without cycle?

#build df_test
df_list = []
for customer_id in test_customer_id_set:
    df = df_train[df_train['customer_id']==customer_id]
    df_list.append(df)
df_test = pd.concat(df_list)

#drop from df_train
for customer_id in test_customer_id_set:
    df_train = df_train.drop(df_train[df_train.customer_id==customer_id].index)

train_customer_id_set = df_train.customer_id.unique()

print('df_train.shape', df_train.shape)
print('df_test.shape', df_test.shape)

Answer 1

После того, как вы вычислили test_customer_id_set, кажется, что то, что вы делаете, эквивалентно:

df_test = df_train[df_train.customer_id.isin(test_customer_id_set)]
df_train = df_train[~df_train.customer_id.isin(test_customer_id_set)]