Предполагая, что все 2-ые столбцы имеют одинаковую длину, вы можете просто перебрать все файлы. Прочитайте их, сохраните 2-й столбец в памяти и постройте новый df по пути.
filenames = ['test.csv', ....]
new_df = pd.DataFrame()
for filename in filenames:
df = pd.read_csv(filename)
second_column = df.iloc[:, 1]
new_df[f'SECOND_COLUMN_{filename.upper()}'] = second_column
del(df)
new_df.to_csv('new_csv.csv', index=False)