Давайте создадим фиктивный фрейм данных, в котором два столбца с разными именами дублируются.
import pandas as pd
df=pd.DataFrame({
'col1':[1,2,3,'b',5,6],
'col2':[11,'a',13,14,15,16],
'col3':[1,2,3,'b',5,6],
})
col1 col2 col3
0 1 11 1
1 2 a 2
2 3 13 3
3 b 14 b
4 5 15 5
5 6 16 6
Чтобы удалить повторяющиеся столбцы, сначала выполните транспонирование, затем примените drop_duplicate и снова выполните транспонирование
df.T.drop_duplicates().T
результат
col1 col2
0 1 11
1 2 a
2 3 13
3 b 14
4 5 15
5 6 16