import pandas as pd
data1={'id':['a','b','c','d'],
'value':[2,3,22,5]}
data2={'id':['c','a'],
'value':[22,2]}
df1=pd.DataFrame(data1)
df2=pd.DataFrame(data2)
finaldf=pd.concat([df1,df2],ignore_index=True)
Вывод после конкатата
id value
0 a 2
1 b 3
2 c 22
3 d 5
4 c 22
5 a 2
Окончательный вывод
finaldf.drop_duplicates()
id value
0 a 2
1 b 3
2 c 22
3 d 5