Динамическое решение - столбцы строк объединяются, а числовые значения преобразуются в списки с GroupBy.agg
:
f = lambda x: x.tolist() if np.issubdtype(x.dtype, np.number) else ','.join(x)
#similar for test strings - https://stackoverflow.com/a/37727662
#f = lambda x: ','.join(x) if np.issubdtype(x.dtype, np.flexible) else x.tolist()
df1 = df.groupby('D').agg(f).reset_index().reindex(columns=df.columns)
print (df1)
A B C D
0 [1, 4, 5, 2] one,four,five,two [100, 400, 500, 200] value
Другим решением является указание каждой функции отдельно для каждого столбца:
df2 = (df.groupby('D')
.agg({'A': lambda x: x.tolist(), 'B': ','.join, 'C':lambda x: x.tolist()})
.reset_index()
.reindex(columns=df.columns))
print (df2)
A B C D
0 [1, 4, 5, 2] one,four,five,two [100, 400, 500, 200] value