Учитывая, что основной проблемой является неиссякаемое свойство списков, здесь возможен обходной путь:
>>> import pandas as pd
>>> my_list = [[8, [16, 32], [32, 16, 8], 0],
[16, [16, 32], [32, 16, 8], 0],
[16, [32, 64], [32, 16, 8], 0],
[8, [16, 32], [32, 16, 8], 0]]
>>> l = [sum([[e] if type(e) == int else e for e in s], []) for s in my_list]
>>> l
[[8, 16, 32, 32, 16, 8, 0],
[16, 16, 32, 32, 16, 8, 0],
[16, 32, 64, 32, 16, 8, 0],
[8, 16, 32, 32, 16, 8, 0]]
>>> df = pd.DataFrame(l)
>>> result = df.groupby(df.columns.tolist()).size()
>>> most_freq, cnt = result.idxmax(), result.max()
>>> most_freq
(8, 16, 32, 32, 16, 8, 0)
>>> cnt
2