Общим решением для подсчета повторений является collection.Counter :
from collections import Counter
a = [[10, 15, 17], [20, 21, 27], [10, 15, 17], [21, 27, 28], [21, 27, 28], [5, 10, 15], [15, 17, 20]]
# count duplicates
counts = Counter(map(tuple, a))
# find the maximum count (the values of counts are the duplicate count)
maximum_count = max(counts.values())
# filter and convert back to list
result = [list(e) for e, count in counts.items() if count == maximum_count]
print(result)
Output
[[10, 15, 17], [21, 27, 28]]
В вашем случае, в частности,так как элементы списка являются списком, вам необходимо преобразовать их в кортежи (чтобы сделать их хешируемыми), а затем просто отфильтровать список и сохранить элементы с максимальным количеством.