Если вы хотите сначала выполнить сортировку, а затем сохранить только одну строку для каждой уникальной комбинации полей, по которым вы сортируете, вы можете обойтись только с помощью утилиты unix sort.
В качестве примера рассмотрим следующий файл с именем some_data
a;c;4
a;b;9
a;b;6
Мы хотим отсортировать по первому и второму полям и оставить третье поле в покое, поэтому мы делаем устойчивую сортировку, например:
$ sort -k1,1 -k2,2 -t';' --stable some_data
, что дает
a;b;9
a;b;6
a;c;4
Теперь скажем, что мы хотели бы сохранить только уникальные комбинации первого и второго столбца. Тогда мы сделаем это:
$ sort -k1,1 -k2,2 -t';' --stable --unique some_data
что дает
a;b;9
a;c;4