РЕДАКТИРОВАТЬ : Ну, взорвать меня (предыдущий ответ удален)
Так как двойное вложение работает, я бы так и сделал (хотя частьэто очень избыточно с логической точки зрения)
DELETE
yourTable
FROM
yourTable
INNER JOIN
(SELECT * FROM (SELECT same_as_row FROM yourTable GROUP BY same_as_row)) as lookup
ON lookup.same_as_row = yourTable.source_row
WHERE
source_row > same_as_row