Как удалить остальные строки с одинаковым идентификатором, начиная с первого дубликата? - PullRequest
Новая
       69

Как удалить остальные строки с одинаковым идентификатором, начиная с первого дубликата?

5 голосов
/ 08 мая 2019

У меня есть следующая структура таблицы DataTable: каждый столбец имеет тип данных int, RowID - это столбец идентификаторов и первичный ключ.LinkID - это внешний ключ и ссылки на строки другой таблицы. 

RowID   LinkID   Order  Data    DataSpecifier
1       120      1      1       1
2       120      2      1       3
3       120      3      1       10
4       120      4      1       13
5       120      5      1       10
6       120      6      1       13
7       371      1      6       2
8       371      2      3       5
9       371      3      8       1
10      371      4      10      1
11      371      5      7       2
12      371      6      3       3
13      371      7      7       2
14      371      8      17      4
.................................
.................................

Я пытаюсь выполнить запрос, который изменяет каждый пакет LinkID следующим образом:

  • Возьмите все строки с одинаковыми LinkID (например, первая партия - это первые 6 строк здесь)
  • Упорядочите их по столбцу Order
  • Посмотрите на Data иDataSpecifier столбцы как одна единица сравнения (их можно рассматривать как один столбец, называемый dataunit):
    • Хранить столько строк, начиная с Order 1 и далее, до тех пор, пока дубликат dataunit не будет получен
    • Удалить каждую строку с этого первого дубликата и далее для этого LinkID

То же самое для LinkID 120:

  • Сортируйте партию (уже отсортирована здесь, но все равно следует это сделать)
  • Начните смотреть сверху (так что Order=1 здесь), продолжайте, пока не увидите дубликат.
  • Остановка на первом дубликате Order = 5 (dataunit 1 10 уже был замечен).
  • Удалите все, что имеет LinkID=120 AND Order>=5

После аналогичного процесса для LinkID 371 (и все остальные LinkID в таблице), обработанная таблица будет выглядеть следующим образом: 

RowID   LinkID   Order  Data    DataSpecifier
1       120      1      1       1
2       120      2      1       3
3       120      3      1       10
4       120      4      1       13
7       371      1      6       2
8       371      2      3       5
9       371      3      8       1
10      371      4      10      1
11      371      5      7       2
12      371      6      3       3
.................................
.................................

Я выполнил довольно много SQL-запросов, но никогда ничего сложного,Я знаю, что мне нужно использовать запрос, который выглядит примерно так: 

DELETE FROM DataTable  
WHERE RowID IN (SELECT RowID
                FROM DataTable
                WHERE -- ?
                GROUP BY LinkID
                HAVING COUNT(*) > 1 -- ?
                ORDER BY [Order]);

Но я просто не могу обернуть голову вокруг этого и получить правильный запрос.Я бы предпочел сделать это на чистом SQL с одним исполняемым (и повторно используемым) запросом.

Ответы [ 3 ]

2 голосов
/ 08 мая 2019

Мы можем попытаться использовать CTE здесь, чтобы упростить задачу: 

WITH cte AS (
    SELECT *,
        COUNT(*) OVER (PARTITION BY LinkID, Data, DataSpecifier ORDER BY [Order]) - 1 cnt
    FROM DataTable
),
cte2 AS (
    SELECT *,
        SUM(cnt) OVER (PARTITION BY LinkID ORDER BY [Order]) num
    FROM cte
)

DELETE
FROM cte
WHERE num > 0;

enter image description here

Логика здесь заключается в использовании COUNT в качествеаналитическая функция для выявления дубликатов записей.Мы используем раздел LinkID вместе с Data и DataSpecifier.Любая запись со значением Order, большим или равным первой записи с ненулевым счетом, затем предназначается для удаления.

Демонстрация, показывающая, что логика CTE верна:

Демо

1 голос
/ 08 мая 2019

Это решение использует APPLY для нахождения минимального заказа по каждой ссылке.

Настройка: 

IF OBJECT_ID('tempdb..#YourData') IS NOT NULL
    DROP TABLE #YourData

CREATE TABLE #YourData (
    RowID INT,
    LinkID INT,
    [Order] INT,
    Data INT,
    DataSpecifier INT)

INSERT INTO #YourData (
    RowID,
    LinkID,
    [Order],
    Data,
    DataSpecifier)
VALUES
    ('1', ' 120', '1', '1', ' 1'), 
    ('2', ' 120', '2', '1', ' 3'), 
    ('3', ' 120', '3', '1', ' 10'), 
    ('4', ' 120', '4', '1', ' 13'), 
    ('5', ' 120', '5', '1', ' 10'), 
    ('6', ' 120', '6', '1', ' 13'), 
    ('7', ' 371', '1', '6', ' 2'), 
    ('8', ' 371', '2', '3', ' 5'), 
    ('9', ' 371', '3', '8', ' 1'), 
    ('10', '371', '4', '10', '1'), 
    ('11', '371', '5', '7', ' 2'), 
    ('12', '371', '6', '3', ' 3'), 
    ('13', '371', '7', '7', ' 2'), 
    ('14', '371', '8', '17', '4')

Решение: 

;WITH MinOrderToDeleteByLinkID AS
(
    SELECT
        T.LinkID,
        MinOrder = MIN(C.[Order])
    FROM
        #YourData AS T
        OUTER APPLY (
            SELECT TOP 1
                C.*
            FROM
                #YourData AS C
            WHERE
                C.LinkID = T.LinkID AND
                C.Data = T.Data AND
                C.DataSpecifier = T.DataSpecifier AND
                C.[Order] > T.[Order]
            ORDER BY
                T.[Order]) AS C
    GROUP BY
        T.LinkID
)
DELETE Y FROM
-- SELECT Y.* FROM
    #YourData AS Y
    INNER JOIN MinOrderToDeleteByLinkID AS M ON
        Y.LinkID = M.LinkID AND
        Y.[Order] >= M.MinOrder

Строки, которые будут удалены из этого: 

RowID   LinkID  Order   Data    DataSpecifier
5       120     5       1       10
6       120     6       1       13
13      371     7       7       2
14      371     8       17      4

... которые соответствуют точке, с которой кортеж Data - DataSpecified начинаетповторите для определенного LinkID.

1 голос
/ 08 мая 2019

Вы можете использовать оконную функцию ROW_NUMBER() для идентификации любых строк, следующих за оригиналом. После этого вы можете удалять и строки с совпадающим LinkID и большим или равным любому встречающемуся Order с номером строки больше единицы.

(Первоначально я использовал второй CTE для получения MIN order, но я понял, что в этом нет необходимости, если объединение с order было больше, чем любое order, где был второй экземпляр DataUnitId. После удаления MIN план запроса стал довольно простым и эффективным.) 

WITH DataUnitInstances AS (
  SELECT *
    , ROW_NUMBER() OVER
      (PARTITION BY LinkID, [Data], [DataSpecifier] ORDER BY [Order]) DataUnitInstanceId
  FROM DataTable
)
DELETE FROM DataTable
FROM DataTable dt
INNER JOIN DataUnitInstances dup ON dup.LinkID = dt.LinkID 
  AND dup.[Order] <= dt.[Order]
  AND dup.DataUnitInstanceId > 1

Вот вывод ваших данных выборки, который соответствует вашему желаемому результату: 

+-------+--------+-------+------+---------------+
| RowID | LinkID | Order | Data | DataSpecifier |
+-------+--------+-------+------+---------------+
| 1     | 120    | 1     | 1    | 1             |
| 2     | 120    | 2     | 1    | 3             |
| 3     | 120    | 3     | 1    | 10            |
| 4     | 120    | 4     | 1    | 13            |
| 7     | 371    | 1     | 6    | 2             |
| 8     | 371    | 2     | 3    | 5             |
| 9     | 371    | 3     | 8    | 1             |
| 10    | 371    | 4     | 10   | 1             |
| 11    | 371    | 5     | 7    | 2             |
| 12    | 371    | 6     | 3    | 3             |
+-------+--------+-------+------+---------------+
...