Как избежать вставки повторяющихся записей при использовании оператора слияния T-SQL

Question

Я пытаюсь вставить много записей, используя инструкцию MERGE в T-SQL, но мой запрос не может ВСТАВИТЬ, если в исходной таблице есть повторяющиеся записи. Ошибка вызвана:

1. Целевая таблица имеет первичный ключ на основе двух столбцов
2. Исходная таблица может содержать дубликаты записей, которые нарушают ограничение Первичного ключа целевой таблицы (выбрасывается «Нарушение ограничения PRIMARY KEY»)

Я ищу способ изменить мой оператор MERGE, чтобы он либо игнорировал дублирующиеся записи в исходной таблице, и / или попытался / перехватил оператор INSERT, чтобы перехватить возможные исключения (т. Е. Все другие операторы INSERT будут выполняться независимо от того, какое количество плохих яиц может возникнуть) - или, может быть, есть лучший способ решить эту проблему?

Вот пример запроса того, что я пытаюсь объяснить. В приведенном ниже примере будет добавлено 100 тыс. Записей во временную таблицу, а затем будет предпринята попытка вставить эти записи в целевую таблицу -

EDIT В своем исходном сообщении я включил только два поля в таблицы примеров, которые дали SO друзьям возможность предложить решение DISTINCT, чтобы избежать дублирования в операторе MERGE. Я должен был упомянуть, что в моей реальной задаче таблицы имеют 15 полей, и из этих 15 два поля представляют собой КЛАСТЕРНЫЙ ПЕРВИЧНЫЙ КЛЮЧ. Так что ключевое слово DISTINCT не работает, потому что мне нужно выбрать все 15 полей и игнорировать дубликаты на основе двух полей.

Я обновил запрос ниже, чтобы включить еще одно поле, col4. Мне нужно включить col4 в MERGE, но мне нужно только убедиться, что ТОЛЬКО col2 и col3 уникальны.

-- Create the source table
CREATE TABLE #tmp (
col2 datetime NOT NULL,
col3 int NOT NULL,
col4 int
)
GO

-- Add a bunch of test data to the source table
-- For testing purposes, allow duplicate records to be added to this table
DECLARE @loopCount int = 100000
DECLARE @loopCounter int = 0
DECLARE @randDateOffset int
DECLARE @col2 datetime
DECLARE @col3 int
DECLARE @col4 int

WHILE (@loopCounter) < @loopCount
BEGIN
    SET @randDateOffset = RAND() * 100000
    SET @col2 = DATEADD(MI,@randDateOffset,GETDATE())
    SET @col3 = RAND() * 1000
    SET @col4 = RAND() * 10
    INSERT INTO #tmp
    (col2,col3,col4)
    VALUES
    (@col2,@col3,@col4);

    SET @loopCounter = @loopCounter + 1
END

-- Insert the source data into the target table
-- How do we make sure we don't attempt to INSERT a duplicate record? Or how can we 
-- catch exceptions? Or?
MERGE INTO dbo.tbl1 AS tbl
    USING (SELECT * FROM #tmp) AS src
    ON (tbl.col2 = src.col2 AND tbl.col3 = src.col3)
    WHEN NOT MATCHED THEN 
        INSERT (col2,col3,col4)
        VALUES (src.col2,src.col3,src.col4);
GO

Answer 1

Решено в соответствии с вашей новой спецификацией. Только вставка самого высокого значения col4: на этот раз я использовал группу, чтобы предотвратить дублирование строк.

MERGE INTO dbo.tbl1 AS tbl 
USING (SELECT col2,col3, max(col4) col4 FROM #tmp group by col2,col3) AS src 
ON (tbl.col2 = src.col2 AND tbl.col3 = src.col3) 
WHEN NOT MATCHED THEN  
    INSERT (col2,col3,col4) 
    VALUES (src.col2,src.col3,src.col4); 

Answer 2

Учитывая, что в источнике есть дубликаты, а вы не используете MERGE полностью, я бы использовал INSERT.

 INSERT dbo.tbl1 (col2,col3) 
 SELECT DISTINCT col2,col3
 FROM #tmp src
 WHERE NOT EXISTS (
       SELECT *
       FROM dbo.tbl1 tbl
       WHERE tbl.col2 = src.col2 AND tbl.col3 = src.col3)

Причина сбоя MERGE в том, что он не проверяется строка за строкой. Все несоответствия найдены, затем он пытается ВСТАВИТЬ все это. Он не проверяет строки в том же пакете, которые уже совпадают.

Это немного напоминает мне «проблему Хэллоуина» , где ранние изменения данных атомарной операции влияют на последующие изменения данных: это не правильно

Answer 3

Вместо GROUP BY вы можете использовать аналитическую функцию, позволяющую выбрать конкретную запись в наборе повторяющихся записей для объединения.

MERGE INTO dbo.tbl1 AS tbl
USING (
    SELECT *
    FROM (
        SELECT *, ROW_NUMBER() OVER (PARTITION BY col2, col3 ORDER BY ModifiedDate DESC) AS Rn
        FROM #tmp
    ) t
    WHERE Rn = 1    --choose the most recently modified record
) AS src
ON (tbl.col2 = src.col2 AND tbl.col3 = src.col3)