Сначала удалите запись из базы данных с помощью скрипта:
UPDATE [table] SET IsDeleted = true
Во-вторых, чтобы быть уверенным, выберите только что удаленную запись:
SELECT * FROM [table] WHERE IsDeleted = true
Если запись действительно удалена, запустите приложение и просмотрите таблицу на наличие новых записей. Существует вероятность того, что ваше приложение вставит новую запись куда-нибудь из кода.
Если запись все еще там, я бы проверил строку подключения. Еще раз мне приходилось признавать, что приложение было подключено к неверной базе данных.