Если в ваших данных есть поле datetime (например, CreaetedOn), вы можете использовать реализацию DataReader, использующую SQL-запрос, для фильтрации по дате и заполнять таблицу только строками, которые новее, чем самая старая запись в ваш текущий набор данных.
DataAdapter.Fill / w DataReader
Вы также можете использовать эту технику, если у вас есть какой-либо последовательный идентификатор, и вы заполнили бы строки, значение Id которых больше, чем наибольшее значение в вашем наборе данных в памяти.