Заполнить пропуски в данных, используя значение, пропорциональное расстоянию пропуска до данных из соседних строк?

Question

В какой-то момент скоро мне придется подготовить список цен на товары по дням.Детализация составляет 1 день, и в дни, когда происходят продажи товара, я буду усреднять цены, чтобы получить среднее значение за этот день.Будут дни, когда продажи не производятся, и мне подходит то, что можно использовать адекватное приближение, извлекая предыдущие и последующие продажи, и для каждого дня, когда между ними есть цена, которая линейно переходит от одного к другому.

Представьте, что необработанные данные:

Item   Date       Price
Bread  2000-01-01 10
Bread  2000-01-02 9.5
Bread  2000-01-04 9.1
Sugar  2000-01-01 100
Sugar  2000-01-11 150

Я могу добраться сюда:

Item   Date       Price
Bread  2000-01-01 10
Bread  2000-01-02 9.5
Bread  2000-01-03 NULL
Bread  2000-01-04 9.1
Sugar  2000-01-01 100
Sugar  2000-01-02 NULL
Sugar  2000-01-03 NULL
Sugar  2000-01-04 NULL
Sugar  2000-01-05 NULL
Sugar  2000-01-06 NULL
Sugar  2000-01-07 NULL
Sugar  2000-01-08 NULL
Sugar  2000-01-09 NULL
Sugar  2000-01-10 NULL
Sugar  2000-01-11 150

Где я хочу попасть:

Item   Date       Price
Bread  2000-01-01 10
Bread  2000-01-02 9.5
Bread  2000-01-03 9.3 --being 9.5 + ((9.1 - 9.5 / 2) * 1)
Bread  2000-01-04 9.1
Sugar  2000-01-01 100
Sugar  2000-01-02 105 --being 100 + (150 - 100 / 10) * 1)
Sugar  2000-01-03 110 --being 100 + (150 - 100 / 10) * 2)
Sugar  2000-01-04 115
Sugar  2000-01-05 120
Sugar  2000-01-06 125
Sugar  2000-01-07 130
Sugar  2000-01-08 135
Sugar  2000-01-09 140
Sugar  2000-01-10 145 --being 100 + (150 - 100 / 10) * 9)
Sugar  2000-01-11 150

Что я пробовал до сих пор?Только мышление;Я планирую сделать что-то вроде:

• Извлечь необработанные данные
• Присоединиться к таблице чисел / календаря, чтобы заполнить их разреженными данными
• LAST_VALUE ()(или первый?) OVER ROWS UNBOUNDED PRECEDING / FOLLOWING (с предложением null-last order), чтобы получить первые ненулевые значение previousing_date, follow_date, previousding_price и follow_price из необработанных данных
• DATEDIFF поддельной даты иpreviousing_date, чтобы получить количество дней (это фактически то, насколько далеко мы находимся в промежутке, gap_progress) и расстояние разрыва (follow_date - previousding_date)
• получить следующую цену, предыдущую цену и расстояние разрыва для формулы (previousing_price + ((next_price - previousing_price) / gap_distance) * gap_progress)

Однако мне интересно, есть ли более простой способ, потому что у меня есть миллионы дней предметов, а это не такчувствую, что это будет настолько эффективно ..

Я нахожу множество примеров вопросов, где данные из последней или следующей строки смазываются вербальноТим, чтобы заполнить пробелы, но я не припоминаю, чтобы видел ситуацию, когда предпринимались какие-то переходы.Возможно, этот метод может быть применен вдвойне, имея мазок, идущий вперед, тиражируя самое последнее значение, а вместе с ним мазок, который бежит назад:

Item   Date       DateFwd    DateBak     PriceF PriceB
Bread  2000-01-01 2000-01-01 2000-01-01  10     10
Bread  2000-01-02 2000-01-02 2000-01-02  9.5    9.5
Bread  2000-01-03 2000-01-02 2000-01-04  9.5    9.1
Bread  2000-01-04 2000-01-04 2000-01-04  9.1    9.1
Sugar  2000-01-01 2000-01-01 2000-01-01  100    100
Sugar  2000-01-02 2000-01-01 2000-01-11  100    150
Sugar  2000-01-03 2000-01-01 2000-01-11  100    150
Sugar  2000-01-04 2000-01-01 2000-01-11  100    150
Sugar  2000-01-05 2000-01-01 2000-01-11  100    150
Sugar  2000-01-06 2000-01-01 2000-01-11  100    150
Sugar  2000-01-07 2000-01-01 2000-01-11  100    150
Sugar  2000-01-08 2000-01-01 2000-01-11  100    150
Sugar  2000-01-09 2000-01-01 2000-01-11  100    150
Sugar  2000-01-10 2000-01-01 2000-01-11  100    150
Sugar  2000-01-11 2000-01-11 2000-01-11  150    150

Они могут предоставить необходимые данные для формулы (preceding_price + ((next_price - preceding_price)/gap_distance) * gap_progress):

• gap_distance = DATEDIFF (день, DateFwd, DateBak)
• gap_progress = DATEDIFF (день, дата, DateFwd)
• next_price = PriceB
• previousing_price = PriceF

?

Вот DDL данных, к которым я могу получить доступ (необработанные данные, объединенные с таблицей календаря)

CREATE TABLE Data
([I] varchar(5), [D] date, [P] DECIMAL(10,5))
;

INSERT Data
([I], [D], [P])
VALUES
('Bread', '2000-01-01', 10),
('Bread', '2000-01-02', 9.5),
('Bread', '2000-01-04', 9.1),
('Sugar', '2000-01-01', 100),
('Sugar', '2000-01-11', 150);

CREATE TABLE Cal([D] DATE);
INSERT Cal VALUES
('2000-01-01'),
('2000-01-02'),
('2000-01-03'),
('2000-01-04'),
('2000-01-05'),
('2000-01-06'),
('2000-01-07'),
('2000-01-08'),
('2000-01-09'),
('2000-01-10'),
('2000-01-11');

SELECT d.i as [item], c.d as [date], d.p as [price] FROM
cal c LEFT JOIN data d ON c.d = d.d

Answer 1

Это будет работать для sql-server-2012 + Тестовая таблица:

DECLARE @t table

(Item char(5), Date date, Price decimal(9,1))

INSERT @t values
('Bread','2000-01-01', 10),
('Bread','2000-01-02',  9.5),
('Bread','2000-01-04',  9.1),
('Sugar','2000-01-01',  100),
('Sugar','2000-01-11',  150)

Запрос

;WITH CTE as
(
  SELECT
    Item, Date, Price,
    lead(price) over(partition by Item order by Date) nextprice,
    lead(Date) over(partition by Item order by Date) nextDate
  FROM @t
), N(N) as
(
  SELECT 1 FROM(VALUES(1),(1),(1),(1),(1),(1),(1),(1),(1),(1))M(N)
), tally(N) as
(
  SELECT ROW_NUMBER()OVER(ORDER BY N.N)FROM N,N a,N b,N c,N d,N e,N f
)
SELECT 
  dateadd(d, coalesce(r, 0), Date) Date,
  Item, 
  CAST(price + coalesce((nextprice-price) * r 
    / datediff(d, date, nextdate), 0) as decimal(10,1)) Price
FROM CTE
OUTER APPLY
(
  SELECT top(coalesce(datediff(d, date, nextdate), 0)) 
    row_number() over (order by (select 1))-1 r
  FROM N
) z
ORDER BY item, date

Результат:

Date    Item    Price
2000-01-01  Bread   10.0
2000-01-02  Bread   9.5
2000-01-03  Bread   9.3
2000-01-04  Bread   9.1
2000-01-01  Sugar   100.0
2000-01-02  Sugar   105.0
2000-01-03  Sugar   110.0
2000-01-04  Sugar   115.0
2000-01-05  Sugar   120.0
2000-01-06  Sugar   125.0
2000-01-07  Sugar   130.0
2000-01-08  Sugar   135.0
2000-01-09  Sugar   140.0
2000-01-10  Sugar   145.0
2000-01-11  Sugar   150.0

Answer 2

Вы можете использовать OUTER APPLY, чтобы получить предыдущую и следующую строку с ценой, которая не равна нулю:

select
  d.item,
  d.date,
  case when d.price is null then
    prev.price + ( (next.price - prev.price) /
                   datediff(day, prev.date, next.date) *
                   datediff(day, prev.date, d.date)
                 )
  else
    d.price
  end as price
from data d
outer apply
(
    select top(1) *
    from data d2
    where d2.item = d.item and d2.date < d.date and d2.price is not null
    order by d2.date desc
) prev
outer apply
(
    select top(1) *
    from data d2
    where d2.item = d.item and d2.date > d.date and d2.price is not null
    order by d2.date
) next;

Демонстрация Rextester: http://rextester.com/QBL7472

ОБНОВЛЕНИЕ: Это, вероятно, медленно.Возможно, это поможет добавить and d.price is null к предложениям where в подзапросах, чтобы показать СУБД, что ей не нужно фактически искать другие записи, когда цена не равна нулю.Просто проверьте планы объяснения и посмотрите, поможет ли это.

Answer 3

легче сгенерировать недостающий разрыв вместе с ценой за один раз

Так что я начну с ваших исходных необработанных данных

CREATE TABLE t
    ([I] varchar(5), [D] date, [P] DECIMAL(10,2))
;

INSERT INTO t
    ([I], [D], [P])
VALUES
    ('Bread', '2000-01-01 00:00:00', '10'),
    ('Bread', '2000-01-02 00:00:00', '9.5'),
    ('Bread', '2000-01-04 00:00:00', '9.1'),
    ('Sugar', '2000-01-01 00:00:00', '100'),
    ('Sugar', '2000-01-11 00:00:00', '150');

; with
-- number is a tally table. here i use recursive cte to generate 100 numbers
number as
(
    select  n = 0
    union all
    select  n = n + 1
    from    number
    where   n < 99
),
-- a cte to get the Price of next date and also day diff
cte as
(
    select  *, 
            nextP = lead(P) over(partition by I order by D),
            cnt = datediff(day, D, lead(D) over(partition by I order by D)) - 1
    from    t
) 
select  I, 
        D = dateadd(day, n, D), 
        P = coalesce(c.P + (c.nextP - c.P) / ( cnt + 1) * n, c.P)
from    cte c
        cross join number n
where   n.n <= isnull(c.cnt, 0)

drop table t

Answer 4

Я бы поместил вашу формулу 100 + (150 - 100 / 10) * 9) и т. Д. В скалярный UDF и использовал ее в постоянном вычисляемом столбце.