Терадата ошибается в делении?

Question

У меня есть коллега, который не хочет включать пустые строки в процентильный ранг.Функция Teradata по умолчанию, кажется, просто обрабатывает нуль как самое низкое число в наборе, поэтому я решил сделать математику вручную.Я начал использовать приведенный ниже запрос для проверки моего уравнения

drop table tmp;

create multiset volatile table tmp (
  num byteint
) primary index (num)
  on commit preserve rows
;

insert into tmp
values (1)
;insert into tmp
values (2)
;insert into tmp
values (1)
;insert into tmp
values (4)
;insert into tmp
values (null)
;insert into tmp
values (4)
;insert into tmp
values (null)
;insert into tmp
values (2)
;insert into tmp
values (9)
;insert into tmp
values (null)
;insert into tmp
values (10)
;insert into tmp
values (10)
;insert into tmp
values (11)
;

select
  num,
  case
    when num is null then 0
    else cast(dense_rank() over (partition by case when num is not null then 1 else 2 end order by num) as number)
  end as str_rnk,
  q.nn,
  str_rnk/q.nn as pct_rnk
from tmp
cross join (
    select cast(count(num) as number) as nn from tmp
) q
order by num
;

Так что я ожидаю увидеть в наборе результатов следующее:

num   str_rnk  nn  pct_rnk
null        0  10        0
null        0  10        0
null        0  10        0
   1        1  10      0.1
   1        1  10      0.1
   2        2  10      0.2
   2        2  10      0.2
   4        3  10      0.3
   4        3  10      0.3
   9        4  10      0.4
  10        5  10      0.5
  10        5  10      0.5

Но я получаю результат, который выглядиткак он сделал обычный rank вместо dense_rank, например:

num   str_rnk  nn  pct_rnk
null        0  10        0
null        0  10        0
null        0  10        0
   1        1  10      0.1
   1        1  10      0.1
   2        2  10      0.3
   2        2  10      0.3
   4        3  10      0.5
   4        3  10      0.5
   9        4  10      0.7
  10        5  10      0.8
  10        5  10      0.8

Я знаю, что мог бы установить ранг в подзапросе, и он вычислил бы то, что я ожидал, но почемуразве не так, как сейчас?

Answer 1

Как отметил JNevill, это ошибка, вы должны открыть инцидент с поддержкой Teradata:

SELECT
   num,
   -- cast to FLOAT or DECIMAL works as expected
   Cast(Dense_Rank() Over (ORDER BY num) AS NUMBER) AS a,
   a AS b
FROM tmp

 num    a    b
----  ---  ---
   ?    1    1
   ?    1    1
   ?    1    1
   1    2    4
   1    2    4
   2    3    6
   2    3    6
   4    4    8
   4    4    8
   9    5   10
  10    6   11
  10    6   11
  11    7   13

Но добавление QUALIFY a<>b возвращает пустой результат: -)

Исходный расчет для PERCENT_RANK основан на

Cast(Rank() Over (ORDER BY num) -1 AS DEC(18,6)) / Count(*) Over ()

Если вы хотите исключить NULL, вы можете переключиться на Count(num) и NULLS LAST:

SELECT
   num,
   CASE
      WHEN num IS NOT NULL 
      THEN Cast(Dense_Rank() Over (ORDER BY num NULLS LAST) AS DECIMAL(18,6)) 
      ELSE 0
   END AS str_rnk,
   str_rnk / Count(num) Over ()
FROM tmp

Или используя этот хитрый num * 0 трюк:

SELECT
   num,
   Coalesce(Dense_Rank()
            Over (ORDER BY num NULLS LAST) 
             * (num * 0 +1.000000), 0) AS str_rnk,
   str_rnk / Count(num) Over ()
FROM tmp

Answer 2

Пока это не отвечает на ваш вопрос. Это не разделение, это проблема, это, кажется, какая-то странная проблема, когда CAST и Dense_Rank запускаются дважды в одном и том же SELECT.

Рассмотрим:

select
  num,
  case
    when num is null then 0
    else cast(dense_rank() over (partition by case when num is not null then 1 else 2 end order by num) as number)
  end as str_rnk,

  case
    when num is null then 0
    else cast(dense_rank() over (partition by case when num is not null then 1 else 2 end order by num) as number)
  end as str_rnk2
from tmp
cross join (
    select cast(count(num) as number) as nn from tmp
) q;


+--------+---------+----------+
|  num   | str_rnk | str_rnk2 |
+--------+---------+----------+
| 1      |       1 |        1 |
| 1      |       1 |        1 |
| 2      |       2 |        3 |
| 2      |       2 |        3 |
| 4      |       3 |        5 |
| 4      |       3 |        5 |
| 9      |       4 |        7 |
| 10     |       5 |        8 |
| 10     |       5 |        8 |
| 11     |       6 |       10 |
| <null> |       0 |        0 |
| <null> |       0 |        0 |
| <null> |       0 |        0 |
+--------+---------+----------+

Так как CAST здесь не нужен:

select
  num,

  case
    when num is null then 0
    else dense_rank() over (partition by case when num is not null then 1 else 2 END order by num) 
  end as str_rnk,

  case
    when num is null then 0
    else dense_rank() over (partition by case when num is not null then 1 else 2 END order by num) 
  end as str_rnk2
from tmp
cross join (
    select cast(count(num) as number) as nn from tmp
) q;

+--------+---------+----------+
|  num   | str_rnk | str_rnk2 |
+--------+---------+----------+
| 1      |       1 |        1 |
| 1      |       1 |        1 |
| 2      |       2 |        2 |
| 2      |       2 |        2 |
| 4      |       3 |        3 |
| 4      |       3 |        3 |
| 9      |       4 |        4 |
| 10     |       5 |        5 |
| 10     |       5 |        5 |
| 11     |       6 |        6 |
| <null> |       0 |        0 |
| <null> |       0 |        0 |
| <null> |       0 |        0 |
+--------+---------+----------+

Ваш запрос с быстрой переписью:

select
  num,
  case
    when num is null then 0
    else dense_rank() over (partition by num * 0 order by num) 
    end as str_rnk, 
  str_rnk * 1.0/COUNT(*) OVER (PARTITION BY num * 0) as pct_rnk
from tmp
order by num
;

+--------+---------+---------+
|  num   | str_rnk | pct_rnk |
+--------+---------+---------+
| <null> |       0 |     0.0 |
| <null> |       0 |     0.0 |
| <null> |       0 |     0.0 |
| 1      |       1 |     0.1 |
| 1      |       1 |     0.1 |
| 2      |       2 |     0.2 |
| 2      |       2 |     0.2 |
| 4      |       3 |     0.3 |
| 4      |       3 |     0.3 |
| 9      |       4 |     0.4 |
| 10     |       5 |     0.5 |
| 10     |       5 |     0.5 |
| 11     |       6 |     0.6 |
+--------+---------+---------+

Или, если вы хотите полностью получить оператор CASE:

select
  num,
  dense_rank() over (partition by num * 0 order by num) * (num * 0 + 1.0) as str_rnk,  
  str_rnk/COUNT(*) OVER (PARTITION BY num * 0) as pct_rnk
from tmp
order by num;