Тип возвращаемого по умолчанию результата будет результатом сравнения значений обоих типов, передаваемых в функцию, есть некоторый порядок возвращаемых типов: целое число перед bigint
TYPE (X,Y) = IFNULL(type X , type Y).
, где десятичное число является более общим, чем biginв твоем случае.
Полагаю, что в обеих версиях Mysql есть некоторые изменения в том, как обрабатывать возвращаемый тип по умолчанию.