Согласно документам
Если знаки аргументов совпадают, результаты floorMod и оператора% совпадают.
floorMod(4, 3) == 1; and (4 % 3) == 1
Если знаки аргументов отличаются, результаты отличаются от оператора%.
floorMod(+4, -3) == -2; and (+4 % -3) == +1
floorMod(-4, +3) == +2; and (-4 % +3) == -1
floorMod(-4, -3) == -1; and (-4 % -3) == -1