R не может обработать такие большие показатели, потому что это сойдет к 0 за пределами его точности. Точность не бесконечна. Для того, что вы хотите, вам нужен пакет произвольной точности, такой как Rmpfr .
library(Rmpfr)
precision <- 120
result <- (mpfr(0.61, precision)**10435 * mpfr(0.39, precision)**6565) /
(mpfr(0.63, precision)**5023 * mpfr(0.60, precision)**5412 * mpfr(0.37, precision)**2977 * mpfr(0.40, precision)**3588)
print(result)
Вывод:
1 'mpfr' number of precision 120 bits
[1] 0.0012191160601483692718001967190171336975