Если элемент меньше единицы, вы можете получить поведение, которое заметили. Чем больше матрица, тем больше вероятность того, что элемент чуть меньше единицы, что объясняет, почему этого не произошло для более мелких матриц.
m <- matrix(0, 4, 4)
m[1,1] <- 1-1e-10
m.original <- m
max(m)
## [1] 1
m[m <= 0] <- 0.0000001
m[m >= 1] <- 0.9999999
max(m)
## [1] 1
Обратите внимание, что
print(max(m.original), digits = 12)
## [1] 0.9999999999
print(max(m), digits = 12)
## [1] 0.9999999999