В этой статье (ссылка здесь, на SO ) рассматривается балансировка матрицы до нахождения собственных значений, чтобы избежать слишком больших динамических диапазонов c между членами, что привело бы к неточностям. Глядя на псевдокоды, условие прекращения повторения состоит в том, что одно число меньше 95% другого числа (алгоритм № 3, строка 12). Это предполагает (для меня), что результаты расчетов не должны быть слишком точными. Что приводит меня к этому вопросу: необходимо ли иметь точечную функцию sqrt() или это может быть более быстрая, но менее точная реализация (например, здесь , на SO или на википедии )? Я думал о том, чтобы спросить об этом на math.SE, но это, скорее, связано с вычислениями, а не с математической реализацией, но если я ошибаюсь, пожалуйста, дайте мне знать.