Cplex (десятичное число) - PullRequest
       75

Cplex (десятичное число)

0 голосов
/ 24 февраля 2019

введите описание изображения здесь привет, как я могу увеличить количество цифр после запятой (число десятичных знаков) в CPLEX для обозначения объекта?

сердечно благодарим вас?

Ответы [ 2 ]

0 голосов
/ 26 февраля 2019

десятичная точность

Я хочу увеличить десятичную точность.

0 голосов
/ 25 февраля 2019

вы можете прочитать этот технический комментарий CPLEX:

http://www -01.ibm.com / support / docview.wss? Uid = swg21615825

Я далпример

float f = sqrt(2);
execute {
function formatFloat_prec8 (f) {
f = Math.round(f*100000000);
var fs = f.toString();
fs = fs.substring(0,fs.length-8)+','+fs.substring(fs.length-8,fs.length);
return fs;
}
writeln(formatFloat_prec8(f));
};

, который дает

1,41421356

при https://www.ibm.com/developerworks/community/forums/html/topic?id=8522d33e-966a-4ac3-9b88-4ae8df46d5c7&ps=25

привет

...