Как я могу записать вывод этой строки кода в переменную с плавающей запятой вместо передачи в файл? Вывод этой строки является плавающим числом.
FILE *child = _popen("java -jar c:\\simmetrics.jar c:\\chtml.txt c:\\thtml.txt", "r");
Вам просто нужно прочитать из вашего файлового дескриптора:
float value; fscanf(child, "%f", &value);
double d; fscanf(child, "%lf", &d);