Вам действительно нужно преобразовать ваше изображение в 32-битное и сделать так, чтобы значения лежали в диапазоне [0,0 1,0].
Вы можете сделать это в сценарии, просто добавив две строки после строки 59:
IJ.run( proposedLabels, "32-bit", "" );
IJ.run( proposedLabels, "Enhance Contrast...", "saturated=0.3 normalize process_all");
Хотя изображение истинной земли должно быть двоичным.