Я не уверен насчет Microsoft UT, но в CPPUNIT есть специальный макрос
CPPUNIT_ASSERT_DOUBLES_EQUAL (ожидаемый, фактический)
, который, вероятно, проверяет, что абсолютное значение разницы ожидаемого ифактический меньше чем некоторые эпсилон.В Microsoft УЦ должна быть аналогичная функция