Ваша формула будет возвращать NaN, где SOH1 и retail3 или cost3 равно 0, тогда как она будет возвращать бесконечность, когда SOH1 не равен 0, а retail3 или cost3 равно 0.
Таким образом, ответ заключается во включении условия во все эти возможности для отображения альтернативного значения. Предполагая, что вы хотите отобразить 0 вместо NaN или бесконечности, попробуйте:
= iif(Fields!SOH1.Value=0 or Fields!retail3.Value=0 or Fields!cost3.Value=0,
0,
Fields!SOH1.Value /
((1- ((Fields!retail3.Value-Fields!cost3.Value)/Fields!cost3.Value))
* Fields!retail3.Value)
)