В Matlab можно создать вектор / матрицу со значениями s и t и соответствующий вектор со значениями функции. Затем вы можете точно определить максимум, используя функцию max
В Mathematica используйте FindMaximum
, например:
f[s_,t_]:= ((1+s)^4 + (s+t)^4 + t^4)/(1+s^4+t^4)
FindMaximum[ f[s,t],{s,0},{t,0} ]
Поиск максимального значения, начиная с (s, t) = (0,0).
Подробнее см. http://reference.wolfram.com/mathematica/ref/FindMaximum.html