С помощью optimset вы устанавливаете опции для решения задач оптимизации. Здесь Вы можете найти подробную информацию о параметрах.
'Display','off', - displays no output.
'Diagnostics','off', - does not display any diagnostics
'MaxIter',2000, - Maximum number of iterations allowed is set to 2000.
'TolFun',1e-10, - Termination tolerance on the function value.
'TolX',1e-10 - Termination tolerance on x.
Как это сделать в python, зависит от того, какой пакет вы хотите использовать. Вы можете, например, используйте scipy , который предоставляет широкий спектр решателей для всех видов проблем.