Вы можете создать в своем классе функцию с именем det .Если вы используете Matlab OOP с использованием массивов, а не массивов ячеек, вы можете вызвать det (M) для матрицы ваших экземпляров.
class MyClass
methods(Access=public)
function d = det(this)
M = zeros(size(this));
for i=1:size(this,1)
for j=1:size(this,2)
% M(i,j) = %TODO -> convert by your own logic
end
end
d = det(M);
end
end
end