Это довольно просто.
Сначала напишите функцию для реализации вашего дифференциального уравнения и сохраните ее с именем файла, соответствующим имени функции:
function dy = my_ode(t,y)
dy(1) = y(1)*(0.3/y(1)^3 + 0.)^(1/2); % a
dy(2) = 1/dy(1); % tau
Затем в MATLAB вызовите ode45
решатель с вашей функцией
[t,y] = ode45(@my_ode,[0 10],[1; 0]);
Это результат: