Ошибка в коде градиентного спуска - получите одинаковый ответ для обоих тета

Question

function [theta, J_history] = gradientDescent(X, y, theta, alpha, num_iters)

    m = length(y); % number of training examples
    J_history = zeros(num_iters, 1);
    h = X * theta; 

    for iter = 1:num_iters
        temp0 = theta(1) - alpha * (1/m) * sum(h - y);
        temp1 = theta(2) - alpha * (1/m) * sum(h - y).*X(:,2);
        theta(1) = temp0;
        theta(2) = temp1;
        J_history(iter) = computeCost(X, y, theta);
    end

я получаю одинаковый ответ для обеих тэт. Может кто-нибудь сказать мне, что не так с моим кодом

Answer 1

Ваш прогноз h необходимо изменить внутри цикла. В настоящее время вы вносите коррективы в тета, но не пересчитываете прогнозы, используя новые значения тета. Таким образом, ваши тета-значения не могут сходиться. Кроме того, сумма внутри цикла по всей операции умножения:

m = length(y); % number of training examples
J_history = zeros(num_iters, 1); 

for iter = 1:num_iters
    h = X * theta
    temp0 = theta(1) - alpha * (1/m) * sum(h - y);
    temp1 = theta(2) - alpha * (1/m) * sum((h - y).*X(:,2));
    theta(1) = temp0;
    theta(2) = temp1;
    J_history(iter) = computeCost(X, y, theta);
end