Должен ли я выйти из цикла градиентного спуска, как только стоимость возрастет? - PullRequest
Новая
       56

Должен ли я выйти из цикла градиентного спуска, как только стоимость возрастет?

0 голосов
/ 30 мая 2019

Я пытаюсь научиться машинному обучению, поэтому я беру курс и в настоящее время изучаю градиентный спуск для линейной регрессии.Я только что узнал, что если скорость обучения достаточно мала, значение, возвращаемое функцией стоимости, должно непрерывно уменьшаться до сходимости.Когда я представляю, что это делается в цикле кода, мне кажется, что я могу просто отслеживать, сколько было стоить в предыдущей итерации, и выйти из цикла, если новая стоимость больше предыдущей, поскольку это говорит нам о скорости обученияслишком великЯ хотел бы услышать мнения, так как я новичок в этом, но чтобы не делать этот вопрос в первую очередь основанным на мнениях, мой главный вопрос заключается в следующем: будет ли что-то не так с этим методом определения скорости обучения, которая должнабыть уменьшенным?Я был бы признателен за пример, когда этот метод потерпит неудачу, если это возможно.

1 Ответ

1 голос
/ 30 мая 2019

В этом примере ниже мы будем варьировать скорость обучения eta = 10^k на k={-6,-5,-4,...0}

def f(x):
  return 100 * (x[ 0] *x[0] - x[ 1]) **2 + (x[ 0] -1) **2

def df(x):
  a = x[ 0] *x[0] - x[ 1]
  ret = np.zeros(2)
  ret[ 0] = 400 * a * x[0] + 2 * (x[0] - 1)
  ret[ 1] = -200 * a
  return ret

for k in range(-6, 0):
  eta = math.pow(10.0, k)
  print("eta: " + str(eta))
  x = -np.ones(2)
  for iter in range(1000000):
    fx = f(x)
    if fx < 1e-10:
      print(" solved after " + str(iter) + " iterations; f(x) = " + str(f(x)))
      break
    if fx > 1e10:
      print(" divergence detected after " + str(iter) + " iterations; f(x) = " +  
        str(f(x)))
      break
  g = df(x)
  x -= eta * g
  if iter == 999999:
    print(" not solved; f(x) = " + str(f(x)))

При слишком малых скоростях обучения оптимизация очень медленная, и проблема не решается в рамках бюджета итерации. При слишком больших скоростях обучения процесс оптимизации становится нестабильным и расходится очень быстро. Скорость обучения должна быть «правильной», чтобы процесс оптимизации работал хорошо.

...