Scipy optimize fmin ValueError: установка элемента массива с последовательностью

Question

При использовании scipy.optimize fmin я получаю ошибку, которую не понимаю:

ValueError: setting an array element with a sequence.

Вот простой пример ошибки в квадрате для демонстрации:

import numpy as np
from scipy.optimize import fmin

def cost_function(theta, X, y):    
    m = X.shape[0]
    error = X.dot(theta) - y 
    J = 1/(2*m) * error.T.dot(error)  
    return J

X = np.array([[1., 1.],
              [1., 2.],
              [1., 3.],
              [1., 4.]])

y = np.array([[2],[4],[6],[8]])   
initial_theta = np.ones((X.shape[1], 1)) * 0.01

# test cost_function
print cost_function(initial_theta, X, y)
# [[ 14.800675]] seems okay...

# but then error here...   
theta = fmin(cost_function, initial_theta, args=(X, y))

#Traceback (most recent call last):
#  File "C:\Users\me\test.py", line 21, in <module>
#    theta = fmin(cost_function, initial_theta, args=(X, y))
#  File "C:\Python27\lib\site-packages\scipy\optimize\optimize.py", line 278, in fmin
#    fsim[0] = func(x0)
#ValueError: setting an array element with a sequence.

Буду признателен за любую помощь, чтобы объяснить, где я иду не так.

Answer 1

Причина в том, что отправная точка (initial_theta), которую вы указали для fmin, - это не одномерный массив, а двумерный массив. Таким образом, на второй итерации fmin пропускает одномерный массив (именно так он и должен работать), и результат становится нескалярным.

Таким образом, вы должны реорганизовать свою функцию стоимости, чтобы принимать 1d-массивы в качестве первого аргумента.

Самое простое изменение состоит в том, чтобы заставить код работать, это сгладить initial_theta перед переходом к fmin и изменить форму theta внутри cost_function на (X.shape [1], 1), если хотите.

Answer 2

cost_function должен возвращать скаляр, но возвращаемое значение J - это какой-то массив.