ECOS решатель перестает работать в версии CVXPY 1.0 - PullRequest
Новая
       9

ECOS решатель перестает работать в версии CVXPY 1.0

0 голосов
/ 26 сентября 2018

Я работал с версией cvxpy 0.4, и в этой версии я запрограммировал линейную модель, штрафуемую группой лассо, следующим образом: 

from cvxpy import *
from sklearn.datasets import load_boston
import numpy as np
boston = load_boston()
x = boston.data
y = boston.target
index = np.array([1, 1, 1, 2, 2, 2, 3, 3, 3, 4, 4, 4, 5])
lambda_val = 1

0.4 версия 

n = x.shape[0]
lambda_param = Parameter(sign="positive")
index = np.append(0, index)
x = np.c_[np.ones(n), x]
group_sizes = []
beta_var = []
unique_index = np.unique(index)
for idx in unique_index:
    group_sizes.append(len(np.where(index == idx)[0]))
    beta_var.append(Variable(len(np.where(index == idx)[0])))
num_groups = len(group_sizes)
group_lasso_penalization = 0
model_prediction = x[:, np.where(index == unique_index[0])[0]] * beta_var[0]
for i in range(1, num_groups):
    model_prediction += x[:, np.where(index == unique_index[i])[0]] * beta_var[i]
    group_lasso_penalization += sqrt(group_sizes[i]) * norm(beta_var[i], 2)
lm_penalization = (1.0 / n) * sum_squares(y - model_prediction)
objective = Minimize(lm_penalization + (lambda_param * group_lasso_penalization))
problem = Problem(objective)
lambda_param.value = lambda_val
problem.solve(solver=ECOS)
beta_sol = [b.value for b in beta_var]

1.0 Версия 

n = x.shape[0]
lambda_param = Parameter(nonneg=True)
index = np.append(0, index)
x = np.c_[np.ones(n), x]
group_sizes = []
beta_var = []
unique_index = np.unique(index)
for idx in unique_index:
    group_sizes.append(len(np.where(index == idx)[0]))
    beta_var.append(Variable(shape=(len(np.where(index == idx)[0]), 1)))
num_groups = len(group_sizes)
model_prediction = 0
group_lasso_penalization = 0
model_prediction = x[:, np.where(index == unique_index[0])[0]] * beta_var[0]
for i in range(1, num_groups):
    model_prediction += x[:, np.where(index == unique_index[i])[0]] * beta_var[i]
    group_lasso_penalization += sqrt(group_sizes[i]) * norm(beta_var[i], 2)
lm_penalization = (1.0 / n) * sum_squares(y.reshape((n, 1)) - model_prediction)
objective = Minimize(lm_penalization + (lambda_param * group_lasso_penalization))
problem = Problem(objective)
lambda_param.value = lambda_val
problem.solve(solver=ECOS)
beta_sol = [b.value for b in beta_var]

При использовании версии кода 1.0 отображается следующее сообщение об ошибке: image

Итак, я думаю, что я правильно перенес код с версии 0.4 на 1.0, но проблема в том, что вВерсия 0.4 была решена с помощью ECOS Solver, в версии 1.0 отображается сообщение об ошибке.Я что-то здесь не так делаю?На всякий случай, если это важно, я запускаю этот код в miniconda python 2.7 на машине с Windows.

1 Ответ

0 голосов
/ 04 октября 2018

Похоже, ваш код не соответствует beta_var с.В примере 0.4 они одномерные, но в примере 1.0 они двухмерные.Вот простая программа, которая показывает, что cvxpy согласован: 

import cvxpy
print(cvxpy.__version__)
from cvxpy import *
try:
    x = Variable(shape=(3, 3))
except TypeError:
    x = Variable(3, 3)
obj = Minimize(norm(x, 2))
Problem(obj).solve(solver=ECOS)

Вывод из 0,4: 

0.4.11
Traceback (most recent call last):
  File "./cvxtest.py", line 11, in <module>
    Problem(obj).solve(solver=ECOS)
  File "lib/python3.6/site-packages/cvxpy/problems/problem.py", line 209, in solve
    return self._solve(*args, **kwargs)
  File "lib/python3.6/site-packages/cvxpy/problems/problem.py", line 321, in _solve
    solver.validate_solver(constraints)
  File "lib/python3.6/site-packages/cvxpy/problems/solvers/solver.py", line 131, in validate_solver
    self._reject_problem("it cannot solve semidefinite problems")
  File "lib/python3.6/site-packages/cvxpy/problems/solvers/solver.py", line 156, in _reject_problem
    raise SolverError(message)
cvxpy.error.SolverError: The solver ECOS cannot solve the problem because it cannot solve semidefinite problems.

Вывод из 1,0: 

1.0.8
Traceback (most recent call last):
  File "./cvxtest.py", line 11, in <module>
    Problem(obj).solve(solver=ECOS)
  File "lib/python3.6/site-packages/cvxpy/problems/problem.py", line 247, in solve
    return solve_func(self, *args, **kwargs)
  File "lib/python3.6/site-packages/cvxpy/problems/problem.py", line 357, in _solve
    raise e
  File "lib/python3.6/site-packages/cvxpy/problems/problem.py", line 355, in _solve
    solver=solver)
  File "lib/python3.6/site-packages/cvxpy/reductions/solvers/solving_chain.py", line 143, in construct_solving_chain
    ", ".join([cone.__name__ for cone in cones])))
cvxpy.error.SolverError: Either candidate conic solvers (['ECOS']) do not support the cones output by the problem (PSD), or there are not enough constraints in the problem.

В итоге вы должны исправитьваш код 1.0, чтобы сделать ваши Variable s одномерными.

...