Ошибка оптимизации для логистической регрессии с использованием Scipy.opt - PullRequest
Новая
       8

Ошибка оптимизации для логистической регрессии с использованием Scipy.opt

0 голосов
/ 20 ноября 2018

Я пытался написать проблему логистической регрессии Эндрю Н.Г., используя python и Scipy.opt для оптимизации функции.Тем не менее, я получаю VALUE ERROR, который говорит, что у меня несоответствующие размеры.Я попытался сгладить () мой тэта-массив, так как scipy.opt, кажется, не очень хорошо работает с вектором из одного столбца / строки, однако проблема все еще сохраняется.Я также изменил массив, но код не отвечает на него и показывает ту же ошибку.

Пожалуйста, укажите мне правильное направление относительно того, что является причиной проблемы и как ее избежать.

Спасибо миллион! 

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import scipy.optimize as opt

dataset = pd.read_csv("Students Exam Dataset.txt", names=["Exam 1", "Exam 2", "Admitted"])
print(dataset.head())

positive = dataset[dataset["Admitted"] == 1]
negative = dataset[dataset["Admitted"] == 0]

#Visualizing Dataset
plt.scatter(positive["Exam 1"], positive["Exam 2"], color="blue", marker="o", label="Admitted")
plt.scatter(negative["Exam 1"], negative["Exam 2"], color="red", marker="x", label="Not Admitted")
plt.xlabel("Exam 1 Score")
plt.ylabel("Exam 2 Score")
plt.title("Admission Graph")
plt.legend()
#plt.show()

#Preprocessing Data
dataset.insert(0, "x0", 1)
col = len(dataset.columns)
x = dataset.iloc[:,0:col-1].values
y = dataset.iloc[:,col-1:col].values
b = np.zeros([1,col-1])
m = len(y)
print(f"X Shape: {x.shape}   Y Shape: {y.shape}   B Shape: {b.shape}")

#Defining Functions
def hypothesis(x, y, b):
    h = 1 / (1+np.exp(-x @ b.T))
    return h

def cost(x, y, b):
    first = (y.T @ np.log(hypothesis(x, y, b)))
    second = (1-y).T @ np.log(1 - hypothesis(x, y, b))
    j = (-1/m) * np.sum(first+second)
    return j

def gradient(x, y, b):
    grad_step = ((hypothesis(x, y, b) - y) @ x.T) / m
    return b

#Output
initial_cost = cost(x, y, b)
print(f"\nInitial Cost = {initial_cost}")
final_cost = opt.fmin_tnc(func=cost, x0=b.flatten() , fprime=gradient, args=(x,y))
print(f"Final Cost = {final_cost} \nTheta = {b}")

Набор данных: Student Dataset.txt

...