Реализация Logist c Регрессия с регуляризацией L2 Использование SGD: без использования sklearn - PullRequest
Новая
       67

Реализация Logist c Регрессия с регуляризацией L2 Использование SGD: без использования sklearn

0 голосов
/ 28 марта 2020 
import math
from math import log10
import numpy as np
import pandas as pd
from sklearn.datasets import make_classification
from sklearn import linear_model
from sklearn.model_selection import train_test_split

def sigmoid(w,x,b):
    return(1/(1+math.exp(-(np.dot(x,w)+b))))

def l2_regularizer(w):
l2_reg_sum=0.0
for i in range(len(w)):
    l2_reg_sum+=(w[i]**2)
return l2_reg_sum

def compute_log_loss(X_train,y_train,w,b,alpha):
loss=0.0
X_train=np.clip(X_train, alpha, 1-alpha)
for i in range(N):
    loss+= ((y_train[i]*log10(sigmoid(w,X_train[i],b)))+((1-y_train[i])*log10(1-sigmoid(w,X_train[i],b))))
    #loss =-1*np.mean(actual*np.log(predicted)+(1-actual))*np.log(1-predicted)
#loss=-1*np.mean(y_train*np.log(sigmoid(w,X_proba,b))+(1-y_train))*np.log(1-sigmoid(w,X_proba,b))
loss=((-1/N)*loss)
return loss

X, y = make_classification(n_samples=50000, n_features=15, n_informative=10, n_redundant=5,
                       n_classes=2, weights=[0.7], class_sep=0.7, random_state=15)


X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=15)
w = np.zeros_like(X_train[0])
b = 0
eta0  = 0.0001
alpha = 0.0001
N = len(X_train)
n_epochs = 3
W=[]
B=[]
W.append(w)
B.append(b)
loss_list=[]
log_loss_train=0.0
log_loss_train=compute_log_loss(X_train,y_train,w,b,alpha)
loss_list.append(log_loss_train)
print(loss_list)
for epoch in range(1,n_epochs):
    grad_loss=0.0
    grad_intercept=0.0
    for i in range(N):
        first_term_grad_loss=((1-((alpha*eta0)/N))*W[epoch-1])
        second_term_grad_loss=((eta0*X_train[i])*(y_train[i]-sigmoid(W[epoch-1],X_train[i],B[epoch-1])))                                                     
        grad_loss+=(first_term_grad_loss+second_term_grad_loss)
        first_term_grad_intercept=B[epoch-1]
        second_term_grad_intercept=(eta0*(y_train[i]-sigmoid(W[epoch-1],X_train[i],B[epoch-1])))
        grad_intercept+=(first_term_grad_intercept+second_term_grad_intercept)
    B.append(grad_intercept)
    W.append(grad_loss)   
    log_loss_train=0.0
    log_loss_train=compute_log_loss(X_train,y_train,W[epoch],B[epoch],alpha)
    loss_list.append(log_loss_train)
    print(loss_list)

Я получаю математическую ошибку диапазона при вычислении сигмоиды, и я не могу понять, как обработать ошибку выброса вычисления this.sigmoid из-за может быть некоторого большого вычисления.

Файл "C: \ Users \ SUMO.spyder-py3-dev \ temp.py ", строка 12, в сигмоидном возврате (1 / (1 + math.exp (- (np.dot (x, w) + b)))) Ошибка переполнения: математическая ошибка диапазона.

1 Ответ

0 голосов
/ 29 марта 2020

Во-первых, вам необходимо определить, является ли ваша гипотеза положительной или отрицательной. Затем обработайте проблемы отдельно для положительных и отрицательных гипотез, как показано ниже. 

def sigmoid(w,x,b):
    hypothesis = np.dot(x,w)+b
    if hypothesis < 0:
         return (1 - 1/(1+math.exp(hypothesis)))
    return (1/(1+math.exp(-hypothesis)))
...