Корректировка значений NaN / потерь для ИНС в тензорном потоке - PullRequest
Новая
       28

Корректировка значений NaN / потерь для ИНС в тензорном потоке

1 голос
/ 01 августа 2020

Я запускаю модель оттока с использованием тензорного потока и наталкиваюсь на потерю NaN. Читая вокруг, я обнаружил, что у меня, вероятно, были некоторые значения NaN в моих данных, что было подтверждено print(np.any(np.isnan(X_test))).

Я пробовал использовать 

def standardize(train, test):
    mean = np.mean(train, axis=0)
    std = np.std(train, axis=0)+0.000001
    X_train = (train - mean) / std
    X_test = (test - mean) /std
    return X_train, X_test

, но все же придумывал значения NaN.

Вот полный код, если это поможет: 

import numpy as np
import matplotlib.pyplot as plt
import pandas as pd
import tensorflow as tf

dataset = pd.read_excel('CHURN DATA.xlsx')
X = dataset.iloc[:, 2:45].values
y = dataset.iloc[:, 45].values

from sklearn.preprocessing import LabelEncoder
le = LabelEncoder()
X[:, 1] = le.fit_transform(X[:,1])

from sklearn.compose import ColumnTransformer
from sklearn.preprocessing import OneHotEncoder
ct = ColumnTransformer(transformers=[('encoder', OneHotEncoder(),[0])], remainder = 'passthrough')
X = np.array(ct.fit_transform(X))

from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size = 0.2)

from sklearn.preprocessing import StandardScaler
sc = StandardScaler()
X_train = sc.fit_transform(X_train)
X_test = sc.transform(X_test)

ann = tf.keras.models.Sequential()
ann.add(tf.keras.layers.Dense(units = 43, activation = 'relu'))
ann.add(tf.keras.layers.Dense(units = 43, activation = 'relu'))
ann.add(tf.keras.layers.Dense(units = 1, activation = 'sigmoid'))
ann.compile(optimizer = 'adam', loss = 'binary_crossentropy', metrics = ['accuracy'])
ann.fit(X_train, y_train, batch_size = 256, epochs = 50)

1 Ответ

1 голос
/ 01 августа 2020

Вы не заменили nan значения. И вполне вероятно, что в ваших данных есть значения inf и -inf. Вы можете заменить их оба на 0

Для фрейма данных 

X.replace([np.inf, -np.inf], np.nan, inplace=True)
X = X.fillna(0)

или если ваши данные находятся в массиве numpy 

X[np.isnan(X)] = 0

X[X == np.inf] = 0 
X[X == -np.inf] = 0
...