Кадр данных возвращает значения как NaN, несмотря на отсутствие NaN? - PullRequest
0 голосов
/ 10 марта 2019

У меня есть датафрейм, прочитанный из файла csv. При подаче данных из случайного леса или модели SVM с этими данными я получаю ответное сообщение об ошибке

"ValueError: Input contains NaN, infinity or a value too large for dtype('float64')."

Поэтому, когда я проверяю свой фрейм данных на наличие значений NaN, он возвращает весь мой фрейм данных в виде значений NaN. Однако, когда я печатаю произвольную ячейку в моем фрейме данных, это дает мне правильную точку данных, а не NaN. Кто-нибудь знает, что здесь происходит?

Использование кода ниже для получения моих значений NaN:

X_test.isnull().values.any()

(возвращает True)

null_rows = X_test[X_test.isnull()]
print(null_rows)

 lag k = -1  lag k = -2  lag k = -3  lag k = 1  lag k = 2  lag k = 3  \
137354         NaN         NaN         NaN        NaN        NaN        NaN   
137355         NaN         NaN         NaN        NaN        NaN        NaN   
137356         NaN         NaN         NaN        NaN        NaN        NaN   
137357         NaN         NaN         NaN        NaN        NaN        NaN   
137358         NaN         NaN         NaN        NaN        NaN        NaN   
137359         NaN         NaN         NaN        NaN        NaN        NaN   
137360         NaN         NaN         NaN        NaN        NaN        NaN   
137361         NaN         NaN         NaN        NaN        NaN        NaN   
137362         NaN         NaN         NaN        NaN        NaN        NaN   
137363         NaN         NaN         NaN        NaN        NaN        NaN   
137364         NaN         NaN         NaN        NaN        NaN        NaN   
137365         NaN         NaN         NaN        NaN        NaN        NaN   
137366         NaN         NaN         NaN        NaN        NaN        NaN   
137367         NaN         NaN         NaN        NaN        NaN        NaN   
137368         NaN         NaN         NaN        NaN        NaN        NaN   
137369         NaN         NaN         NaN        NaN        NaN        NaN   
137370         NaN         NaN         NaN        NaN        NaN        NaN   
137371         NaN         NaN         NaN        NaN        NaN        NaN   
137372         NaN         NaN         NaN        NaN        NaN        NaN   
137373         NaN         NaN         NaN        NaN        NaN        NaN   
137374         NaN         NaN         NaN        NaN        NaN        NaN   
137375         NaN         NaN         NaN        NaN        NaN        NaN   
137376         NaN         NaN         NaN        NaN        NaN        NaN   
137377         NaN         NaN         NaN        NaN        NaN        NaN   
137378         NaN         NaN         NaN        NaN        NaN        NaN   
137379         NaN         NaN         NaN        NaN        NaN        NaN   
137380         NaN         NaN         NaN        NaN        NaN        NaN   
137381         NaN         NaN         NaN        NaN        NaN        NaN   
137382         NaN         NaN         NaN        NaN        NaN        NaN   
137383         NaN         NaN         NaN        NaN        NaN        NaN   
...            ...         ...         ...        ...        ...        ...   
140176         NaN         NaN         NaN        NaN        NaN        NaN   
140177         NaN         NaN         NaN        NaN        NaN        NaN   
140178         NaN         NaN         NaN        NaN        NaN        NaN   
140179         NaN         NaN         NaN        NaN        NaN        NaN   
140180         NaN         NaN         NaN        NaN        NaN        NaN   
140181         NaN         NaN         NaN        NaN        NaN        NaN   
140182         NaN         NaN         NaN        NaN        NaN        NaN   
140183         NaN         NaN         NaN        NaN        NaN        NaN   
140184         NaN         NaN         NaN        NaN        NaN        NaN   
140185         NaN         NaN         NaN        NaN        NaN        NaN   
140186         NaN         NaN         NaN        NaN        NaN        NaN   
140187         NaN         NaN         NaN        NaN        NaN        NaN   
140188         NaN         NaN         NaN        NaN        NaN        NaN   
140189         NaN         NaN         NaN        NaN        NaN        NaN   
140190         NaN         NaN         NaN        NaN        NaN        NaN   
140191         NaN         NaN         NaN        NaN        NaN        NaN   
140192         NaN         NaN         NaN        NaN        NaN        NaN   
140193         NaN         NaN         NaN        NaN        NaN        NaN   
140194         NaN         NaN         NaN        NaN        NaN        NaN   
140195         NaN         NaN         NaN        NaN        NaN        NaN   
140196         NaN         NaN         NaN        NaN        NaN        NaN   
140197         NaN         NaN         NaN        NaN        NaN        NaN   
140198         NaN         NaN         NaN        NaN        NaN        NaN   
140199         NaN         NaN         NaN        NaN        NaN        NaN   
140200         NaN         NaN         NaN        NaN        NaN        NaN   
140201         NaN         NaN         NaN        NaN        NaN        NaN   
140202         NaN         NaN         NaN        NaN        NaN        NaN   
140203         NaN         NaN         NaN        NaN        NaN        NaN   
140204         NaN         NaN         NaN        NaN        NaN        NaN   
140205         NaN         NaN         NaN        NaN        NaN        NaN   

        lag k = 23  lag k = 24  lag k = 48  Hour_0   ...     Hour_14  Hour_15  \
137354         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137355         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137356         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137357         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137358         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137359         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137360         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137361         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137362         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137363         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137364         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137365         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137366         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137367         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137368         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137369         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137370         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137371         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137372         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137373         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137374         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137375         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137376         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137377         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137378         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137379         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137380         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137381         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137382         NaN         NaN         NaN     NaN   ...         NaN      NaN   
137383         NaN         NaN         NaN     NaN   ...         NaN      NaN   
...            ...         ...         ...     ...   ...         ...      ...   
140176         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140177         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140178         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140179         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140180         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140181         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140182         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140183         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140184         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140185         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140186         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140187         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140188         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140189         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140190         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140191         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140192         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140193         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140194         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140195         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140196         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140197         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140198         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140199         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140200         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140201         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140202         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140203         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140204         NaN         NaN         NaN     NaN   ...         NaN      NaN   
140205         NaN         NaN         NaN     NaN   ...         NaN      NaN   

        Hour_16  Hour_17  Hour_18  Hour_19  Hour_20  Hour_21  Hour_22  Hour_23  
137354      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137355      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137356      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137357      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137358      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137359      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137360      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137361      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137362      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137363      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137364      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137365      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137366      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137367      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137368      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137369      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137370      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137371      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137372      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137373      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137374      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137375      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137376      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137377      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137378      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137379      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137380      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137381      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137382      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
137383      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
...         ...      ...      ...      ...      ...      ...      ...      ...  
140176      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140177      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140178      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140179      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140180      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140181      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140182      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140183      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140184      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140185      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140186      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140187      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140188      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140189      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140190      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140191      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140192      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140193      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140194      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140195      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140196      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140197      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140198      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140199      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140200      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140201      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140202      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140203      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140204      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  
140205      NaN      NaN      NaN      NaN      NaN      NaN      NaN      NaN  

[2852 rows x 33 columns]

Проверка первого ряда дает:

display((X_test.loc[[137354]].isnull().any()))


lag k = -1    False
lag k = -2    False
lag k = -3    False
lag k = 1     False
lag k = 2     False
lag k = 3     False
lag k = 23    False
lag k = 24    False
lag k = 48    False
Hour_0        False
Hour_1        False
Hour_2        False
Hour_3        False
Hour_4        False
Hour_5        False
Hour_6        False
Hour_7        False
Hour_8        False
Hour_9        False
Hour_10       False
Hour_11       False
Hour_12       False
Hour_13       False
Hour_14       False
Hour_15       False
Hour_16       False
Hour_17       False
Hour_18       False
Hour_19       False
Hour_20       False
Hour_21       False
Hour_22       False
Hour_23       False
dtype: bool

Следовательно, я не понимаю, почему мои модели говорят, что я кормлю NaN или почему приведенные выше строки кода указывают, что в наборе данных есть NaN.

Ценю любые отзывы

Спасибо!

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...