Нормализовать данные в кадре данных в диапазоне [0,1] - PullRequest
0 голосов
/ 09 апреля 2020

Я пытаюсь реализовать статью, в которой используется набор данных о диабете индейцев PIMA. Это набор данных после вменения пропущенных значений:

Preg    Glucose     BP     SkinThickness    Insulin     BMI    Pedigree Age Outcome
0   1   148.0   72.000000   35.00000    155.548223  33.600000   0.627   50  1
1   1   85.0    66.000000   29.00000    155.548223  26.600000   0.351   31  0
2   1   183.0   64.000000   29.15342    155.548223  23.300000   0.672   32  1
3   1   89.0    66.000000   23.00000    94.000000   28.100000   0.167   21  0
4   0   137.0   40.000000   35.00000    168.000000  43.100000   2.288   33  1
5   1   116.0   74.000000   29.15342    155.548223  25.600000   0.201   30  0

Описание:

df.describe()
      Preg       Glucose        BP        SkinThickness  Insulin     BMI    Pedigree    Age
count768.000000 768.000000  768.000000  768.000000  768.000000  768.000000  768.000000  768.000000
mean0.855469    121.686763  72.405184   29.153420   155.548223  32.457464   0.471876    33.240885
std 0.351857    30.435949   12.096346   8.790942    85.021108   6.875151    0.331329    11.760232
min 0.000000    44.000000   24.000000   7.000000    14.000000   18.200000   0.078000    21.000000
25% 1.000000    99.750000   64.000000   25.000000   121.500000  27.500000   0.243750    24.000000
50% 1.000000    117.000000  72.202592   29.153420   155.548223  32.400000   0.372500    29.000000
75% 1.000000    140.250000  80.000000   32.000000   155.548223  36.600000   0.626250    41.000000
max 1.000000    199.000000  122.000000  99.000000   846.000000  67.100000   2.420000    81.000000

Описание нормализации из статьи выглядит следующим образом:

В рамках нашей предварительной обработки данных исходные значения данных масштабируются таким образом, чтобы они попадали в небольшой указанный диапазон значений [0,1], выполняя нормализацию набора данных. Это улучшит скорость и уменьшит сложность среды выполнения. Используя Z-показатель, мы нормализуем наш набор значений V, чтобы получить новый набор нормализованных значений V 'с помощью следующего уравнения: V' = VY / Z, где V '= новое нормализованное значение, V = предыдущее значение, Y = среднее значение и Z = стандартное отклонение

 z=scipy.stats.zscore(df)

Но когда я пытаюсь запустить приведенный выше код, я получаю отрицательные значения и значения больше единицы, т.е. не в диапазоне [0,1].

1 Ответ

0 голосов
/ 09 апреля 2020

Это потому, что вы не завершили sh процесс: все, что вы сделали, это получили вектор Z-показателей. Вы должны применить оставшиеся указанные вычисления.

Z-оценка показывает, сколько sdevs (стандартных отклонений) этого элемента выше / ниже среднего. Вам все еще нужно вычесть среднее и поделить на sdev, чтобы получить каноническую [-1, 1] нормализацию. Я ожидаю, что теперь вы можете изменить необходимую алгебру, чтобы получить желаемый интервал [0, 1].

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...