мера расстояния, используемая для расчета k ближайшего соседа

Question

Я читаю о k ближайшем соседе, и мера расстояния, приведенная в примере, такая, как показано ниже.

Он говорит, что Ri - это диапазон i-го компонента.Я не понимаю, какое расстояние используется здесь?Я понимаю евклидово расстояние, но это не так.Не могли бы вы помочь объяснить, что такое «диапазон i-го компонента» и что это за мера расстояния?Большое спасибо.Пожалуйста, дайте мне знать, если вам нужна дополнительная информация.

Answer 1

Формула дана только для евклидова расстояния, за исключением того, что нормализация данных выполняется на месте при расчете расстояния.

Нормализация данных необходима для KNN, потому что если этого не сделать, то характеристики с более высокимзначения будут доминировать при принятии решения о выходе.Приведенная выше формула для KNN пропускает явный шаг нормализации и делает это на месте при расчете расстояния.

ПРИМЕЧАНИЕ: - Здесь i обозначает столбец i ^th , а не строку.

Здесь приведено фактическое объяснение формулы:

R _i = x _i ^max - x _i ^min

При нормализации мы преобразуем каждую строку, используя следующее преобразование:

x _i = x _i / (x _i ^max - x _i ^min )

Итак, при вычислении расстоянияформула эффективна,

d ² = ((a ₁ - x ^min ) - (b ₁ -x ^min )) ² / R ₁ ² + ((a ₂ - x ^min) - (b ₂ - x ^min )) ² / R ₂ ² +... + ((a _n - x ^min ) - (b _n - x ^min )) ² / R _n ²

, что эффективно,

d ² = (a ₁ - b ₁ ) ² / R ₁ ² + (a ₂ - b ₂ ) ² / R ₂ ² + ... + (a _n - b _n ) ² /R _n ²

, что показано на изображении выше.

Answer 2

Диапазон - это разница между максимальным и минимальным значением этой функции (столбца) в наборе обучающих данных.

Вы можете думать об этом как о L1 норме, поскольку мы берем только абсолютное расстояние между максимумом и минимумом.Обычно это делается для нормализации расчета расстояния между объектами, чтобы некоторые объекты не доминировали при расчете расстояния.