Каковы параметры функции ядра в SVM?

Question

Я пытаюсь понять функции ядра, в частности, функцию gaussian / RBF K(a,b) = exp(-gamma||a-b||**2).

Как я понимаю, это вычисление меры подобия для векторов a и b частично с использованием евклидова расстояния.Мой вопрос, однако, не о специфике этого ядра.

Что я не понимаю: что такое векторы a и b, когда вы используете это ядро ​​в SVM?

Answer 1

SVM - это контролируемый алгоритм обучения, поэтому будет этап обучения и этап тестирования, на котором вы будете использовать выборку собранных данных.

Образец данных, используемых для обучения, обычно обозначается {x_i, y_i}, где x - это действительные значения для каждого элемента данных, а y - соответствующие метки (см. страница SVM википедии в разделе «Линейный СВМ», например).Для каждого ядра K (a, b).значения «a» и «b» - это x_i и x_j имеющихся у вас данных.

На этапе тестирования у вас будет только набор {x_i}, и вы хотите оценить соответствующий y.Также в этом случае «a» и «b» - это x_i и x_j данных, которые у вас есть.

EDIT

K (a, b) рассчитывается для каждой пары (a,б) = (x_i, x_j), меняя i и j.Ядро представляет собой скалярное произведение ( Трюк с ядром ), определяемое в пространстве признаков так называемой функцией фи.SVM нужны все точечные произведения всех пар, потому что потеря шарнира охватывает сумму по i и j всех точечных произведений (это означает все K (x_i, x_j)).

Например,, если у вас есть набор {x_i} = {x_1, x_2}, вам нужно K (x_1, x_1), K (x_1, x_2), K (x_2, x_1), K (x_2, x_2)

(Для каждого ядра K (a, b) = K (b, a), являясь точечным произведением, то симметричным. В конце концов вам не нужно K (x_2, x_1))