Вычислить функцию наилучшей стоимости - SVM

Question

Мне нужно вычислить функцию стоимости для следующей задачи классификации, используя SVM:

Данные обучения:

X1   X2   Y  
1.3  0.2  0
1.5  0.4  0
4.7  1.4  1
4.5  1.5  1

A. 1.6*x1 + 4*x2 - 5.6 = 0
B. 2.4*x1 + 4 * x2 - 7.2 = 0
C. 0.96*x1 + 4 * x2 - 4.8 = 0

Как рассчитать функцию стоимости для каждого решенияграницы выше, чтобы найти лучшее?

Answer 1

Чтобы рассчитать «стоимость» каждой границы решения, вы должны рассчитать прогнозируемую метку для каждой точки данных. Например, для границы решения A и первой точки данных необходимо заменить x1 = 1.3 и x2 = 0.2, а затем прогнозируемая метка будет 1.6 * 1.3 + 4 * 0.2 - 5.6 = -2.72. Поскольку вы имеете дело с двоичной меткой, обычно модель (вы не обучаете модель, и граница решения уже задана) должна сказать что-то вроде «если (1.6 * x1 + 4 * x2 - 5.6)> = 0, то ее метка 1 "(или наоборот). Дважды проверьте заданную модель. Например, давайте предположим, что предсказанная метка для границы решения A и первой точки данных равна 0 (так как вычисленное значение равно -2,72 <0), тогда это истинно отрицательный (поскольку предсказанная метка и данная метка оба <code>0).

Всего 4 случая: 1) Если прогнозируемая метка равна 1, а заданная метка равна 1, она называется «истинно положительной». 2) Если прогнозируемая метка равна 0, а заданная метка равна 0, она называется «истинно отрицательной». 3) Если прогнозируемая метка равна 1, а заданная метка равна 0, она называется «ложное срабатывание». 4) Если прогнозируемая метка равна 0, а заданная метка равна 1, она называется «ложноотрицательный».

Тогда, как правило, функция стоимости - это функция в терминах числа «истинно положительный», «истинно отрицательный», «ложно положительный», «ложно отрицательный». Затем, после того как вы вычислили прогнозируемые метки для всех четырех заданных точек данных, вы можете рассчитать эти числа и, следовательно, стоимость модели.

P.S. В 99,9% случаев функция стоимости будет обозначаться как «ложно положительный», только «ложно отрицательный», но иногда она может зависеть и от «истинно положительного», «истинно отрицательного» в некоторых очень редких случаях.