Выбор правильного типа нейронной сети - PullRequest
7 голосов
/ 22 апреля 2011

У меня есть проблема обучения под наблюдением, где моему алгоритму будет дан набор обучающих примеров для изучения того, является ли форма кругом квадрата.Мне было интересно, какой тип ANN будет лучшим.Я знаю, что вы можете выбрать персептрон, если данные являются линейно разделимыми. Конечно, я могу легко иметь гиперплоскость, которая делит мои квадраты и кружит вверх?Так разве персептрон не является достаточно хорошим выбором?Однако разве многослойные сети прямой связи не используются чаще?Каков естественный выбор и почему?

На следующем рисунке показаны данные тренировки, предоставленные системе.NN необходимо классифицировать двумерные данные A = [a1, a2] на квадраты и кружки.

enter image description here

Спасибо.

1 Ответ

3 голосов
/ 24 апреля 2011

Предоставленный вами набор данных не является линейно разделяемым в пространстве, охватываемом a1 и a2, поэтому персептрон не подойдет. Вам нужен многослойный персептрон (MLP). В общем, MLP используются чаще, потому что они могут делать все, что может делать однослойный персептрон (см. Теорему об универсальном приближении). Радиальная функция также сделает работу. Ноли намекнул на что-то интересное, но гораздо более сложное - набор данных становится линейно разделимым с высокой вероятностью, если проецируется на очень очень большое пространство измерений (теорема Коверса). Это мотивация для использования машин опорных векторов.

Таким образом, естественного выбора не существует, все зависит от конкретной проблемы. Эксперимент. Мой лектор говорил: «Кроссвалидация - твой друг»

...