Выбор функций в MATLAB

Question

У меня есть набор данных для классификации текста, готовый для использования в MATLAB. Каждый документ является вектором в этом наборе данных, и размерность этого вектора чрезвычайно высока. В этих случаях peopl обычно выбирает некоторые функции для векторов, подобных тем, которые у вас есть на самом деле, набор инструментов WEKA. Есть ли что-нибудь подобное в MATLAB? Если не можете предложить и алгоритм для меня, чтобы сделать это ...? спасибо

Answer 1

MATLAB (и его наборы инструментов) включают в себя ряд функций, связанных с выбором функций:

• RANDFEATURES (Биоинформатический инструментарий): генерировать рандомизированное подмножество объектов, управляемых классификатором
• RANKFEATURES (набор инструментов для биоинформатики): ранжирование элементов по критериям разделения классов
• SEQUENTIALFS (Панель инструментов статистики): последовательный выбор функции
• RELIEFF (Панель инструментов статистики): алгоритм Relief-F
• TREEBAGGER.OOBPermutedVarDeltaError , ForextorImportance (Панель инструментов статистики): Использование методов ансамбля (деревья решений в пакетах)

Вы также можете найти примеры, демонстрирующие использование на реальных наборах данных:

• Идентификация существенных признаков и классификация белковых профилей
• Генетический алгоритм Поиск признаков в данных масс-спектрометрии

Кроме того, существуют сторонние наборы инструментов:

• Набор инструментов Matlab для уменьшения размерности
• LIBGS: пакет MATLAB для выбора генов

В противном случае вы всегда можете вызывать ваши любимые функции из WEKA напрямую из MATLAB, поскольку он включает JVM ...

Answer 2

Вы можете рассмотреть возможность использования метода независимых функций Вейса и Куликовского для быстрого устранения переменных, которые явно не имеют значения:

http://matlabdatamining.blogspot.com/2006/12/feature-selection-phase-1-eliminate.html

Answer 3

Выбор функции зависит от конкретной задачи, которую вы хотите выполнить с текстовыми данными.

Одним из самых простых и грубых методов является использование анализа основных компонентов (PCA) для уменьшения размеров данных.Эти данные уменьшенного размера могут использоваться непосредственно в качестве признаков для классификации.

См. Учебное пособие по использованию PCA здесь:

http://matlabdatamining.blogspot.com/2010/02/principal-components-analysis.html

Вот ссылка на команду Matlab PCAhelp:

http://www.mathworks.com/help/toolbox/stats/princomp.html

Используя полученные особенности, для классификации можно использовать хорошо известные машины опорных векторов (SVM).

http://www.mathworks.com/help/toolbox/bioinfo/ref/svmclassify.html http://www.autonlab.org/tutorials/svm.html