Я пытаюсь ответить на вопрос, сформулированный следующим образом
Дайте подробное объяснение анализа главных компонентов. Ваше объяснение должно включать объяснение терминов: geometri c информация; ковариационная матрица; ортогональное преобразование; Спектральная теорема и описание того, как эту технику можно использовать для уменьшения размерности при сохранении большого количества геометрических c информации
Насколько я понимаю, анализ главных компонентов состоит в том, что он уменьшает количество переменных x1, x2 ... к меньшему набору основных компонентов, которые хранят как можно больше исходной информации из исходных переменных в этих вновь созданных основных компонентах.
Например, если нужно уменьшить два атрибута автомобиля, скажем, скорость и размер двигателя в один главный компонент. Эти исходные компоненты будут нанесены на плоскость xy, а затем объединены в новую линию наилучшего соответствия (или главный компонент 1), поместив эти точки через ортогональное преобразование, которое сохраняет исходное расстояние точек друг от друга.
Ковариационная матрица измеряет, как вариации пар переменных связаны друг с другом, и ее диагональные значения всегда равны 0. Таким образом, в этом примере она будет хранить дисперсию скоростей автомобилей и объема двигателя.
Затем ковариационная матрица используется для вычисления соответствующего набора собственных значений и собственных векторов.
Размерность можно уменьшить, выбрав k наибольших собственных векторов в качестве новых k главных компонентов, которые представляют как можно большую часть дисперсии с минимальным количеством переменные. Чем больше уменьшается размерность (т.е. чем больше основных компонентов удаляется), тем меньше дисперсия исходных переменных (или геометрической c информации) фиксируется в конечном результате.
Мои два вопроса:
- Как спектральная теорема соотносится с PCA.
- Достаточно ли подробно я объяснил, что PCA делает в противном случае.