Разница между PCA, ICA и автоэнкодером - PullRequest
0 голосов
/ 07 февраля 2019

Я работаю над PCA, ICA и Autoencoder.Я пытаюсь понять интуитивное различие между этими 3 идеями.

PCA пытается найти направление (линейное), глядя на максимальную дисперсию.

ICA пытается найти направление, которое является статистически независимым.Но я запутался насчет независимых компонентов коллектора.Это линейное преобразование исходных данных?или это нелинейное преобразование?

Если ICA - нелинейное преобразование, то в чем разница между ICA и весовыми векторами, которые мы изучаем после тренировки Автоэнкодер (AE) ?

В ICA мы предполагаем ограничение статистической независимости, но в AE мы не принимаем такие ограничения, это то, что я понял до сих пор.

Мой главный вопрос: почему кто-то будет использовать AEвместо ICA, если ICA изучает нелинейное преобразование?

PS Я использую нелинейную функцию контрастности, $$ (exp (-x ^ 2/2)) $$

...