Разница между кластеризацией K-средних и векторным квантованием?

Question

В чем разница между кластеризацией K-средних и векторным квантованием? Они кажутся очень похожими.

Я имею дело с Скрытыми марковскими моделями , и мне нужно извлечь символы из векторов объектов.

Чтобы извлечь символы, я делаю векторное квантование или кластеризацию Kmeans?

Answer 1

Как я понимаю, K-means - это один из типов векторного квантования.

Answer 2

Алгоритмы K-средних - это специализация знаменитого алгоритма квантования "Ллойда I" для случая эмпирических распределений.(ср. Ллойд)

Доказано, что алгоритм Ллойда I дает последовательность квантователей с уменьшающимся квадратичным искажением.Однако, за исключением особого случая одномерных лог-вогнутых распределений, он не всегда сходится к квадратичному оптимальному квантователю.(Существуют локальные минимумы для ошибки квантования, особенно когда речь идет об эмпирическом распределении, т.е. о проблеме кластеризации.)

Метод, который сходится (всегда) к оптимальному квантователю, - это так называемые алгоритмы CLVQ, которые такжеобобщает на проблему более общего L ^ p квантования.Это своего рода стохастический метод градиента.(ср. Пагес)

Существуют также некоторые подходы, основанные на генетических алгоритмах.(см. Hamida et al.) и / или классические процедуры оптимизации для одномерного случая, которые сходятся быстрее (Pagès, Printems).