Перед тем, как реализовать кластеризацию (k-означает или иным образом), вам необходимо выяснить, как сравнивать одно изображение с другим.Обычно это зависит от типа изображений, которые вы имеете, от того, какие функции вы можете извлечь (цвета, края, формы и т.SURF особенности других изображений.Образцы OpenCV должны помочь вам начать извлекать SURF.
Другие подходы заключаются в извлечении краев, форм, цветовых гистограмм и сравнении с другими.После этого кластеризация должна быть достаточно простой.