Как сделать кластеризацию документов Lucene? - PullRequest
Новая
       47

Как сделать кластеризацию документов Lucene?

12 голосов
/ 04 декабря 2009

Я читаю, что я могу создавать векторы mahout из индекса lucene, который можно использовать для применения алгоритмов кластеризации mahout. http://cwiki.apache.org/confluence/display/MAHOUT/Creating+Vectors+from+Text

Я хотел бы применить алгоритм кластеризации K-средних в документах в моем индексе Lucene, но не ясно, как я могу применить этот алгоритм (или иерархическую кластеризацию) для извлечения значимых кластеров из этих документов.

На этой странице http://cwiki.apache.org/confluence/display/MAHOUT/k-Means говорит, что алгоритм принимает две входные директории: одну для точек данных и одну для начальных кластеров. Мои данные являются документами? Как я могу «объявить», что это мои документы (или их векторы), просто взять их и выполнить кластеризацию?

заранее извините за мою плохую грамматику

Спасибо

Ответы [ 3 ]

3 голосов
/ 04 декабря 2009

Если у вас есть векторы, вы можете запустить KMeansDriver. Вот помощь для того же. 

Usage:
 [--input <input> --clusters <clusters> --output <output> --distance <distance>
--convergence <convergence> --max <max> --numReduce <numReduce> --k <k>
--vectorClass <vectorClass> --overwrite --help]
Options
  --input (-i) input                The Path for input Vectors. Must be a
                                    SequenceFile of Writable, Vector
  --clusters (-c) clusters          The input centroids, as Vectors.  Must be a
                                    SequenceFile of Writable, Cluster/Canopy.
                                    If k is also specified, then a random set
                                    of vectors will be selected and written out
                                    to this path first
  --output (-o) output              The Path to put the output in
  --distance (-m) distance          The Distance Measure to use.  Default is
                                    SquaredEuclidean
  --convergence (-d) convergence    The threshold below which the clusters are
                                    considered to be converged.  Default is 0.5
  --max (-x) max                    The maximum number of iterations to
                                    perform.  Default is 20
  --numReduce (-r) numReduce        The number of reduce tasks
  --k (-k) k                        The k in k-Means.  If specified, then a
                                    random selection of k Vectors will be
                                    chosen as the Centroid and written to the
                                    clusters output path.
  --vectorClass (-v) vectorClass    The Vector implementation class name.
                                    Default is SparseVector.class
  --overwrite (-w)                  If set, overwrite the output directory
  --help (-h)                       Print out help

Обновление: получить каталог результатов из HDFS в локальную фс. Затем используйте утилиту ClusterDumper, чтобы получить кластер и список документов в этом кластере.

1 голос
/ 07 апреля 2011

Хорошая инструкция здесь: интеграция Apache Mahout с Apache Lucene

0 голосов
/ 03 сентября 2010

@ maiky Вы можете прочитать больше о чтении вывода и использовании утилиты clusterdump на этой странице -> https://cwiki.apache.org/confluence/display/MAHOUT/Cluster+Dumper

...