mahout lucene кластеризация документов howto?

Я читаю, что я могу создавать векторы mahout из индекса lucene, который можно использовать для применения алгоритмов кластеризации mahout. http://cwiki.apache.org/confluence/display/MAHOUT/Creating + векторы + от + текст

Я хотел бы применить алгоритм кластеризации K-средних в документах в моем индексе Lucene, но неясно, как я могу применить этот алгоритм (или иерархическую кластеризацию) для извлечения значимых кластеров с этими документами.

на этой странице http://cwiki.apache.org/confluence/display/MAHOUT/k-Means говорит, что алгоритм принимает два входных каталогах: один для данных и один для начальных кластеров. Мои точки данных-это документы? Как я могу "объявить", что это мои документы (или их векторы), просто взять их и сделать кластеризацию?

заранее извините за мою плохую грамматику

спасибо

12
cluster-analysis indexing k-means lucene mahout

3 ответов

Если у вас есть векторы, вы можете запустить KMeansDriver. Вот помощь для того же.

Usage:
 [--input <input> --clusters <clusters> --output <output> --distance <distance>
--convergence <convergence> --max <max> --numReduce <numReduce> --k <k>
--vectorClass <vectorClass> --overwrite --help]
Options
  --input (-i) input                The Path for input Vectors. Must be a
                                    SequenceFile of Writable, Vector
  --clusters (-c) clusters          The input centroids, as Vectors.  Must be a
                                    SequenceFile of Writable, Cluster/Canopy.
                                    If k is also specified, then a random set
                                    of vectors will be selected and written out
                                    to this path first
  --output (-o) output              The Path to put the output in
  --distance (-m) distance          The Distance Measure to use.  Default is
                                    SquaredEuclidean
  --convergence (-d) convergence    The threshold below which the clusters are
                                    considered to be converged.  Default is 0.5
  --max (-x) max                    The maximum number of iterations to
                                    perform.  Default is 20
  --numReduce (-r) numReduce        The number of reduce tasks
  --k (-k) k                        The k in k-Means.  If specified, then a
                                    random selection of k Vectors will be
                                    chosen as the Centroid and written to the
                                    clusters output path.
  --vectorClass (-v) vectorClass    The Vector implementation class name.
                                    Default is SparseVector.class
  --overwrite (-w)                  If set, overwrite the output directory
  --help (-h)                       Print out help

Update: получить каталог результатов из HDFS в локальную fs. С помощью утилиты ClusterDumper для кластера и список документов в кластере.

3

довольно хороший howto здесь: интеграция apache mahout с apache lucene

1

@ maiky Вы можете узнать больше о чтении вывода и использовании утилиты clusterdump на этой странице -> https://cwiki.apache.org/confluence/display/MAHOUT/Cluster + самосвал

0