Доказательство того, что k-means всегда сходится?
Я понимаю шаги алгоритмов k-means. Однако я не уверен, что алгоритм всегда сходится? Или наблюдения всегда могут переключаться с одного центроида на другой?
1 ответов
алгоритм всегда сходится (по определению), но не обязательно к глобальному оптимуму.
алгоритм может переключаться с центроида на центроид, но это параметр алгоритма (precision или delta). Это иногда называют "велоспорт". Алгоритм через некоторое время циклы через центроиды. Существует два решения (которые могут использоваться одновременно). , maximum number of iterations параметр.
Precision параметр, если количество изменений центроидов меньше порогового значения delta остановить алгоритм.
Max Num Iterations, если алгоритм достигает этого количества итераций, остановите алгоритм.
Примечание что вышеуказанные схемы не портят характеристики сходимости алгоритма. он по-прежнему будет сходиться, но не обязательно к глобальному оптимуму (это не имеет отношения к используемой схеме, как и во многих оптимизациях алгоритмы.)
вас может заинтересовать соответствующий вопрос по статистике.SE велоспорт в алгоритме k-means и ссылка доказательство сходимости