Кластерный анализ: методы и применение

Введение

Группировка набора объектов по схожести

Кластерный анализ, или кластеризация, – это задача группировки набора объектов таким образом, чтобы объекты в одной группе (называемой кластером) были более похожи (в некотором конкретном смысле, определяемом аналитиком) друг на друга, чем на объекты в других группах (кластерах). Это одна из основных задач разведочного анализа данных и распространенный метод статистического анализа данных, используемый во многих областях, включая распознавание образов, анализ изображений, информационный поиск, биоинформатику, сжатие данных, компьютерную графику и машинное обучение. Кластерный анализ представляет собой семейство алгоритмов и задач, а не один конкретный алгоритм. Его можно реализовать с помощью различных алгоритмов, которые существенно различаются в понимании того, что составляет кластер и как эффективно его находить. Популярные представления о кластерах включают группы с небольшими расстояниями между членами кластера, плотные области пространства данных, интервалы или определенные статистические распределения. Таким образом, кластеризация может быть сформулирована как многокритериальная задача оптимизации. Подходящий алгоритм кластеризации и настройки параметров (включая такие параметры, как функция расстояния, порог плотности или количество ожидаемых кластеров) зависят от конкретного набора данных и предполагаемого использования результатов. Кластерный анализ как таковой не является автоматической задачей, а представляет собой итеративный процесс открытия знаний или интерактивную многокритериальную оптимизацию, включающую в себя пробные действия и анализ неудач. Часто необходимо изменять предварительную обработку данных и параметры модели до тех пор, пока результат не достигнет желаемых свойств. Помимо термина «кластеризация», существует ряд терминов с аналогичным значением, включая автоматическую классификацию, численную таксономию, ботриологию (от βότρυς), типологический анализ и обнаружение сообществ. Тонкие различия часто заключаются в использовании результатов: в то время как в интеллектуальном анализе данных интересуют получаемые группы, в автоматической классификации интересует получаемая дискриминационная способность. Кластерный анализ был разработан в антропологии Драйвером и Кроебером в 1932 году и введен в психологию Джозефом Зубином в 1938 году и Робертом Трайоном в 1939 году, а затем широко использовался Кэттеллом, начиная с 1943 года, для классификации теории черт в психологии личности.

Cluster analysis or clustering is the task of grouping a set of objects in such a way that objects in the same group (called a cluster) are more similar (in some specific sense defined by the analyst) to each other than to those in other groups (clusters). It is a main task of exploratory data analysis, and a common technique for statistical data analysis, used in many fields, including pattern recognition, image analysis, information retrieval, bioinformatics, data compression, computer graphics and machine learning. Cluster analysis refers to a family of algorithms and tasks rather than one specific algorithm. It can be achieved by various algorithms that differ significantly in their understanding of what constitutes a cluster and how to efficiently find them. Popular notions of clusters include groups with small distances between cluster members, dense areas of the data space, intervals or particular statistical distributions. Clustering can therefore be formulated as a multi objective optimization problem. The appropriate clustering algorithm and parameter settings (including parameters such as the distance function to use, a density threshold or the number of expected clusters) depend on the individual data set and intended use of the results. Cluster analysis as such is not an automatic task, but an iterative process of knowledge discovery or interactive multi objective optimization that involves trial and failure. It is often necessary to modify data preprocessing and model parameters until the result achieves the desired properties. Besides the term clustering, there is a number of terms with similar meanings, including automatic classification, numerical taxonomy, botryology (from βότρυς ), typological analysis, and community detection. The subtle differences are often in the use of the results: while in data mining, the resulting groups are the matter of interest, in automatic classification the resulting discriminative power is of interest. Cluster analysis was originated in anthropology by Driver and Kroeber in 1932 and introduced to psychology by Joseph Zubin in 1938 and Robert Tryon in 1939 and famously used by Cattell beginning in 1943 for trait theory classification in personality psychology.

Алгоритмы

Как указано выше, алгоритмы кластеризации можно классифицировать в зависимости от используемой ими модели кластеров. В данном обзоре будут рассмотрены лишь наиболее известные примеры алгоритмов кластеризации, поскольку существует более ста опубликованных алгоритмов. Не все из них предоставляют модели для своих кластеров, и поэтому их сложно классифицировать. Обзор алгоритмов, описанных в Википедии, можно найти в списке статистических алгоритмов. Не существует объективно "правильного" алгоритма кластеризации, но, как отмечалось, "восприятие кластеризации субъективно".

Кластеризация на основе подключения (иерархическая кластеризация)

Кластеризация на основе связей, также известная как иерархическая кластеризация, основана на ключевой идее, что объекты более тесно связаны с ближайшими объектами, чем с удалёнными. Эти алгоритмы соединяют "объекты" для формирования "кластеров" на основе расстояния между ними. Кластер можно в значительной степени охарактеризовать максимальным расстоянием, необходимым для соединения его частей. При разных расстояниях будут формироваться различные кластеры, которые можно представить с помощью дендрограммы, откуда и происходит общее название "иерархическая кластеризация": эти алгоритмы не предоставляют единственного разбиения набора данных, а вместо этого формируют разветвлённую иерархию кластеров, которые объединяются на определённых расстояниях. В дендрограмме ось Y показывает расстояние, на котором происходит объединение кластеров, а объекты располагаются вдоль оси X таким образом, чтобы кластеры не пересекались. Кластеризация на основе связей представляет собой целое семейство методов, различающихся способом вычисления расстояний. Помимо стандартного выбора функций расстояния, пользователю также необходимо определить критерий связи (поскольку кластер состоит из нескольких объектов, существует несколько кандидатов для вычисления расстояния). Популярные варианты включают односвязную кластеризацию (минимальное расстояние между объектами), полносвязную кластеризацию (максимальное расстояние между объектами) и UPGMA или WPGMA ("Невешенный или взвешенный метод группировки пар с использованием арифметического среднего", также известный как кластеризация средними связями). Кроме того, иерархическая кластеризация может быть агломеративной (начиная с отдельных элементов и объединяя их в кластеры) или дивизивной (начиная с полного набора данных и разделяя его на подмножества). Эти методы не дают уникального разбиения набора данных, а создают иерархию, из которой пользователю необходимо выбрать подходящие кластеры. Они не очень устойчивы к выбросам, которые могут проявляться как отдельные кластеры или даже приводить к объединению других кластеров (известный как "эффект цепочки", особенно при односвязной кластеризации). В общем случае сложность агломеративной кластеризации составляет , а дивизивной – , что делает их слишком медленными для больших наборов данных. Для некоторых частных случаев известны оптимальные эффективные методы (сложности ): SLINK для односвязной и CLINK для полносвязной кластеризации.

Connectivity based clustering, also known as hierarchical clustering, is based on the core idea of objects being more related to nearby objects than to objects farther away. These algorithms connect "objects" to form "clusters" based on their distance. A cluster can be described largely by the maximum distance needed to connect parts of the cluster. At different distances, different clusters will form, which can be represented using a dendrogram, which explains where the common name "hierarchical clustering" comes from: these algorithms do not provide a single partitioning of the data set, but instead provide an extensive hierarchy of clusters that merge with each other at certain distances. In a dendrogram, the y axis marks the distance at which the clusters merge, while the objects are placed along the x axis such that the clusters don't mix. Connectivity based clustering is a whole family of methods that differ by the way distances are computed. Apart from the usual choice of distance functions, the user also needs to decide on the linkage criterion (since a cluster consists of multiple objects, there are multiple candidates to compute the distance) to use. Popular choices are known as single linkage clustering (the minimum of object distances), complete linkage clustering (the maximum of object distances), and UPGMA or WPGMA ("Unweighted or Weighted Pair Group Method with Arithmetic Mean", also known as average linkage clustering). Furthermore, hierarchical clustering can be agglomerative (starting with single elements and aggregating them into clusters) or divisive (starting with the complete data set and dividing it into partitions). These methods will not produce a unique partitioning of the data set, but a hierarchy from which the user still needs to choose appropriate clusters. They are not very robust towards outliers, which will either show up as additional clusters or even cause other clusters to merge (known as "chaining phenomenon", in particular with single linkage clustering). In the general case, the complexity is for agglomerative clustering and for divisive clustering, which makes them too slow for large data sets. For some special cases, optimal efficient methods (of complexity ) are known: SLINK for single linkage and CLINK for complete linkage clustering.

Кластеризация на основе центроида

В кластеризации на основе центроидов каждый кластер представлен центральным вектором, который не обязательно является элементом набора данных. Когда число кластеров фиксировано на k, алгоритм k-средних дает формальное определение как задачу оптимизации: найти k центров кластеров и отнести объекты к ближайшему центру кластера таким образом, чтобы минимизировать сумму квадратов расстояний до центров кластеров. Сама задача оптимизации известна как NP-трудная, поэтому обычно ищутся лишь приближенные решения. Особенно хорошо известен приближенный метод – алгоритм Ллойда, часто называемый просто «k-средних» (хотя другой алгоритм впервые предложил это название). Однако он находит только локальный оптимум и обычно запускается многократно с различными случайными инициализациями. Вариации k-средних часто включают в себя такие оптимизации, как выбор наилучшего результата из нескольких запусков, а также ограничение центроидов элементами набора данных (k-медоидов), выбор медиан (k-медианы), менее случайный выбор начальных центров (k-means++) или разрешение нечеткого отнесения к кластерам (нечеткие c-средние). Большинству алгоритмов типа k-средних требуется заранее задавать количество кластеров – k – что считается одним из главных недостатков этих алгоритмов. Кроме того, алгоритмы предпочитают кластеры примерно одинакового размера, поскольку всегда относят объект к ближайшему центроиду. Это часто приводит к некорректному определению границ кластеров (что неудивительно, поскольку алгоритм оптимизирует центры кластеров, а не границы). K-средние обладает рядом интересных теоретических свойств. Во-первых, он разбивает пространство данных на структуру, известную как диаграмма Вороного. Во-вторых, он концептуально близок к классификации по ближайшим соседям и поэтому популярен в машинном обучении. В-третьих, его можно рассматривать как вариант моделирующей кластеризации, а алгоритм Ллойда – как вариант алгоритма максимизации ожиданий для этой модели, который будет рассмотрен ниже. Задачи кластеризации на основе центроидов, такие как k-средних и k-медоидов, являются частными случаями задачи размещения объектов без ограничений по мощности, являющейся канонической задачей в области исследования операций и вычислительной геометрии. В базовой задаче размещения объектов (которая имеет множество вариантов, моделирующих более сложные сценарии) необходимо найти оптимальное расположение складов для обслуживания заданного набора потребителей. Можно рассматривать «склады» как центроиды кластеров, а «места расположения потребителей» – как данные, подлежащие кластеризации. Это позволяет применять хорошо разработанные алгоритмические решения из литературы по задаче размещения объектов к рассматриваемой задаче кластеризации на основе центроидов.

In centroid based clustering, each cluster is represented by a central vector, which is not necessarily a member of the data set. When the number of clusters is fixed to k, k means clustering gives a formal definition as an optimization problem: find the k cluster centers and assign the objects to the nearest cluster center, such that the squared distances from the cluster are minimized. The optimization problem itself is known to be NP hard, and thus the common approach is to search only for approximate solutions. A particularly well known approximate method is Lloyd's algorithm, often just referred to as "k means algorithm" (although another algorithm introduced this name). It does however only find a local optimum, and is commonly run multiple times with different random initializations. Variations of k means often include such optimizations as choosing the best of multiple runs, but also restricting the centroids to members of the data set (k medoids), choosing medians (k medians clustering), choosing the initial centers less randomly (k means++) or allowing a fuzzy cluster assignment (fuzzy c means). Most k means type algorithms require the number of clusters – k – to be specified in advance, which is considered to be one of the biggest drawbacks of these algorithms. Furthermore, the algorithms prefer clusters of approximately similar size, as they will always assign an object to the nearest centroid. This often leads to incorrectly cut borders of clusters (which is not surprising since the algorithm optimizes cluster centers, not cluster borders). K means has a number of interesting theoretical properties. First, it partitions the data space into a structure known as a Voronoi diagram. Second, it is conceptually close to nearest neighbor classification, and as such is popular in machine learning. Third, it can be seen as a variation of model based clustering, and Lloyd's algorithm as a variation of the Expectation maximization algorithm for this model discussed below. Centroid based clustering problems such as k means and k medoids are special cases of the uncapacitated, metric facility location problem, a canonical problem in the operations research and computational geometry communities. In a basic facility location problem (of which there are numerous variants that model more elaborate settings), the task is to find the best warehouse locations to optimally service a given set of consumers. One may view "warehouses" as cluster centroids and "consumer locations" as the data to be clustered. This makes it possible to apply the well developed algorithmic solutions from the facility location literature to the presently considered centroid based clustering problem.

Кластеризация на основе модели

Наиболее тесно связанным со статистикой каркасом кластеризации является кластеризация на основе моделей, которая базируется на моделях распределения. Этот подход моделирует данные как происходящие из смеси вероятностных распределений. Он обладает преимуществами, предоставляя обоснованные статистические ответы на вопросы о количестве кластеров, методе или модели кластеризации, а также о способах обнаружения и обработки выбросов. Несмотря на отличную теоретическую базу, эти методы подвержены переобучению, если не накладываются ограничения на сложность модели. Более сложная модель, как правило, способна лучше объяснить данные, что затрудняет выбор подходящей сложности модели. Стандартные методы кластеризации на основе моделей включают более экономные модели, основанные на разложении матриц ковариации на собственные значения, которые обеспечивают баланс между переобучением и соответствием данным. Одним из известных методов является модель гауссовских смесей (с использованием алгоритма максимизации ожиданий). Здесь набор данных обычно моделируется фиксированным (для предотвращения переобучения) количеством гауссовских распределений, которые инициализируются случайным образом, а их параметры итеративно оптимизируются для лучшего соответствия набору данных. Это сходится к локальному оптимуму, поэтому несколько запусков могут давать разные результаты. Для получения жесткой кластеризации объекты часто затем назначаются гауссовскому распределению, которому они наиболее вероятно принадлежат; для мягкой кластеризации это не требуется. Кластеризация на основе распределений создает сложные модели для кластеров, способные улавливать корреляцию и зависимость между признаками. Однако эти алгоритмы возлагают дополнительное бремя на пользователя: для многих реальных наборов данных может не существовать четко определенной математической модели (например, предположение о гауссовском распределении является достаточно сильным допущением относительно данных).

Последние события

В последние годы были предприняты значительные усилия по улучшению производительности существующих алгоритмов. Среди них – CLARANS и BIRCH. В связи с растущей потребностью в обработке всё более крупных наборов данных (также известных как большие данные), увеличивается готовность жертвовать семантическим значением формируемых кластеров ради повышения производительности. Это привело к разработке методов предварительной кластеризации, таких как кластеризация Canopy, которые могут эффективно обрабатывать огромные объемы данных, однако полученные "кластеры" представляют собой лишь грубое предварительное разбиение набора данных для последующего анализа этих разбиений с использованием существующих, более медленных методов, таких как k-средних. Для данных высокой размерности многие существующие методы оказываются неэффективными из-за "проклятия размерности", которое делает определенные функции расстояния проблематичными в пространствах высокой размерности. Это привело к разработке новых алгоритмов кластеризации для данных высокой размерности, ориентированных на кластеризацию подпространств (где используются лишь некоторые атрибуты, а модели кластеров включают релевантные атрибуты для каждого кластера) и корреляционную кластеризацию, которая также ищет произвольно повернутые ("коррелированные") подпространственные кластеры, моделируемые посредством корреляции их атрибутов. Примерами таких алгоритмов являются CLIQUE и SUBCLU. Идеи, заимствованные из методов кластеризации на основе плотности (в частности, семейства алгоритмов DBSCAN/OPTICS), были адаптированы для кластеризации подпространств (HiSC, иерархическая кластеризация подпространств и DiSH) и корреляционной кластеризации (HiCO, иерархическая корреляционная кластеризация, 4C с использованием "корреляционной связности" и ERiC, исследующая иерархические корреляционные кластеры на основе плотности). Было предложено несколько различных систем кластеризации, основанных на взаимной информации. Одна из них – вариация метрики информации Марины Майлы, другая – обеспечивает иерархическую кластеризацию. С использованием генетических алгоритмов можно оптимизировать широкий спектр различных целевых функций, включая взаимную информацию. Кроме того, распространение убеждений, недавнее достижение в области компьютерных наук и статистической физики, привело к созданию новых типов алгоритмов кластеризации.

In recent years, considerable effort has been put into improving the performance of existing algorithms. Among them are CLARANS, and BIRCH. With the recent need to process larger and larger data sets (also known as big data), the willingness to trade semantic meaning of the generated clusters for performance has been increasing. This led to the development of pre clustering methods such as canopy clustering, which can process huge data sets efficiently, but the resulting "clusters" are merely a rough pre partitioning of the data set to then analyze the partitions with existing slower methods such as k means clustering. For high dimensional data, many of the existing methods fail due to the curse of dimensionality, which renders particular distance functions problematic in high dimensional spaces. This led to new clustering algorithms for high dimensional data that focus on subspace clustering (where only some attributes are used, and cluster models include the relevant attributes for the cluster) and correlation clustering that also looks for arbitrary rotated ("correlated") subspace clusters that can be modeled by giving a correlation of their attributes. Examples for such clustering algorithms are CLIQUE and SUBCLU. Ideas from density based clustering methods (in particular the DBSCAN/OPTICS family of algorithms) have been adapted to subspace clustering (HiSC, hierarchical subspace clustering and DiSH) and correlation clustering (HiCO, hierarchical correlation clustering, 4C using "correlation connectivity" and ERiC exploring hierarchical density based correlation clusters). Several different clustering systems based on mutual information have been proposed. One is Marina Meilă's variation of information metric; another provides hierarchical clustering. Using genetic algorithms, a wide range of different fit functions can be optimized, including mutual information. Also belief propagation, a recent development in computer science and statistical physics, has led to the creation of new types of clustering algorithms.