Теорема схемы Холланда: основа генетических алгоритмов. Объясняет экспоненциальный рост приспособленных схем, но подвергается критике как частный случай уравнения Прайса.
Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Содержание
Введение
Теорема схем Голланда, также называемая фундаментальной теоремой генетических алгоритмов, — это неравенство, вытекающее из усреднения уравнения эволюционной динамики. Теорема схем утверждает, что короткие схемы низкого порядка с вышесредней приспособленностью экспоненциально увеличивают свою частоту в последовательных поколениях. Теорема была предложена Джоном Холландом в 1970-х годах. Первоначально её широко рассматривали как основу для объяснения эффективности генетических алгоритмов. Однако эта интерпретация её следствий подверглась критике в ряде публикаций, где показано, что теорема схем является частным случаем уравнения Прайса с функцией-индикатором схемы в качестве макроскопической величины измерения. Схема — это шаблон, который определяет подмножество строк, имеющих сходство в определенных позициях. Схемы являются частным случаем цилиндрических множеств и, следовательно, образуют топологическое пространство.
Holland's schema theorem, also called the fundamental theorem of genetic algorithms, is an inequality that results from coarse graining an equation for evolutionary dynamics. The Schema Theorem says that short, low order schemata with above average fitness increase exponentially in frequency in successive generations. The theorem was proposed by John Holland in the 1970s. It was initially widely taken to be the foundation for explanations of the power of genetic algorithms. However, this interpretation of its implications has been criticized in several publications reviewed in, where the Schema Theorem is shown to be a special case of the Price equation with the schema indicator function as the macroscopic measurement. A schema is a template that identifies a subset of strings with similarities at certain string positions. Schemata are a special case of cylinder sets, and hence form a topological space.
Описание
Рассмотрим двоичные строки длиной 6. Схема 1*10*1 описывает множество всех строк длиной 6 с единицами в позициях 1, 3 и 6 и нулем в позиции 4. Символ * является подстановочным знаком, что означает, что позиции 2 и 5 могут иметь значение либо 1, либо 0. Порядок схемы определяется как количество фиксированных позиций в шаблоне, а определяющая длина – расстояние между первой и последней фиксированной позицией. Порядок схемы 1*10*1 равен 4, а её определяющая длина равна 5. Пригодность схемы – это средняя пригодность всех строк, соответствующих данной схеме. Пригодность строки является мерой ценности закодированного решения задачи, вычисляемой с помощью специфической оценочной функции. Используя устоявшиеся методы и генетические операторы генетических алгоритмов, теорема о схемах утверждает, что короткие схемы низкого порядка с пригодностью выше средней увеличиваются экспоненциально из поколения в поколение. Это выражается уравнением:
Consider binary strings of length 6. The schema 1*10*1 describes the set of all strings of length 6 with 1's at positions 1, 3 and 6 and a 0 at position 4. The * is a wildcard symbol, which means that positions 2 and 5 can have a value of either 1 or 0. The order of a schema is defined as the number of fixed positions in the template, while the defining length is the distance between the first and last specific positions. The order of 1*10*1 is 4 and its defining length is 5. The fitness of a schema is the average fitness of all strings matching the schema. The fitness of a string is a measure of the value of the encoded problem solution, as computed by a problem specific evaluation function. Using the established methods and genetic operators of genetic algorithms, the schema theorem states that short, low order schemata with above average fitness increase exponentially in successive generations. Expressed as an equation:
Здесь – количество строк, принадлежащих схеме в поколении , – наблюдаемая средняя пригодность схемы, а – наблюдаемая средняя пригодность в поколении . Вероятность разрушения – это вероятность того, что кроссовер или мутация уничтожат схему. При предположении , она может быть выражена как:
Here is the number of strings belonging to schema at generation , is the observed average fitness of schema and is the observed average fitness at generation The probability of disruption is the probability that crossover or mutation will destroy the schema Under the assumption that , it can be expressed as:
где – порядок схемы, – длина кода, – вероятность мутации, а – вероятность кроссовера. Таким образом, схема с меньшей определяющей длиной менее подвержена разрушению. Часто неправильно понимают, почему теорема о схемах является неравенством, а не равенством. Ответ на самом деле прост: теорема не учитывает небольшую, но ненулевую вероятность того, что строка, принадлежащая схеме , будет создана "с нуля" в результате мутации одной строки (или рекомбинации двух строк), которая не принадлежала к в предыдущем поколении. Более того, выражение для явно пессимистично: в зависимости от партнера для скрещивания, рекомбинация может не нарушить схему, даже если точка кроссовера выбрана между первой и последней фиксированной позицией .
where is the order of the schema, is the length of the code, is the probability of mutation and is the probability of crossover. So a schema with a shorter defining length is less likely to be disrupted. An often misunderstood point is why the Schema Theorem is an inequality rather than an equality. The answer is in fact simple: the Theorem neglects the small, yet non zero, probability that a string belonging to the schema will be created "from scratch" by mutation of a single string (or recombination of two strings) that did not belong to in the previous generation. Moreover, the expression for is clearly pessimistic: depending on the mating partner, recombination may not disrupt the scheme even when a cross point is selected between the first and the last fixed position of .
Ограничение
Теорема схемы справедлива при условии, что генетический алгоритм поддерживает бесконечно большую популяцию, но не всегда применима на практике (в случае конечных популяций): из-за ошибки выборки в начальной популяции генетические алгоритмы могут сходиться к схемам, не имеющим селективного преимущества. Это особенно часто происходит в задачах мультимодальной оптимизации, где функция может иметь несколько локальных максимумов: популяция может смещаться к одному из максимумов, игнорируя остальные. Причина, по которой теорема схемы не может объяснить эффективность генетических алгоритмов, заключается в том, что она верна для всех задач, и не позволяет отличить задачи, в которых генетические алгоритмы работают плохо, от задач, в которых они работают хорошо.
The schema theorem holds under the assumption of a genetic algorithm that maintains an infinitely large population, but does not always carry over to (finite) practice: due to sampling error in the initial population, genetic algorithms may converge on schemata that have no selective advantage. This happens in particular in multimodal optimization, where a function can have multiple peaks: the population may drift to prefer one of the peaks, ignoring the others. The reason that the Schema Theorem cannot explain the power of genetic algorithms is that it holds for all problem instances, and cannot distinguish between problems in which genetic algorithms perform poorly, and problems for which genetic algorithms perform well.