Метод предсказания по частичному совпадению (PPM) и сжатие данных
Prediction by partial matching
PPM: адаптивный алгоритм сжатия данных на основе статистического моделирования и предсказания. Используется для кластеризации и повышения эффективности сжатия.
Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Содержание
Введение
Предсказание по частичному совпадению (ППМ) — это адаптивная статистическая техника сжатия данных, основанная на моделировании контекста и предсказании. Модели ППМ используют набор предыдущих символов в несжатом потоке символов для предсказания следующего символа в этом потоке. Алгоритмы ППМ также могут применяться для кластеризации данных в прогнозируемые группы при кластерном анализе.
Prediction by partial matching (PPM) is an adaptive statistical data compression technique based on context modeling and prediction. PPM models use a set of previous symbols in the uncompressed symbol stream to predict the next symbol in the stream. PPM algorithms can also be used to cluster data into predicted groupings in cluster analysis.
Теория
Предсказания обычно сводятся к ранжированию символов. Каждый символ (буква, бит или любой другой объем данных) ранжируется перед сжатием, и система ранжирования определяет соответствующее кодовое слово (и, следовательно, степень сжатия). Во многих алгоритмах сжатия ранжирование эквивалентно оценке функции распределения вероятностей. Учитывая предыдущие символы (или контекст), каждому символу присваивается вероятность. Например, в арифметическом кодировании символы ранжируются по вероятности их появления после предыдущих символов, и вся последовательность сжимается в единую дробь, вычисляемую на основе этих вероятностей. Количество предыдущих символов, n, определяет порядок модели PPM, обозначаемый как PPM(n). Существуют также неограниченные варианты, в которых контекст не имеет ограничений по длине и обозначаются как PPM*. Если на основе всех n контекстуальных символов предсказание сделать невозможно, попытка предсказания выполняется с использованием n-1 символов. Этот процесс повторяется до тех пор, пока не будет найдено совпадение или в контексте не останется символов. В этом случае делается фиксированное предсказание. Большая часть работы по оптимизации модели PPM связана с обработкой входных данных, которые еще не встречались во входном потоке. Очевидный способ обработки таких данных – создать символ "не встречался ранее", который запускает последовательность выхода. Но какую вероятность следует присвоить символу, который никогда не встречался? Это называется проблемой нулевой частоты. Один из вариантов использует оценку Лапласа, которая присваивает символу "не встречался ранее" фиксированный псевдосчет равный единице. Вариант под названием PPMd увеличивает псевдосчет символа "не встречался ранее" каждый раз, когда этот символ используется. (Иными словами, PPMd оценивает вероятность нового символа как отношение числа уникальных символов к общему числу наблюдаемых символов).
Predictions are usually reduced to symbol rankings. Each symbol (a letter, bit or any other amount of data) is ranked before it is compressed, and the ranking system determines the corresponding codeword (and therefore the compression rate). In many compression algorithms, the ranking is equivalent to probability mass function estimation. Given the previous letters (or given a context), each symbol is assigned with a probability. For instance, in arithmetic coding the symbols are ranked by their probabilities to appear after previous symbols, and the whole sequence is compressed into a single fraction that is computed according to these probabilities. The number of previous symbols, n, determines the order of the PPM model which is denoted as PPM(n). Unbounded variants where the context has no length limitations also exist and are denoted as PPM*. If no prediction can be made based on all n context symbols, a prediction is attempted with n − 1 symbols. This process is repeated until a match is found or no more symbols remain in context. At that point a fixed prediction is made. Much of the work in optimizing a PPM model is handling inputs that have not already occurred in the input stream. The obvious way to handle them is to create a "never seen" symbol which triggers the escape sequence. But what probability should be assigned to a symbol that has never been seen? This is called the zero frequency problem. One variant uses the Laplace estimator, which assigns the "never seen" symbol a fixed pseudocount of one. A variant called PPMd increments the pseudocount of the "never seen" symbol every time the "never seen" symbol is used. (In other words, PPMd estimates the probability of a new symbol as the ratio of the number of unique symbols to the total number of symbols observed).
Реализация
Реализации сжатия PPM значительно различаются в других деталях. Выбор символов обычно записывается с помощью арифметического кодирования, хотя также возможно использование кодирования Хаффмана или даже какого-либо метода кодирования на основе словаря. Базовая модель, используемая в большинстве алгоритмов PPM, также может быть расширена для предсказания нескольких символов. Возможно также использование немарковских моделей для замены или дополнения марковских моделей. Размер символа обычно фиксирован, как правило, один байт, что упрощает универсальную обработку любого формата файла. Опубликованные исследования по этому семейству алгоритмов можно найти, начиная с середины 1980-х годов. Программные реализации не получили широкого распространения до начала 1990-х годов, поскольку алгоритмы PPM требуют значительного объема оперативной памяти. Современные реализации PPM – одни из наиболее эффективных программ сжатия без потерь для текстов на естественном языке. PPMd – это реализация PPMII (PPM с наследованием информации) Дмитрия Шкарина, находящаяся в общественном достоянии и прошедшая несколько несовместимых редакций. Она используется по умолчанию в формате файлов RAR. Также она доступна в форматах 7z и zip. Попытки улучшить алгоритмы PPM привели к созданию серии алгоритмов сжатия данных PAQ. Алгоритм PPM, вместо использования для сжатия, применяется для повышения эффективности пользовательского ввода в альтернативной программе ввода Dasher.
PPM compression implementations vary greatly in other details. The actual symbol selection is usually recorded using arithmetic coding, though it is also possible to use Huffman encoding or even some type of dictionary coding technique. The underlying model used in most PPM algorithms can also be extended to predict multiple symbols. It is also possible to use non Markov modeling to either replace or supplement Markov modeling. The symbol size is usually static, typically a single byte, which makes generic handling of any file format easy. Published research on this family of algorithms can be found as far back as the mid 1980s. Software implementations were not popular until the early 1990s because PPM algorithms require a significant amount of RAM. Recent PPM implementations are among the best performing lossless compression programs for natural language text. PPMd is a public domain implementation of PPMII (PPM with information inheritance) by Dmitry Shkarin which has undergone several incompatible revisions. It is used in the RAR file format by default. It is also available in the 7z and zip file formats. Attempts to improve PPM algorithms led to the PAQ series of data compression algorithms. A PPM algorithm, rather than being used for compression, is used to increase the efficiency of user input in the alternate input method program Dasher.