Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Мазмұны
Кіріспе
Ішінара сәйкестендіру арқылы болжау (PPM) – контексттік модельдеу және болжамға негізделген, деректерді статистикалық түрде ықшамдаудың бейімделуші әдісі. PPM модельдері келесі символды болжау үшін сығылмаған символдар ағынындағы бұрынғы символдар жиынтығын пайдаланады. PPM алгоритмдері кластерлік талдау кезінде деректерді болжамды топтарға біріктіру үшін де қолданылуы мүмкін.
Prediction by partial matching (PPM) is an adaptive statistical data compression technique based on context modeling and prediction. PPM models use a set of previous symbols in the uncompressed symbol stream to predict the next symbol in the stream. PPM algorithms can also be used to cluster data into predicted groupings in cluster analysis.
Теория
Болжамдар көбінесе символдар тізіміне дейін тоғытылады. Әрбір символ (әріп, бит немесе кез келген дерек көлемі) сығымдалмас бұрын бағаланады, ал бағалау жүйесі сәйкес код сөзін (демек, сығымдау жылдамдығын) анықтайды. Көптеген сығым алгоритмдерінде бағалау, ықтималдық массалық функциясын есептеумен тең. Алдыңғы әріптер (немесе контекст) берілгенде, әрбір символға ықтималдық тағайындалады. Мысалы, арифметикалық кодтауда символдар алдыңғы символдардан кейін пайда болу ықтималдығы бойынша бағаланады, ал барлық тізбек осы ықтималдықтарға сәйкес есептелетін бір бөлшекке сығылады. Алдыңғы символдардың саны, n, PPM моделінің ретін анықтайды, ол PPM(n) деп белгіленеді. Контекстің ұзындығы шектеулі емес, шексіз нұсқалары да бар және олар PPM* деп белгіленеді. Егер барлық n контексттік символдарға сүйенгенде болжам жасау мүмкін болмаса, n-1 символдармен болжам жасауға тырысылады. Бұл процесс сәйкестік табылғанға дейін немесе контексте символдар қалғанға дейін қайталанады. Сол кезде нақты болжам жасалады. PPM моделін оңтайландыру жұмысының көп бөлігі, кіріс ағынында әлі кездеспеген кірістерді өңдеуге қатысты. Оларды өңдеудің ең оңай жолы – "ешқашан кездеспеген" символын жасау, ол құтылу тізбегін іске қосады. Бірақ ешқашан кездеспеген символға қандай ықтималдық тағайындау керек? Бұл нөлдік жиілік мәселесі деп аталады. Бір нұсқа Лаплас бағалаушысын қолданады, ол "ешқашан кездеспеген" символына бірлік псевдосанды тұрақты түрде тағайындайды. PPMd деп аталатын нұсқа "ешқашан кездеспеген" символы қолданылған сайын оның псевдосанын арттырады. (Басқаша айтқанда, PPMd жаңа символдың ықтималдығын бірегей символдар санын байқалған символдардың жалпы санына қатынасы ретінде бағалайды).
Predictions are usually reduced to symbol rankings. Each symbol (a letter, bit or any other amount of data) is ranked before it is compressed, and the ranking system determines the corresponding codeword (and therefore the compression rate). In many compression algorithms, the ranking is equivalent to probability mass function estimation. Given the previous letters (or given a context), each symbol is assigned with a probability. For instance, in arithmetic coding the symbols are ranked by their probabilities to appear after previous symbols, and the whole sequence is compressed into a single fraction that is computed according to these probabilities. The number of previous symbols, n, determines the order of the PPM model which is denoted as PPM(n). Unbounded variants where the context has no length limitations also exist and are denoted as PPM*. If no prediction can be made based on all n context symbols, a prediction is attempted with n − 1 symbols. This process is repeated until a match is found or no more symbols remain in context. At that point a fixed prediction is made. Much of the work in optimizing a PPM model is handling inputs that have not already occurred in the input stream. The obvious way to handle them is to create a "never seen" symbol which triggers the escape sequence. But what probability should be assigned to a symbol that has never been seen? This is called the zero frequency problem. One variant uses the Laplace estimator, which assigns the "never seen" symbol a fixed pseudocount of one. A variant called PPMd increments the pseudocount of the "never seen" symbol every time the "never seen" symbol is used. (In other words, PPMd estimates the probability of a new symbol as the ratio of the number of unique symbols to the total number of symbols observed).
Іске асыру
PPM қысу әдістері басқа да ерекшеліктерімен айырмашылықтарға ие. Нақты символдарды таңдау әдетте арифметикалық кодтау арқылы тіркеледі, бірақ Хэффман кодтауын немесе тіпті сөздік кодтау техникасының кейбір түрлерін де қолдануға болады. Көптеген PPM алгоритмдерінде қолданылатын негізгі модельді бірнеше символдарды болжау үшін кеңейту мүмкін. Марков емес модельдеуді Марков модельдеуін алмастыру немесе толықтыру үшін де пайдалануға болады. Символдың мөлшері әдетте статикалық, көбінесе бір байтты құрайды, бұл кез келген файл форматын оңай өңдеуге мүмкіндік береді. Осы алгоритмдер отбасына қатысты жарияланған зерттеулерді 1980 жылдардың ортасынан бастап кездестіруге болады. Бағдарламалық жасақтаманы іске асыру 1990 жылдардың басына дейін кең таралған жоқ, себебі PPM алгоритмдеріне көп көлемде RAM қажет. Жаңа PPM іске асылымдары табиғи тіл мәтіні үшін ең жақсы жоғалтусыз қысу бағдарламаларының қатарында. PPMd – Дмитрий Шкарин жасаған PPMII (ақпараттық мұрагерлікпен PPM) қоғамдық домендегі іске асырылымы, ол бірнеше үйлесімсіз өзгерістерге ұшырады. Бұл әдетте RAR файл форматында қолданылады. Ол сондай-ақ 7z және zip файл форматтарында да қол жетімді. PPM алгоритмдерін жақсартуға жасалған әрекеттер PAQ деректерді қысу алгоритмдерінің тууына әкелді. PPM алгоритмі қысу үшін емес, Dasher бағдарламасындағы пайдаланушы кірісінің тиімділігін арттыру үшін қолданылады.
PPM compression implementations vary greatly in other details. The actual symbol selection is usually recorded using arithmetic coding, though it is also possible to use Huffman encoding or even some type of dictionary coding technique. The underlying model used in most PPM algorithms can also be extended to predict multiple symbols. It is also possible to use non Markov modeling to either replace or supplement Markov modeling. The symbol size is usually static, typically a single byte, which makes generic handling of any file format easy. Published research on this family of algorithms can be found as far back as the mid 1980s. Software implementations were not popular until the early 1990s because PPM algorithms require a significant amount of RAM. Recent PPM implementations are among the best performing lossless compression programs for natural language text. PPMd is a public domain implementation of PPMII (PPM with information inheritance) by Dmitry Shkarin which has undergone several incompatible revisions. It is used in the RAR file format by default. It is also available in the 7z and zip file formats. Attempts to improve PPM algorithms led to the PAQ series of data compression algorithms. A PPM algorithm, rather than being used for compression, is used to increase the efficiency of user input in the alternate input method program Dasher.