Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.
Введение
В информатике, обучение векторной квантизации (LVQ) — это алгоритм контролируемой классификации, основанный на прототипах. LVQ является контролируемым аналогом систем векторного квантования.
In computer science, learning vector quantization (LVQ) is a prototype based supervised classification algorithm. LVQ is the supervised counterpart of vector quantization systems.
Обзор
LVQ можно понимать как частный случай искусственной нейронной сети, а точнее, он использует подход обучения на основе правила Хебба с принципом "победитель получает всё". LVQ является предшественником самоорганизующихся карт (SOM) и связан с алгоритмом нейронного газа и алгоритмом k ближайших соседей (k NN). LVQ был изобретён Тейво Кохоненом. Система LVQ представлена прототипами, которые определены в пространстве признаков наблюдаемых данных. В алгоритмах обучения с принципом "победитель получает всё" для каждой точки данных определяется прототип, ближайший к входному вектору в соответствии с заданной метрикой расстояния. Затем положение этого так называемого прототипа-победителя адаптируется, то есть победитель перемещается ближе, если он правильно классифицирует точку данных, или дальше, если классифицирует её неправильно. Преимущество LVQ заключается в том, что он создаёт прототипы, которые легко интерпретируются экспертами в соответствующей области применения. Системы LVQ могут быть естественным образом применены к задачам многоклассовой классификации. Ключевым вопросом в LVQ является выбор подходящей меры расстояния или сходства для обучения и классификации. В последнее время были разработаны методы, которые адаптируют параметризованную меру расстояния в процессе обучения системы, см., например, (Schneider, Biehl, and Hammer, 2009) и ссылки в ней. LVQ может быть очень полезен при классификации текстовых документов.
LVQ can be understood as a special case of an artificial neural network, more precisely, it applies a winner take all Hebbian learning based approach. It is a precursor to self organizing maps (SOM) and related to neural gas and the k nearest neighbor algorithm (k NN). LVQ was invented by Teuvo Kohonen. An LVQ system is represented by prototypes which are defined in the feature space of observed data. In winner take all training algorithms one determines, for each data point, the prototype which is closest to the input according to a given distance measure. The position of this so called winner prototype is then adapted, i. e. the winner is moved closer if it correctly classifies the data point or moved away if it classifies the data point incorrectly. An advantage of LVQ is that it creates prototypes that are easy to interpret for experts in the respective application domain. LVQ systems can be applied to multi class classification problems in a natural way. A key issue in LVQ is the choice of an appropriate measure of distance or similarity for training and classification. Recently, techniques have been developed which adapt a parameterized distance measure in the course of training the system, see e. g. (Schneider, Biehl, and Hammer, 2009) and references therein. LVQ can be a source of great help in classifying text documents.