Введение

Теория функции мозга

Фреймворк предсказания памяти — это теория работы мозга, разработанная Джеффом Хокинсом и описанная в его книге 2004 года «Об интеллекте». Эта теория посвящена роли неокортекса млекопитающих и его взаимодействию с гиппокампом и таламусом в сопоставлении сенсорных данных с хранящимися шаблонами памяти и тому, как этот процесс позволяет предсказывать будущие события.

Обзор

Теория обусловлена наблюдаемыми сходствами в строении мозга (особенно неокортикальной ткани), используемого для широкого спектра поведения млекопитающих. Теория предполагает, что поразительно однородное физическое строение коры отражает единый принцип или алгоритм, лежащий в основе всей обработки информации в коре. Основной принцип обработки гипотетически представляет собой контур обратной связи и воспроизведения, в котором участвуют как корковые, так и экстракортикальные структуры (в частности, таламус и гиппокамп).

Основная теория: распознавание и прогнозирование в двунаправленных иерархиях

Центральная концепция фреймворка предсказания памяти заключается в том, что входящие сигналы снизу вверх сопоставляются в иерархии распознавания и вызывают серию нисходящих ожиданий, закодированных в виде потенциаций. Эти ожидания взаимодействуют с сигналами снизу вверх, чтобы анализировать эти входные данные и генерировать прогнозы последующих ожидаемых входных данных. Каждый уровень иерархии запоминает часто встречающиеся временные последовательности входных паттернов и генерирует метки или «имена» для этих последовательностей. Когда входная последовательность соответствует запомненной последовательности на данном уровне иерархии, метка или «имя» распространяется вверх по иерархии, тем самым устраняя детали на более высоких уровнях и позволяя им изучать последовательности более высокого порядка. Этот процесс приводит к увеличению инвариантности на более высоких уровнях. Более высокие уровни предсказывают будущие входные данные, сопоставляя частичные последовательности и проецируя свои ожидания на более низкие уровни. Однако, когда происходит рассогласование между входными и запомненными/предсказанными последовательностями, более полное представление распространяется вверх. Это вызывает активацию альтернативных «интерпретаций» на более высоких уровнях, что, в свою очередь, генерирует другие прогнозы на более низких уровнях. Рассмотрим, например, процесс зрения. Информация снизу вверх начинается с низкоуровневых сигналов сетчатки (указывающих на наличие простых визуальных элементов и контрастов). На более высоких уровнях иерархии извлекается все более значимая информация о наличии линий, областей, движений и т.д. Еще выше в иерархии активность соответствует наличию конкретных объектов, а затем – поведению этих объектов. Информация сверху вниз дополняет детали о распознанных объектах, а также об их ожидаемом поведении с течением времени. Сенсорная иерархия обуславливает ряд различий между различными уровнями. По мере продвижения вверх по иерархии представления увеличиваются в:
Масштабе – например, в размере охватываемой области зрительного поля или в протяженности тактильных регионов.
Временной стабильности – низкоуровневые сущности меняются быстро, в то время как высокоуровневые перцепты, как правило, более стабильны.
Абстракции – посредством последовательного извлечения инвариантных признаков распознаются все более абстрактные сущности.
Взаимосвязь между сенсорной и моторной обработкой является важным аспектом базовой теории. Предполагается, что моторные области коры состоят из поведенческой иерархии, аналогичной сенсорной иерархии, где самые низкие уровни состоят из явных моторных команд к мускулатуре, а самые высокие уровни соответствуют абстрактным предписаниям (например, «изменить размер окна браузера»). Сенсорная и моторная иерархии тесно связаны: поведение порождает сенсорные ожидания, а сенсорные восприятия управляют моторными процессами. Наконец, важно отметить, что все воспоминания в корковой иерархии должны быть выучены – эта информация не запрограммирована в мозге изначально. Следовательно, процесс извлечения этого представления из потока входных данных и поведения рассматривается как процесс, происходящий непрерывно в ходе познания.

Другие термины

Хокинс имеет обширную подготовку как инженер-электрик. Другой способ описать эту теорию (на который он намекает в своей книге) – как иерархию обучения машин с прямой связью и стохастическими состояниями. В этом подходе мозг анализируется как задача кодирования, не сильно отличающаяся от кодов коррекции ошибок, предсказывающих будущее. Иерархия представляет собой иерархию абстракции, где состояния машин более высокого уровня отражают более абстрактные условия или события, и эти состояния предрасполагают машины нижнего уровня к определенным переходам. Машины нижнего уровня моделируют ограниченные области опыта, управляют или интерпретируют данные с датчиков или исполнительных механизмов. Вся система фактически управляет поведением организма. Поскольку это машина с прямой связью, организм реагирует на будущие события, предсказанные на основе прошлых данных. Благодаря иерархической структуре система проявляет гибкость в поведении, легко генерируя новые последовательности действий в ответ на новые сенсорные данные. Поскольку система способна к обучению, новое поведение адаптируется к меняющимся условиям. Иными словами, эволюционная задача мозга – предсказывать будущее, пусть и в ограниченной степени, чтобы влиять на него.

Нейрофизиологическая реализация

Теоретически, описанные выше иерархии возникают преимущественно в неокортексе млекопитающих. В частности, предполагается, что неокортекс состоит из большого числа колонн (как также предполагал Вернон Бенджамин Маунткасл, исходя из анатомических и теоретических соображений). Каждая колонна настроена на определенную характеристику на данном уровне иерархии. Она получает входящие сигналы снизу вверх с нижних уровней и сверху вниз с более высоких уровней. (Другие колонны на том же уровне также посылают сигналы в данную колонну, в основном для подавления активации неисключительных представлений.) Когда входной сигнал распознается – то есть достигается приемлемое соответствие между сигналами снизу вверх и сверху вниз – колонна генерирует выходные сигналы, которые, в свою очередь, распространяются как на нижние, так и на верхние уровни.

Кортекс

Эти процессы хорошо соответствуют определенным слоям коры головного мозга млекопитающих. (Кортикальные слои не следует путать с различными уровнями обработки информации: все слои в одной колонке участвуют как единый элемент на одном иерархическом уровне). Информация, поступающая снизу вверх, достигает слоя 4 (L4), откуда она распространяется в слои L2 и L3 для распознавания инвариантного содержимого. Активация, поступающая сверху вниз, достигает слоев L2 и L3 через слой L1 (в основном аксональный слой, который распределяет активацию локально между колонками). Слои L2 и L3 сравнивают информацию, поступающую снизу вверх и сверху вниз, и генерируют либо инвариантные "названия", когда достигается достаточное соответствие, либо более изменчивые сигналы, возникающие при его отсутствии. Эти сигналы распространяются вверх по иерархии (через L5) и вниз по иерархии (через L6 и L1).

Таламус

Для учета хранения и распознавания последовательностей паттернов предлагается комбинация двух процессов. Неспецифический таламус функционирует как "линия задержки" – то есть L5 активирует эту область мозга, которая повторно активирует L1 после незначительной задержки. Таким образом, выход одной колонны генерирует активность L1, которая совпадает с входом в колонну, следующую за ней во времени в последовательности. Этот временной порядок работает совместно с идентификацией последовательности на более высоком уровне, которая не меняется во времени; следовательно, активация представления последовательности вызывает предсказание компонентов нижнего уровня друг за другом. (Помимо этой роли в упорядочивании, таламус также активен как сенсорная станция – эти роли, по-видимому, связаны с различными областями этой анатомически неоднородной структуры.)

Гиппокамп

Другая анатомически разнообразная структура мозга, которая, по гипотезе, играет важную роль в иерархическом познании, – гиппокамп. Хорошо известно, что повреждение обоих гиппокампов нарушает формирование долговременной декларативной памяти; люди с таким повреждением не способны формировать новые воспоминания эпизодического характера, хотя они могут вспоминать более ранние воспоминания без затруднений и также способны осваивать новые навыки. В рамках данной теории гиппокампы рассматриваются как верхний уровень корковой иерархии; они специализируются на удержании воспоминаний о событиях, которые достигают самого верхнего уровня. Поскольку такие события соответствуют предсказуемым закономерностям, они становятся запоминаемыми на более низких уровнях иерархии. (Такое перемещение воспоминаний вниз по иерархии, кстати, является общим предсказанием теории.) Таким образом, гиппокампы постоянно запоминают «неожиданные» события (то есть те, которые не были предсказаны на более низких уровнях); при их повреждении весь процесс запоминания через иерархию нарушается. В 2016 году Хокинс предположил, что кортикальные колонны фиксируют не только ощущение, но и его относительное местоположение в трех, а не двух измерениях (локализованное восприятие), по отношению к окружающему пространству. «Когда мозг строит модель мира, все имеет местоположение относительно всего остального».

Модели машинного обучения

Теория предсказания памяти утверждает, что общий алгоритм используется всеми областями неокортекса. Эта теория привела к созданию ряда программных моделей, стремящихся смоделировать этот общий алгоритм, используя иерархическую структуру памяти. Год в списке ниже указывает дату последнего обновления модели.

Модели, основанные на байесовских сетях

Следующие модели используют распространение убеждений или пересмотр убеждений в односвязных байесовских сетях. Иерархическая временная память (HTM) – модель, сопутствующая платформа разработки и исходный код от Numenta, Inc. (2008). HtmLib – альтернативная реализация алгоритмов HTM Грегом Кочанияком с рядом модификаций для повышения точности и скорости распознавания (2008). Проект Neocortex – проект с открытым исходным кодом для моделирования фреймворка предсказания памяти (2008). Страница исследований Саулюса Гаралевичуса, исследовательские работы и программы, представляющие экспериментальные результаты с моделью фреймворка предсказания памяти, являющейся основой для проекта Neocortex (2007). Статья, описывающая более раннюю, предшествующую HTM байесовскую модель, разработанную одним из основателей Numenta. Это первая модель фреймворка предсказания памяти, использующая байесовские сети, и все вышеперечисленные модели основаны на этих первоначальных идеях. Исходный код этой модели свободно распространялся в течение нескольких лет.

Другие модели

Реализация MPF, статья Саулюса Гаралевичуса, описывающая метод классификации и предсказания в модели, хранящей временные последовательности и использующей обучение без учителя (2005). M5, машина распознавания образов для Palm OS, сохраняющая последовательности образов и восстанавливающая образы, релевантные текущей среде (2007). BrainGame, класс предиктора с открытым исходным кодом, который изучает закономерности и может быть связан с другими предикторами (2005).