Биоинспирированные вычисления и моделирование мозга

Введение

использование биологии как источника вдохновения в вычислительной технике

Биоинспирированные вычисления, сокращенно – биологически вдохновленные вычисления, – это область исследований, стремящаяся решать задачи компьютерных наук, используя биологические модели. Она связана с коннекционизмом, социальным поведением и эмерджентностью. В рамках компьютерных наук биоинспирированные вычисления тесно связаны с искусственным интеллектом и машинным обучением. Биоинспирированные вычисления являются важной частью естественных вычислений.

Искусственный интеллект

Биоинспирированные вычисления отличаются от традиционного искусственного интеллекта подходом к машинному обучению. Биоинспирированные вычисления используют эволюционный подход, а традиционный ИИ – "креационистский". Биоинспирированные вычисления начинаются с набора простых правил и простых организмов, подчиняющихся этим правилам. Со временем эти организмы эволюционируют в рамках простых ограничений. Этот метод можно рассматривать как подход "снизу вверх" или децентрализованный. В традиционном искусственном интеллекте интеллект часто программируется сверху: программист выступает в роли создателя, создавая нечто и наделяя его интеллектом.

Компьютерные технологии, вдохновленные мозгом

Вычислительные модели, вдохновлённые работой мозга, — это вычислительные модели и методы, которые в основном базируются на принципах работы мозга, а не на его полном имитировании. Цель состоит в том, чтобы позволить машинам реализовать различные когнитивные способности и механизмы координации, свойственные человеку, подобно тому, как это происходит в мозге, и в конечном итоге достичь или превзойти уровень человеческого интеллекта.

Исследования

Исследователи в области искусственного интеллекта осознают преимущества обучения, основанного на механизмах обработки информации в мозге. И прогресс в нейронауке и нейробиологии также предоставляет необходимую основу для того, чтобы искусственный интеллект учился, опираясь на эти механизмы. Исследователи мозга и нейробиологии, в свою очередь, стремятся применять понимание обработки информации мозгом к более широкому спектру научных областей. Развитие этой дисциплины стимулируется информационными и интеллектуальными технологиями, а нейронаука и изучение мозга, в свою очередь, будут вдохновлять следующее поколение преобразований в сфере информационных технологий.

Влияние науки о мозге на интеллектуальные вычисления

Достижения в области мозга и нейробиологии, особенно благодаря новым технологиям и оборудованию, позволяют исследователям получать многомасштабные и разнотипные биологические данные о мозге, используя различные экспериментальные методы, и стремятся раскрыть структуру биологического интеллекта с разных сторон и его функциональные основы. От микроскопических нейронов, механизмов работы синапсов и их особенностей, до мезоскопических моделей сетевых связей, и далее – до связей в макроскопических областях мозга и их синергетических свойств, – многомасштабная структура и функциональные механизмы мозга, полученные в результате этих экспериментальных и теоретических исследований, послужат важным источником вдохновения для создания будущих вычислительных моделей, вдохновленных работой мозга.

Чип, созданный по образу мозга

В широком смысле, чип, вдохновлённый мозгом, – это чип, разработанный с учётом структуры нейронов человеческого мозга и принципов когнитивной деятельности. Очевидно, что "нейроморфный чип" является разновидностью чипа, вдохновлённого мозгом, который фокусируется на проектировании структуры чипа, опираясь на модель нейрона человеческого мозга и его тканевую организацию, и представляет собой одно из ключевых направлений исследований в этой области. Параллельно с развитием "мозговых программ" в различных странах появилось множество результатов исследований нейроморфных чипов, получивших широкое международное признание и известность в академических и промышленных кругах. Примерами служат SpiNNaker и BrainScaleS, поддержанные ЕС, Neurogrid Стэнфордского университета, TrueNorth от IBM и Zeroth от Qualcomm. TrueNorth – это чип, вдохновлённый мозгом, который компания IBM разрабатывает уже почти 10 лет. Программа DARPA США с 2008 года финансирует IBM для разработки импульсных нейронных сетевых чипов, предназначенных для интеллектуальной обработки данных. В 2011 году IBM впервые создала два когнитивных кремниевых прототипа, имитирующих структуры мозга, способные к обучению и обработке информации подобно мозгу. Каждый нейрон в чипе, вдохновлённом мозгом, соединён с другими нейронами посредством масштабного параллелизма. В 2014 году IBM представила чип TrueNorth второго поколения. По сравнению с чипами первого поколения, вдохновлёнными мозгом, производительность TrueNorth значительно возросла, количество нейронов увеличилось с 256 до 1 миллиона, а число программируемых синапсов – с 262 144 до 256 миллионов. Чип обеспечивает субсинаптическую работу с общим энергопотреблением 70 мВт и энергопотреблением 20 мВт на квадратный сантиметр. При этом TrueNorth занимает в 15 раз меньше объёма, чем чипы мозга первого поколения. В настоящее время IBM разработала прототип нейронного компьютера, использующего 16 чипов TrueNorth с возможностями обработки видео в реальном времени. Высокие характеристики и превосходство чипа TrueNorth вызвали большой интерес в научном сообществе сразу после его выхода. В 2012 году Институт вычислительных технологий Китайской академии наук (CAS) и французский Inria совместно разработали первый в мире чип, поддерживающий архитектуру процессора глубокой нейронной сети, под названием "Cambrian" ("Камбриан"). Эта технология завоевала признание на ведущих международных конференциях в области компьютерной архитектуры ASPLOS и MICRO, а её метод проектирования и производительность получили международное признание. Этот чип может служить ярким примером направления исследований, связанных с чипами, вдохновлёнными мозгом.

Broadly speaking, brain inspired chip refers to a chip designed with reference to the structure of human brain neurons and the cognitive mode of human brain. Obviously, the "neuromorphic chip" is a brain inspired chip that focuses on the design of the chip structure with reference to the human brain neuron model and its tissue structure, which represents a major direction of brain inspired chip research. Along with the rise and development of “brain plans” in various countries, a large number of research results on neuromorphic chips have emerged, which have received extensive international attention and are well known to the academic community and the industry. For example, EU backed SpiNNaker and BrainScaleS, Stanford's Neurogrid, IBM's TrueNorth, and Qualcomm's Zeroth. TrueNorth is a brain inspired chip that IBM has been developing for nearly 10 years. The US DARPA program has been funding IBM to develop pulsed neural network chips for intelligent processing since 2008. In 2011, IBM first developed two cognitive silicon prototypes by simulating brain structures that could learn and process information like the brain. Each neuron of a brain inspired chip is cross connected with massive parallelism. In 2014, IBM released a second generation brain inspired chip called "TrueNorth." Compared with the first generation brain inspired chips, the performance of the TrueNorth chip has increased dramatically, and the number of neurons has increased from 256 to 1 million; the number of programmable synapses has increased from 262,144 to 256 million; Subsynaptic operation with a total power consumption of 70 mW and a power consumption of 20 mW per square centimeter. At the same time, TrueNorth handles a nuclear volume of only 1/15 of the first generation of brain chips. At present, IBM has developed a prototype of a neuron computer that uses 16 TrueNorth chips with real time video processing capabilities. The super high indicators and excellence of the TrueNorth chip have caused a great stir in the academic world at the beginning of its release. In 2012, the Institute of Computing Technology of the Chinese Academy of Sciences(CAS) and the French Inria collaborated to develop the first chip in the world to support the deep neural network processor architecture chip "Cambrian". The technology has won the best international conferences in the field of computer architecture, ASPLOS and MICRO, and its design method and performance have been recognized internationally. The chip can be used as an outstanding representative of the research direction of brain inspired chips.

Неясный механизм мозга познания

Человеческий мозг – продукт эволюции. Хотя его структура и механизм обработки информации постоянно оптимизируются, компромиссы в процессе эволюции неизбежны. Черепная нервная система представляет собой многомасштабную структуру. В механизме обработки информации на каждом масштабе сохраняется ряд важных нерешенных проблем, таких как тонкая структура связей между нейронами и механизм обратной связи на уровне всего мозга. Поэтому даже исчерпывающий подсчет количества нейронов и синапсов составляет лишь 1/1000 от масштаба человеческого мозга, и его изучение остается крайне сложной задачей на современном уровне научных исследований. Недавние достижения в области моделирования мозга установили связь между индивидуальными различиями в скорости когнитивной обработки и текучестью интеллекта с балансом возбуждения и торможения в структурных сетях мозга, функциональной связностью, механизмом «победитель получает всё» при принятии решений и аттракторной рабочей памятью.

Неясные вычислительные модели и алгоритмы, вдохновленные мозгом

В будущих исследованиях модели когнитивных вычислений мозга необходимо моделировать систему обработки информации мозгом, основываясь на результатах анализа данных многомасштабной нейронной системы мозга, построить вдохновлённую мозгом многомасштабную вычислительную модель нейронной сети и имитировать многомодальность мозга на разных масштабах. Необходимо воспроизвести интеллектуальные поведенческие способности, такие как восприятие, самообучение, память и выбор. Алгоритмы машинного обучения недостаточно гибки и требуют больших объёмов высококачественных данных, размеченных вручную. Обучение моделей требует значительных вычислительных ресурсов. Искусственный интеллект, вдохновлённый мозгом, всё ещё не обладает развитыми когнитивными и индуктивными способностями к обучению.

Ограниченная вычислительная архитектура и возможности

Большинство существующих чипов, вдохновленных работой мозга, все еще основаны на исследованиях архитектуры фон Неймана, а для изготовления чипов по-прежнему используются традиционные полупроводниковые материалы. Нейронные чипы лишь заимствуют самые базовые единицы обработки информации мозгом. Основные компьютерные системы, такие как объединение хранения и вычислений, механизм генерации импульсов, механизм связи между нейронами, а также механизмы взаимодействия между информационно-процессирующими блоками различного масштаба, пока не были интегрированы в исследования архитектур вычислительных систем, вдохновленных мозгом. В настоящее время важным международным трендом является разработка нейронных вычислительных компонентов, таких как мозговые мемристоры, ячейки памяти и сенсорные датчики, на основе новых материалов, например, наноразмерных структур, что способствует созданию более сложных архитектур вычислений, вдохновленных мозгом. Разработка компьютеров, вдохновленных мозгом, и крупномасштабных систем вычислений, основанных на разработке чипов, вдохновленных мозгом, также требует соответствующей программной среды для поддержки их широкого применения.