Введение

Форма искусственного интеллекта

Нейроэволюция, или нейроэволюция, — это форма искусственного интеллекта, использующая эволюционные алгоритмы для генерации искусственных нейронных сетей (ИНС), параметров и правил. Она наиболее часто применяется в искусственной жизни, общем игровом искусстве и эволюционной робототехнике. Главное преимущество нейроэволюции заключается в том, что её можно применять шире, чем алгоритмы обучения с учителем, которым требуется набор правильных пар входных и выходных данных. В отличие от этого, нейроэволюция требует лишь оценки производительности сети при решении задачи. Например, исход игры (то есть, победа или поражение игрока) можно легко измерить, не предоставляя размеченных примеров желаемых стратегий. Нейроэволюция часто используется в рамках парадигмы обучения с подкреплением и может быть противопоставлена традиционным методам глубокого обучения, использующим обратное распространение ошибки (градиентный спуск в нейронной сети) с фиксированной топологией.

Особенности

Было определено множество алгоритмов нейроэволюции. Одно из распространенных различий заключается в том, что одни алгоритмы развивают только величину весов соединений для фиксированной топологии сети (иногда называемой классической нейроэволюцией), а другие – как топологию сети, так и ее веса (называемые TWEANNs, от Topology and Weight Evolving Artificial Neural Network algorithms – алгоритмы нейроэволюции, развивающие топологию и веса). Можно также провести различие между методами, которые развивают структуру искусственных нейронных сетей (ANN) параллельно с ее параметрами (использующими стандартные эволюционные алгоритмы), и методами, которые развивают их раздельно (с помощью меметических алгоритмов).

Сравнение с спусканием по градиенту

Большинство нейронных сетей используют градиентный спуск, а не нейроэволюцию. Однако, примерно в 2017 году исследователи из Uber заявили, что обнаружили, что простые алгоритмы структурной нейроэволюции оказались конкурентоспособными с продвинутыми современными промышленными алгоритмами глубокого обучения, основанными на градиентном спуске, отчасти потому, что нейроэволюция реже застревает в локальных минимумах. В журнале Science журналист Мэтью Хатсон предположил, что одна из причин успеха нейроэволюции, в отличие от предыдущих неудач, заключается в возросшей вычислительной мощности, доступной в 2010-х годах. Можно показать, что между нейроэволюцией и градиентным спуском существует соответствие.