Подходы к исследованиям искусственного интеллекта: "Аккуратный" и "Небрежный"

Введение

Формы исследований искусственного интеллекта
В истории искусственного интеллекта "аккуратный" и "небрежный" – два контрастирующих подхода к исследованиям в области искусственного интеллекта (ИИ). Это различие было проведено в 1970-х годах и оставалось предметом обсуждения до середины 1980-х. "Аккуратные" используют алгоритмы, основанные на единой формальной парадигме, такие как логика, математическая оптимизация или нейронные сети. Они проверяют корректность своих программ с помощью теорем и математической строгости. Исследователи и аналитики, придерживающиеся аккуратного подхода, склонны выражать надежду, что эта единственная формальная парадигма может быть расширена и усовершенствована для достижения общего и сверхинтеллекта. "Небрежные" используют множество различных алгоритмов и методов для достижения разумного поведения. Они полагаются на постепенное тестирование для проверки своих программ, а небрежное программирование требует большого объема ручного кодирования или разработки баз знаний. Сторонники небрежного подхода утверждают, что общий интеллект может быть реализован только путем решения большого количества по сути не связанных между собой задач, и что не существует универсального решения, которое позволило бы программам автономно развивать общий интеллект. Джон Брокман сравнивает аккуратный подход с физикой, поскольку он использует простые математические модели в качестве основы. Небрежный подход больше похож на биологию, где большая часть работы заключается в изучении и классификации разнообразных явлений. Современный ИИ сочетает в себе элементы как небрежного, так и аккуратного подходов. В 1990-х годах исследования в области ИИ применяли математическую строгость к своим программам, как это делали аккуратные. Они также выражают надежду на существование единой парадигмы ("главного алгоритма"), которая приведет к возникновению общего и сверхинтеллекта. Однако современный ИИ также напоминает небрежный подход: современные приложения машинного обучения требуют значительной ручной настройки и постепенного тестирования; в то время как общий алгоритм математически строг, достижение конкретных целей конкретного приложения таковым не является. Кроме того, в начале 2000-х годов в области разработки программного обеспечения получило распространение экстремальное программирование, которое является современной версией небрежной методологии – пробовать и тестировать, не тратя время на поиск более элегантных или общих решений.

Forms of artificial intelligence research
In the history of artificial intelligence, neat and scruffy are two contrasting approaches to artificial intelligence (AI) research. The distinction was made in the 1970s and was a subject of discussion until the mid 1980s. "Neats" use algorithms based on a single formal paradigms, such as logic, mathematical optimization or neural networks. Neats verify their programs are correct with theorems and mathematical rigor. Neat researchers and analysts tend to express the hope that this single formal paradigm can be extended and improved to achieve general intelligence and superintelligence. "Scruffies" use any number of different algorithms and methods to achieve intelligent behavior. Scruffies rely on incremental testing to verify their programs and scruffy programming requires large amounts of hand coding or knowledge engineering. Scruffies have argued that general intelligence can only be implemented by solving a large number of essentially unrelated problems, and that there is no silver bullet that will allow programs to develop general intelligence autonomously. John Brockman compares the neat approach to physics, in that it uses simple mathematical models as its foundation. The scruffy approach is more like biology, where much of the work involves studying and categorizing diverse phenomena. Modern AI has elements of both scruffy and neat approaches. In the 1990s AI research applied mathematical rigor to their programs, as the neats did. They also express the hope that there is a single paradigm (a "master algorithm") that will cause general intelligence and superintelligence to emerge. But modern AI also resembles the scruffies: modern machine learning applications require a great deal of hand tuning and incremental testing; while the general algorithm is mathematically rigorous, accomplishing the specific goals of a particular application is not. Also, in the early 2000s, the field of software development embraced extreme programming, which is a modern version of the scruffy methodology try things and test them, without wasting time looking for more elegant or general solutions.

Происхождение в 1970-х годах

Различие между аккуратным и неряшливым подходом возникло в середине 1970-х годов благодаря Роджеру Шенку. Шенк использовал эти термины для характеристики различий между его работой в области обработки естественного языка (которая представляла знания здравого смысла в форме больших аморфных семантических сетей) и работой Джона Маккарти, Аллена Ньюэлла, Герберта А. Саймона, Роберта Ковальски и других, чьи работы основывались на логике и формальных расширениях логики. Шэнк сам себя называл "AI-неряшливым". Он сформулировал это различие в лингвистике, решительно возражая против взгляда Чомского на язык. Различие было также частично географическим и культурным: примеры "неряшливого" подхода можно было увидеть в исследованиях в области ИИ в MIT под руководством Марвина Мински в 1970-х годах. Лаборатория была известна своей "свободой" и исследователи часто разрабатывали программы ИИ, тратя много времени на тонкую настройку программ до тех пор, пока они не демонстрировали требуемое поведение. Важные и влиятельные "неряшливые" программы, разработанные в MIT, включали ELIZA Джозефа Вайзенбаума, которая вела себя так, будто говорит на английском языке, не имея при этом никаких формальных знаний, и SHRDLU Терри Винограда, которая могла успешно отвечать на вопросы и выполнять действия в упрощенном мире, состоящем из блоков и роботизированной руки. SHRDLU, несмотря на свой успех, не могла быть масштабирована в полезную систему обработки естественного языка, поскольку ей не хватало структурированного дизайна. Поддержание более крупной версии программы оказалось невозможным, то есть она была слишком неряшливой для расширения. Другие лаборатории ИИ (крупнейшими из которых были Стэнфордский университет, Университет Карнеги — Меллона и Эдинбургский университет) сосредоточились на логике и формальном решении задач как на основе для ИИ. Эти учреждения поддерживали работы Джона Маккарти, Герберта Саймона, Аллена Ньюэлла, Дональда Мичи, Роберта Ковальски и других "аккуратных" исследователей. Контраст между подходом MIT и других лабораторий также описывался как "процедурно-декларативное различие". Программы, такие как SHRDLU, были разработаны как агенты, выполняющие действия. Они выполняли "процедуры". Другие программы были разработаны как механизмы логического вывода, которые манипулировали формальными утверждениями (или "декларациями") о мире и преобразовывали эти манипуляции в действия. В своем президентском обращении в 1983 году в Ассоциации содействия развитию искусственного интеллекта Нильс Нильссон обсудил этот вопрос, утверждая, что "этой области нужны оба подхода". Он писал: "Большая часть знаний, которыми мы хотим наделить наши программы, может и должна быть представлена декларативно в некотором виде декларативного, логического формализма. Специальные структуры имеют свое место, но большинство из них исходят из самой предметной области". Алекс П. Пентланд и Мартин Фишлер из SRI International согласились с ожидаемой ролью дедукции и логических формализмов в будущих исследованиях ИИ, но не в той степени, в которой это описал Нильссон.

The distinction between neat and scruffy originated in the mid 1970s, by Roger Schank. Schank used the terms to characterize the difference between his work on natural language processing (which represented commonsense knowledge in the form of large amorphous semantic networks) from the work of John McCarthy, Allen Newell, Herbert A. Simon, Robert Kowalski and others whose work was based on logic and formal extensions of logic. Schank described himself as an AI scruffy. He made this distinction in linguistics, arguing strongly against Chomsky's view of language. The distinction was also partly geographical and cultural: "scruffy" attributes were exemplified by AI research at MIT under Marvin Minsky in the 1970s. The laboratory was famously "freewheeling" and researchers often developed AI programs by spending long hours fine tuning programs until they showed the required behavior. Important and influential "scruffy" programs developed at MIT included Joseph Weizenbaum's ELIZA, which behaved as if it spoke English, without any formal knowledge at all, and Terry Winograd's SHRDLU, which could successfully answer queries and carry out actions in a simplified world consisting of blocks and a robot arm. SHRDLU, while successful, could not be scaled up into a useful natural language processing system, because it lacked a structured design. Maintaining a larger version of the program proved to be impossible, i. e. it was too scruffy to be extended. Other AI laboratories (of which the largest were Stanford, Carnegie Mellon University and the University of Edinburgh) focused on logic and formal problem solving as a basis for AI. These institutions supported the work of John McCarthy, Herbert Simon, Allen Newell, Donald Michie, Robert Kowalski, and other "neats". The contrast between MIT's approach and other laboratories was also described as a "procedural/declarative distinction". Programs like SHRDLU were designed as agents that carried out actions. They executed "procedures". Other programs were designed as inference engines that manipulated formal statements (or "declarations") about the world and translated these manipulations into actions. In his 1983 presidential address to Association for the Advancement of Artificial Intelligence, Nils Nilsson discussed the issue, arguing that "the field needed both". He wrote "much of the knowledge we want our programs to have can and should be represented declaratively in some kind of declarative, logic like formalism. Ad hoc structures have their place, but most of these come from the domain itself." Alex P. Pentland and Martin Fischler of SRI International concurred about the anticipated role of deduction and logic like formalisms in future AI research, but not to the extent that Nilsson described.

Неремонтные проекты в 1980-х годах

Скруффи подход был применен к робототехнике Родни Бруксом в середине 1980-х годов. Он выступал за создание роботов, которые, по его словам, были бы быстрыми, дешевыми и неуправляемыми – так называлась статья 1989 года, написанная совместно с Анитой Флинн. В отличие от более ранних роботов, таких как Shakey или Стэнфордская тележка, они не строили модели мира, анализируя визуальную информацию с помощью алгоритмов, основанных на математических методах машинного обучения, и не планировали свои действия, используя формальные логические системы, такие как язык "Planner". Они просто реагировали на показания своих датчиков, стремясь к выживанию и движению. Проект Cyc Дугласа Лената, начатый в 1984 году, был одним из первых и наиболее амбициозных проектов по представлению всех человеческих знаний в машиночитаемом виде и характеризуется как "намеренно небрежное предприятие". База данных Cyc содержит миллионы фактов обо всех сложностях мира, каждый из которых должен быть введен вручную инженерами знаний. Каждая такая запись – это ad hoc дополнение к интеллекту системы. Хотя теоретически возможно найти "элегантное" решение проблемы здравого смысла (например, алгоритмы машинного обучения с использованием обработки естественного языка, способные анализировать текстовую информацию из интернета), ни один из подобных проектов пока не достиг успеха.

Общество Разума

В 1986 году Марвин Мински опубликовал книгу "Общество разума", в которой отстаивал взгляд на интеллект и разум как на взаимодействующее сообщество модулей или агентов, каждый из которых обрабатывал различные аспекты познания. Некоторые модули были специализированы на очень конкретных задачах (например, обнаружение границ в зрительной коре), а другие – на управлении коммуникацией и расстановке приоритетов (например, планирование и внимание в лобных долях). Мински представил эту парадигму как модель биологического человеческого интеллекта и как основу для будущих исследований в области ИИ. Эта парадигма сознательно "неряшлива", поскольку не предполагает существования единого алгоритма, применимого ко всем задачам, связанным с разумным поведением. Мински писал:

По состоянию на 1991 год Мински продолжал публиковать статьи, оценивающие относительные преимущества "аккуратного" и "неряшливого" подходов, например, “Логический против аналогичного, символический против коннекционистского, или "аккуратный" против "неряшливого”".

Современный ИИ как аккуратный, так и неряшливый

В 1990-х годах были разработаны новые статистические и математические подходы к ИИ, использующие высокоразвитые формализмы, такие как математическая оптимизация и нейронные сети. Памела Маккордок написала: "По состоянию на момент написания, в ИИ доминирует подход "нетов" – людей, которые верят, что машинный интеллект, по крайней мере, лучше всего выражается в логических, даже математических терминах". Эта общая тенденция к более формальным методам в ИИ была описана Питером Норвигом и Стюартом Расселом в 2003 году как "победа "нетов"". Однако к 2021 году Рассел и Норвиг изменили свое мнение. Сети глубокого обучения и машинное обучение в целом требуют обширной тонкой настройки – их необходимо итеративно тестировать, пока они не начнут демонстрировать желаемое поведение. Это довольно трудоемкая методика.