Философия искусственного интеллекта: вопросы и перспективы.

Философия ИИ: исследует интеллект, сознание и этику искусственного интеллекта. Может ли машина мыслить как человек? Ключевые вопросы и перспективы.

20 мин чтения

100%

Источник: Philosophy of artificial intelligence — Wikipedia

Сравнивайте с английским: нажмите на абзац — оригинал откроется в окне. Кнопка EN под абзацем показывает его прямо в тексте.

Содержание

Введение

Обзор философии искусственного интеллекта

Философия искусственного интеллекта — это раздел философии сознания и философии компьютерных наук, исследующий искусственный интеллект и его последствия для понимания знания, интеллекта, этики, сознания, эпистемологии и свободы воли. Более того, поскольку технология связана с созданием искусственных животных или искусственных людей (или, по крайней мере, искусственных существ; см. искусственная жизнь), эта дисциплина представляет значительный интерес для философов. Все эти факторы способствовали возникновению философии искусственного интеллекта. Философия искусственного интеллекта пытается ответить на такие вопросы, как:

Может ли машина действовать разумно? Способна ли она решить любую задачу, которую человек решил бы посредством мышления? Являются ли человеческий и машинный интеллект одним и тем же? По сути ли человеческий мозг является компьютером? Может ли машина обладать разумом, ментальными состояниями и сознанием в том же смысле, что и человек? Может ли она испытывать ощущения? (то есть, обладает ли она квалиа?) Вопросы подобного рода отражают различные интересы исследователей в области ИИ, когнитивных ученых и философов. Научные ответы на эти вопросы зависят от определения понятий «интеллект» и «сознание», а также от того, о каких именно «машинах» идет речь. Важные положения в философии ИИ включают в себя следующие:

«Вежливое соглашение» Тьюринга: если машина ведет себя столь же разумно, как человек, то она и является столь же разумной, как человек. Дартмутское предложение: «Любой аспект обучения или любая другая характеристика интеллекта может в принципе быть описана настолько точно, что машина может быть создана для его имитации». Гипотеза физической символьной системы Аллена Ньюэлла и Герберта Саймона: «Физическая символьная система обладает необходимыми и достаточными средствами для осуществления общего разумного действия». Сильная гипотеза ИИ Джона Сёрла: «Соответственно запрограммированный компьютер с правильными входными и выходными данными тем самым будет обладать разумом в точности в том же смысле, в каком разум есть у людей». Механицизм Гоббса: «Ибо «разум» — это не что иное, как «счет», то есть сложение и вычитание последствий общих имен, согласованных для «обозначения» и «выражения» наших мыслей».

Тест Тьюринга

Алан Тьюринг свёл проблему определения интеллекта к простому вопросу о ведении беседы. Он предположил, что если машина способна отвечать на любые вопросы, используя те же слова, что и обычный человек, то такую машину можно считать интеллектуальной. Современная версия его экспериментальной установки предполагает использование онлайн-чата, где один из участников – реальный человек, а другой – компьютерная программа. Программа считается прошедшей тест, если никто не может определить, кто из двух участников является человеком. Тест Тьюринга распространяет эту меру соответствия на машины: если машина демонстрирует интеллект на уровне человеческого, то её интеллект можно считать равным человеческому. Одна из критических замечаний в отношении теста Тьюринга заключается в том, что он измеряет лишь «человекоподобие» поведения машины, а не сам «интеллект» этого поведения. Поскольку человеческое поведение и интеллектуальное поведение – не одно и то же, тест не позволяет оценить интеллект. Стюарт Дж. Рассел и Питер Норвиг отмечают, что «в учебниках по аэрокосмической инженерии цель этой области не определяется как "создание машин, летающих настолько точно, как голуби, чтобы обманывать других голубей"».

Интеллект как достижение целей

Исследования ИИ XXI века определяют интеллект с точки зрения целенаправленного поведения. Интеллект рассматривается как набор задач, которые машина должна решить – чем больше задач она может решить и чем лучше ее решения, тем более интеллектуальной является программа. Основатель ИИ Джон Маккарти определил интеллект как "вычислительную часть способности достигать целей в мире". Стюарт Рассел и Питер Норвиг формализовали это определение, используя абстрактных интеллектуальных агентов. "Агент" – это сущность, воспринимающая и действующая в среде. "Мера производительности" определяет, что считается успехом для агента. "Если агент действует таким образом, чтобы максимизировать ожидаемое значение меры производительности, основываясь на прошлом опыте и знаниях, то он является интеллектуальным". Такие определения стремятся уловить суть интеллекта. Их преимущество в том, что, в отличие от теста Тьюринга, они не проверяют также неинтеллектуальные человеческие качества, такие как опечатки. Их недостаток в том, что они могут не различать "сущности, которые мыслят", и "сущности, которые не мыслят". Согласно этому определению, даже термостат обладает примитивным интеллектом.

Мозг можно имитировать

Хьюберт Дрейфус описывает этот аргумент как утверждение, что "если нервная система подчиняется законам физики и химии, что у нас есть все основания полагать, то мы должны быть в состоянии воспроизвести поведение нервной системы с помощью какого-либо физического устройства". Этот аргумент, впервые выдвинутый еще в 1943 году и ярко описанный Гансом Моравцем в 1988 году, сейчас ассоциируется с футуристом Рэем Курцвейлом, который полагает, что вычислительной мощности будет достаточно для полной симуляции мозга к 2029 году. В 2005 году была проведена нереальная симуляция таламокортикальной модели размером с человеческий мозг (10¹¹ нейронов), и потребовалось 50 дней, чтобы смоделировать 1 секунду динамики мозга на кластере из 27 процессоров. Даже самые строгие критики ИИ (такие как Хьюберт Дрейфус и Джон Сёрл) согласны с тем, что симуляция мозга теоретически возможна. Однако Сёрл отмечает, что, в принципе, все можно имитировать на компьютере; таким образом, доведение определения до предела приводит к выводу, что любой процесс в принципе может считаться "вычислением". "Нас интересовало, чем разум отличается от термостатов и печени", – пишет он. Следовательно, само по себе моделирование функционирования живого мозга было бы признанием незнания в отношении интеллекта и природы сознания, подобно попытке построить реактивный самолет, точно копируя живую птицу, перо за пером, без теоретического понимания аэродинамики.

Аргументы против обработки символов

Эти аргументы показывают, что человеческое мышление состоит не (только) из манипуляций символами высокого уровня. Они не доказывают невозможность искусственного интеллекта, а лишь указывают на то, что для его создания необходимо нечто большее, чем просто обработка символов.

Гёделевские антимеханистические аргументы

В 1931 году Курт Гёдель доказал теоремой о неполноте, что всегда возможно построить "утверждение Гёделя", которое не может быть доказано в рамках данной непротиворечивой формальной системы логики (например, программы манипулирования символами высокого уровня). Несмотря на то, что это истинное утверждение, построенное утверждение Гёделя оказывается недоказуемым в данной системе. (Истинность построенного утверждения Гёделя зависит от непротиворечивости данной системы; применение того же процесса к тонко противоречивой системе, по-видимому, будет успешным, но на самом деле приведет к ложному "утверждению Гёделя"). Более спекулятивно, Гёдель предположил, что человеческий разум в конечном итоге способен правильно определить истинность или ложность любого корректно сформулированного математического утверждения (включая любое возможное утверждение Гёделя), и, следовательно, возможности человеческого разума не сводимы к механизму. Философы Джон Лукас (с 1961 года) и Роджер Пенроуз (с 1989 года) отстаивают этот философский антимеханицистский аргумент. Гёделианские антимеханицистские аргументы обычно опираются на, казалось бы, безобидное утверждение о том, что система человеческих математиков (или ее идеализация) является одновременно непротиворечивой (полностью свободной от ошибок) и полностью верит в свою собственную непротиворечивость (и может делать все логические выводы, вытекающие из этой непротиворечивости, включая веру в свое утверждение Гёделя). Это принципиально невозможно для машины Тьюринга (см. проблему останова); следовательно, Гёдель заключает, что человеческое мышление слишком мощно, чтобы быть смоделированным машиной Тьюринга и, как следствие, любым цифровым механическим устройством. Однако современный консенсус в научном и математическом сообществе заключается в том, что реальное человеческое мышление является противоречивым; что любая непротиворечивая "идеализированная версия" H человеческого мышления логически вынуждена будет принять здоровый, но контринтуитивный, открытый скептицизм относительно непротиворечивости H (в противном случае H оказывается доказуемо противоречивой); и что теоремы Гёделя не приводят к обоснованному аргументу в пользу того, что люди обладают математическими способностями, превосходящими возможности машины. Этот консенсус, согласно которому гёделианские антимеханицистские аргументы обречены на провал, четко изложен в книге "Искусственный интеллект": "любая попытка использовать (результаты теоремы о неполноте Гёделя) для критики вычислительной теории неизбежно будет несостоятельной, поскольку эти результаты вполне согласуются с вычислительной теорией". Стюарт Рассел и Питер Норвиг согласны с тем, что аргумент Гёделя не учитывает природу реального человеческого мышления. Он относится к тому, что теоретически может быть доказано при наличии бесконечного объема памяти и времени. На практике реальные машины (включая людей) имеют ограниченные ресурсы и будут испытывать трудности с доказательством многих теорем. Не обязательно доказывать все, чтобы быть разумным. Менее формально, Дуглас Хофштадтер в своей удостоенной Пулитцеровской премии книге "Гёдель, Эшер, Бах: Вечная золотая коса" утверждает, что эти "утверждения Гёделя" всегда относятся к самой системе, проводя аналогию с тем, как парадокс Эпименида использует утверждения, относящиеся к себе, такие как "это утверждение ложно" или "я лгу". Но, конечно, парадокс Эпименида применим ко всему, что делает утверждения, будь то машины или люди, даже сам Лукас. Рассмотрим следующее: Лукас не может утверждать истинность этого утверждения. Это утверждение истинно, но Лукас не может его утверждать. Это показывает, что сам Лукас подвержен тем же ограничениям, которые он описывает для машин, как и все люди, и поэтому аргумент Лукаса бессмыслен. После того как Пенроуз пришел к выводу, что человеческое мышление невычислимо, он продолжил спорно предполагать, что некоторые гипотетические невычислимые процессы, связанные с коллапсом квантово-механических состояний, дают людям особое преимущество перед существующими компьютерами. Существующие квантовые компьютеры способны лишь уменьшить сложность вычислимых задач Тьюринга и по-прежнему ограничены задачами, находящимися в рамках машин Тьюринга. Согласно аргументам Пенроуза и Лукаса, тот факт, что квантовые компьютеры способны только решать вычислимые задачи Тьюринга, подразумевает, что они недостаточны для эмуляции человеческого разума. Поэтому Пенроуз ищет другие процессы, включающие новую физику, например, квантовую гравитацию, которая может проявить новую физику в масштабе планковской массы посредством спонтанного квантового коллапса волновой функции. Эти состояния, по его мнению, происходят как внутри нейронов, так и охватывают более одного нейрона. Однако другие ученые указывают на то, что в мозге нет правдоподобного органического механизма для использования какого-либо вида квантовых вычислений, и, кроме того, что временной масштаб квантовой декогеренции слишком мал, чтобы влиять на возбуждение нейронов.

In 1931, Kurt Gödel proved with an incompleteness theorem that it is always possible to construct a "Gödel statement" that a given consistent formal system of logic (such as a high level symbol manipulation program) could not prove. Despite being a true statement, the constructed Gödel statement is unprovable in the given system. (The truth of the constructed Gödel statement is contingent on the consistency of the given system; applying the same process to a subtly inconsistent system will appear to succeed, but will actually yield a false "Gödel statement" instead.) More speculatively, Gödel conjectured that the human mind can correctly eventually determine the truth or falsity of any well grounded mathematical statement (including any possible Gödel statement), and that therefore the human mind's power is not reducible to a mechanism. Philosopher John Lucas (since 1961) and Roger Penrose (since 1989) have championed this philosophical anti mechanist argument. Gödelian anti mechanist arguments tend to rely on the innocuous seeming claim that a system of human mathematicians (or some idealization of human mathematicians) is both consistent (completely free of error) and believes fully in its own consistency (and can make all logical inferences that follow from its own consistency, including belief in its Gödel statement) This is provably impossible for a Turing machine to do (see Halting problem); therefore, the Gödelian concludes that human reasoning is too powerful to be captured by a Turing machine, and by extension, any digital mechanical device. However, the modern consensus in the scientific and mathematical community is that actual human reasoning is inconsistent; that any consistent "idealized version" H of human reasoning would logically be forced to adopt a healthy but counter intuitive open minded skepticism about the consistency of H (otherwise H is provably inconsistent); and that Gödel's theorems do not lead to any valid argument that humans have mathematical reasoning capabilities beyond what a machine could ever duplicate. This consensus that Gödelian anti mechanist arguments are doomed to failure is laid out strongly in Artificial Intelligence: "any attempt to utilize (Gödel's incompleteness results) to attack the computationalist thesis is bound to be illegitimate, since these results are quite consistent with the computationalist thesis." Stuart Russell and Peter Norvig agree that Gödel's argument does not consider the nature of real world human reasoning. It applies to what can theoretically be proved, given an infinite amount of memory and time. In practice, real machines (including humans) have finite resources and will have difficulty proving many theorems. It is not necessary to be able to prove everything in order to be an intelligent person. Less formally, Douglas Hofstadter, in his Pulitzer prize winning book Gödel, Escher, Bach: An Eternal Golden Braid, states that these "Gödel statements" always refer to the system itself, drawing an analogy to the way the Epimenides paradox uses statements that refer to themselves, such as "this statement is false" or "I am lying". But, of course, the Epimenides paradox applies to anything that makes statements, whether they are machines or humans, even Lucas himself. Consider:
Lucas can't assert the truth of this statement. This statement is true but cannot be asserted by Lucas. This shows that Lucas himself is subject to the same limits that he describes for machines, as are all people, and so Lucas's argument is pointless. After concluding that human reasoning is non computable, Penrose went on to controversially speculate that some kind of hypothetical non computable processes involving the collapse of quantum mechanical states give humans a special advantage over existing computers. Existing quantum computers are only capable of reducing the complexity of Turing computable tasks and are still restricted to tasks within the scope of Turing machines. By Penrose and Lucas's arguments, the fact that quantum computers are only able to complete Turing computable tasks implies that they cannot be sufficient for emulating the human mind. Therefore, Penrose seeks for some other process involving new physics, for instance quantum gravity which might manifest new physics at the scale of the Planck mass via spontaneous quantum collapse of the wave function. These states, he suggested, occur both within neurons and also spanning more than one neuron. However, other scientists point out that there is no plausible organic mechanism in the brain for harnessing any sort of quantum computation, and furthermore that the timescale of quantum decoherence seems too fast to influence neuron firing.

Дрейфус: первостепенность неявных навыков

Хьюберт Дрейфус утверждал, что человеческий интеллект и опыт зависят прежде всего от быстрых интуитивных суждений, а не от пошаговых символических манипуляций, и утверждал, что эти навыки никогда не будут сведены к формальным правилам. Аргумент Дрейфуса был предвосхищен Тьюрингом в его статье 1950 года «Вычислительные машины и интеллект», где он классифицировал это как «аргумент, основанный на неформальности поведения». Тьюринг в ответ утверждал, что тот факт, что мы не знаем правил, управляющих сложным поведением, не означает, что таких правил не существует. Он писал: «Мы не можем так легко убедить себя в отсутствии полных законов поведения. Единственный известный нам способ поиска таких законов – это научное наблюдение, и мы, конечно, не знаем ни одной ситуации, когда мы могли бы сказать: «Мы достаточно исследовали. Таких законов нет»». Рассел и Норвиг отмечают, что с момента публикации критики Дрейфуса достигнут прогресс в открытии «правил», управляющих бессознательным мышлением. Ситуационное направление в исследованиях робототехники стремится воспроизвести наши бессознательные навыки восприятия и внимания. Параллели вычислительного интеллекта, такие как нейронные сети, эволюционные алгоритмы и так далее, в основном направлены на моделирование бессознательного мышления и обучения. Статистические подходы к ИИ позволяют делать прогнозы, приближающиеся по точности к человеческим интуитивным оценкам. Исследования в области здравого смысла сосредоточены на воссоздании «фона» или контекста знаний. Фактически, исследования в области ИИ в целом отошли от манипулирования символами высокого уровня к новым моделям, призванным лучше отражать наше интуитивное мышление. Хотя взгляды Дрейфуса во многом оправдались, работы в области когнитивной науки и ИИ были ответом на конкретные проблемы в этих областях и не находились под непосредственным влиянием Дрейфуса. Историк и исследователь ИИ Дэниел Кревье писал, что «время доказало точность и проницательность некоторых замечаний Дрейфуса. Если бы он сформулировал их менее агрессивно, конструктивные действия, которые они предполагали, могли бы быть предприняты гораздо раньше».

Hubert Dreyfus argued that human intelligence and expertise depended primarily on fast intuitive judgements rather than step by step symbolic manipulation, and argued that these skills would never be captured in formal rules. Dreyfus's argument had been anticipated by Turing in his 1950 paper Computing machinery and intelligence, where he had classified this as the "argument from the informality of behavior." Turing argued in response that, just because we do not know the rules that govern a complex behavior, this does not mean that no such rules exist. He wrote: "we cannot so easily convince ourselves of the absence of complete laws of behaviour The only way we know of for finding such laws is scientific observation, and we certainly know of no circumstances under which we could say, 'We have searched enough. There are no such laws.'" Russell and Norvig point out that, in the years since Dreyfus published his critique, progress has been made towards discovering the "rules" that govern unconscious reasoning. The situated movement in robotics research attempts to capture our unconscious skills at perception and attention. Computational intelligence paradigms, such as neural nets, evolutionary algorithms and so on are mostly directed at simulated unconscious reasoning and learning. Statistical approaches to AI can make predictions which approach the accuracy of human intuitive guesses. Research into commonsense knowledge has focused on reproducing the "background" or context of knowledge. In fact, AI research in general has moved away from high level symbol manipulation, towards new models that are intended to capture more of our intuitive reasoning. Although Dreyfus' views have been vindicated in many ways, the work in cognitive science and in AI was in response to specific problems in those fields and was not directly influenced by Dreyfus. Historian and AI researcher Daniel Crevier wrote that "time has proven the accuracy and perceptiveness of some of Dreyfus's comments. Had he formulated them less aggressively, constructive actions they suggested might have been taken much earlier."

Может ли машина иметь разум, сознание и умственные состояния?

Это философский вопрос, связанный с проблемой других сознаний и сложной проблемой сознания. Вопрос сосредоточен вокруг позиции, определенной Джоном Серлом как "сильный ИИ": физическая символьная система может обладать разумом и ментальными состояниями. Рассел и Норвиг согласны: "Большинство исследователей в области ИИ принимают гипотезу слабого ИИ как данность и не интересуются гипотезой сильного ИИ". Есть несколько исследователей, которые полагают, что сознание является существенным элементом интеллекта, такие как Игорь Александер, Стэн Франклин, Рон Сун и Пенти Хайконен, хотя их определение "сознания" очень близко к определению "интеллекта". (См. искусственное сознание.) Прежде чем мы сможем ответить на этот вопрос, мы должны четко определить, что мы подразумеваем под "разумом", "ментальными состояниями" и "сознанием".

Сознание, разум, психические состояния, смысл

Слова "ум" и "сознание" используются разными сообществами по-разному. Некоторые представители нью-эйдж, например, используют слово "сознание" для описания чего-то, схожего с "элан виталь" Бергсона: невидимой, энергетической субстанции, пронизывающей жизнь и особенно ум. Писатели-фантасты используют это слово для обозначения некой сущностной характеристики, делающей нас людьми: машина или инопланетянин, обладающий "сознанием", предстает как полноценный человеческий персонаж, с интеллектом, желаниями, волей, проницательностью, гордостью и так далее. (Писатели научной фантастики также используют слова "чувствительность", "благоразумие", "самосознание" или "призрак" – как в манге и аниме "Призрак в доспехах" – для описания этой сущностной человеческой характеристики). Для других слова "ум" или "сознание" служат своего рода светским синонимом души. Для философов, нейробиологов и когнитивных ученых эти слова используются в более точном и более приземленном смысле: они относятся к привычному, повседневному опыту "мысли в голове", такому как восприятие, сон, намерение или план, а также к тому, как мы что-то видим, знаем, понимаем или осознаем. "Несложно дать здравое определение сознанию, – отмечает философ Джон Сёрл. – Таинственным и увлекательным является не столько то, *что* это такое, а *как* это происходит: как кусок жировой ткани и электричество порождают этот (привычный) опыт восприятия, понимания или мышления?" Философы называют это "трудной проблемой сознания". Это – новейшая версия классической проблемы в философии разума, известной как "проблема соотношения сознания и тела". Смежной проблемой является проблема смысла или понимания (которую философы называют "интенциональностью"): какова связь между нашими мыслями и тем, о чем мы думаем (то есть объектами и ситуациями во внешнем мире)? Третий вопрос – проблема опыта (или "феноменологии"): если два человека видят одно и то же, испытывают ли они одинаковый опыт? Или же существуют вещи "внутри их головы" (называемые "квалиа"), которые могут различаться от человека к человеку? Нейробиологи полагают, что все эти проблемы будут решены, когда мы начнем выявлять нейронные корреляты сознания: фактическую взаимосвязь между механизмами в нашем мозге и их коллективными свойствами, такими как ум, опыт и понимание. Некоторые из наиболее резких критиков искусственного интеллекта согласны с тем, что мозг – это всего лишь машина, а сознание и интеллект – результат физических процессов, происходящих в мозге. Сложный философский вопрос заключается в следующем: способна ли компьютерная программа, работающая на цифровой машине, оперирующей двоичными цифрами нуля и единицы, воспроизвести способность нейронов создавать ум, с ментальными состояниями (такими как понимание или восприятие) и, в конечном итоге, опыт сознания?

The words "mind" and "consciousness" are used by different communities in different ways. Some new age thinkers, for example, use the word "consciousness" to describe something similar to Bergson's "élan vital": an invisible, energetic fluid that permeates life and especially the mind. Science fiction writers use the word to describe some essential property that makes us human: a machine or alien that is "conscious" will be presented as a fully human character, with intelligence, desires, will, insight, pride and so on. (Science fiction writers also use the words "sentience", "sapience", "self awareness" or "ghost"—as in the Ghost in the Shell manga and anime series—to describe this essential human property). For others , the words "mind" or "consciousness" are used as a kind of secular synonym for the soul. For philosophers, neuroscientists and cognitive scientists, the words are used in a way that is both more precise and more mundane: they refer to the familiar, everyday experience of having a "thought in your head", like a perception, a dream, an intention or a plan, and to the way we see something, know something, mean something or understand something. "It's not hard to give a commonsense definition of consciousness" observes philosopher John Searle. What is mysterious and fascinating is not so much what it is but how it is: how does a lump of fatty tissue and electricity give rise to this (familiar) experience of perceiving, meaning or thinking? Philosophers call this the hard problem of consciousness. It is the latest version of a classic problem in the philosophy of mind called the "mind body problem". A related problem is the problem of meaning or understanding (which philosophers call "intentionality"): what is the connection between our thoughts and what we are thinking about (i. e. objects and situations out in the world)? A third issue is the problem of experience (or "phenomenology"): If two people see the same thing, do they have the same experience? Or are there things "inside their head" (called "qualia") that can be different from person to person? Neurobiologists believe all these problems will be solved as we begin to identify the neural correlates of consciousness: the actual relationship between the machinery in our heads and its collective properties; such as the mind, experience and understanding. Some of the harshest critics of artificial intelligence agree that the brain is just a machine, and that consciousness and intelligence are the result of physical processes in the brain. The difficult philosophical question is this: can a computer program, running on a digital machine that shuffles the binary digits of zero and one, duplicate the ability of the neurons to create minds, with mental states (like understanding or perceiving), and ultimately, the experience of consciousness?

Китайская комната Серла

Джон Серл просит нас рассмотреть мысленный эксперимент: предположим, мы создали компьютерную программу, которая проходит тест Тьюринга и демонстрирует общее интеллектуальное поведение. Предположим конкретно, что программа способна вести беседу на беглом китайском языке. Запишите программу на карточки размером 3x5 и отдайте их обычному человеку, не владеющему китайским языком. Запертите этого человека в комнате и попросите следовать инструкциям на карточках. Он будет переписывать китайские иероглифы, передавая их в комнату и из нее через отверстие. Со стороны покажется, что в китайской комнате находится полностью разумный человек, говорящий на китайском. Вопрос заключается в следующем: есть ли в комнате кто-нибудь (или что-либо), кто понимает китайский язык? То есть, есть ли что-то, обладающее ментальным состоянием понимания или сознательным осознанием обсуждаемого на китайском? Человек, очевидно, не осознает происходящее. Комната не может осознавать. Карточки, безусловно, не обладают сознанием. Серл заключает, что китайская комната, или любая другая физическая система символов, не может обладать разумом. Серл далее утверждает, что реальные ментальные состояния и сознание требуют (пока еще не описанных) "реальных физико-химических свойств реальных человеческих мозгов". Он утверждает, что мозг и нейроны обладают особыми "каузальными свойствами", которые порождают разум: его словами, "мозг порождает разум".

Связанные аргументы: мельница Лейбница, телефонная станция Дэвиса, китайская нация Блока и Блокхед

Готфрид Лейбниц выдвинул по сути тот же аргумент, что и Серль, в 1714 году, используя мысленный эксперимент о расширении мозга до размеров мельницы. В 1974 году Лоуренс Дэвис представил себе дублирование мозга с помощью телефонных линий и офисов, укомплектованных людьми, а в 1978 году Нед Блок представил, что всё население Китая участвует в подобном моделировании мозга. Этот мысленный эксперимент известен как "Китайская нация" или "Китайский зал". Нед Блок также предложил аргумент "Blockhead", являющийся вариантом "Китайской комнаты", в котором программа была упрощена до набора простых правил вида "увидел это – сделай то", лишая программу всякой загадочности.

Ответы на китайскую комнату

Ответы на аргумент о китайской комнате подчеркивают несколько различных аспектов. Ответ системы и ответ виртуального разума: Этот аргумент утверждает, что понимает китайский язык система в целом, включая человека, программу, комнату и карточки. Серль утверждает, что только человек в комнате потенциально может "обладать разумом" или "понимать", однако другие с этим не согласны, полагая, что в одном физическом месте могут существовать два разума, подобно тому, как компьютер может одновременно "быть" двумя машинами: одной физической (например, Macintosh) и одной "виртуальной" (например, текстовым процессором). Аргументы о скорости, мощности и сложности: Несколько критиков отмечают, что человеку в комнате, вероятно, потребовались бы миллионы лет, чтобы ответить на простой вопрос, и для этого потребовались бы "шкафы для хранения" астрономических размеров. Это ставит под сомнение ясность интуиции Серля. Ответ робота: Для истинного понимания, по мнению некоторых, китайской комнате нужны глаза и руки. Ханс Моравек пишет: "Если бы мы могли присоединить робота к программе рассуждений, нам больше не понадобился бы человек, чтобы придавать смысл: он исходил бы из физического мира". Ответ симулятора мозга: Что, если программа моделирует последовательность нервных импульсов в синапсах мозга реального носителя китайского языка? Человек в комнате будет моделировать реальный мозг. Это вариация "ответа системы", которая кажется более правдоподобной, поскольку "система" теперь явно функционирует как человеческий мозг, что усиливает интуицию о том, что понимание китайского языка может быть достигнуто чем-то, отличным от человека в комнате. Аргументы о других разумах и эпифеноменах: Некоторые отметили, что аргумент Серля – это лишь версия проблемы других разумов, примененная к машинам. Поскольку трудно определить, действительно ли люди "думают", не стоит удивляться, что трудно ответить на тот же вопрос о машинах. Связанный вопрос заключается в том, существует ли "сознание" (в понимании Серля). Серль утверждает, что опыт сознания нельзя обнаружить, изучая поведение машины, человека или любого другого животного. Даниэль Деннетт указывает, что естественный отбор не может сохранить признак животного, который не влияет на его поведение, и, следовательно, сознание (в понимании Серля) не может быть продуктом естественного отбора. Следовательно, либо естественный отбор не породил сознание, либо "сильный ИИ" прав в том, что сознание можно обнаружить с помощью правильно разработанного теста Тьюринга.

Responses to the Chinese room emphasize several different points. The systems reply and the virtual mind reply: This reply argues that the system, including the man, the program, the room, and the cards, is what understands Chinese. Searle claims that the man in the room is the only thing which could possibly "have a mind" or "understand", but others disagree, arguing that it is possible for there to be two minds in the same physical place, similar to the way a computer can simultaneously "be" two machines at once: one physical (like a Macintosh) and one "virtual" (like a word processor). Speed, power and complexity replies: Several critics point out that the man in the room would probably take millions of years to respond to a simple question, and would require "filing cabinets" of astronomical proportions. This brings the clarity of Searle's intuition into doubt. Robot reply: To truly understand, some believe the Chinese Room needs eyes and hands. Hans Moravec writes: "If we could graft a robot to a reasoning program, we wouldn't need a person to provide the meaning anymore: it would come from the physical world." Brain simulator reply: What if the program simulates the sequence of nerve firings at the synapses of an actual brain of an actual Chinese speaker? The man in the room would be simulating an actual brain. This is a variation on the "systems reply" that appears more plausible because "the system" now clearly operates like a human brain, which strengthens the intuition that there is something besides the man in the room that could understand Chinese. Other minds reply and the epiphenomena reply: Several people have noted that Searle's argument is just a version of the problem of other minds, applied to machines. Since it is difficult to decide if people are "actually" thinking, we should not be surprised that it is difficult to answer the same question about machines. A related question is whether "consciousness" (as Searle understands it) exists. Searle argues that the experience of consciousness cannot be detected by examining the behavior of a machine, a human being or any other animal. Daniel Dennett points out that natural selection cannot preserve a feature of an animal that has no effect on the behavior of the animal, and thus consciousness (as Searle understands it) cannot be produced by natural selection. Therefore, either natural selection did not produce consciousness, or "strong AI" is correct in that consciousness can be detected by suitably designed Turing test.

Думать - это своего рода вычисление?

Вычислительная теория ума, или "вычислительность", утверждает, что связь между разумом и мозгом аналогична (если не тождественна) связи между работающей программой (программным обеспечением) и компьютером (аппаратным обеспечением). Философские корни этой идеи можно найти у Гоббса (утверждавшего, что рассуждение – это "не более чем вычисление"), Лейбница (пытавшегося создать логический исчисление всех человеческих идей), Юма (считавшего, что восприятие можно свести к "атомным впечатлениям") и даже Канта (анализировавшего весь опыт как подчиняющийся формальным правилам). Современная версия связана с философами Хилари Патнэмом и Джерри Фодором. Этот вопрос соотносится с нашими предыдущими рассуждениями: если человеческий мозг – это своего рода компьютер, то компьютеры могут обладать как интеллектом, так и сознанием, отвечая тем самым на практические и философские вопросы ИИ. В контексте практического вопроса об ИИ ("Способна ли машина демонстрировать общий интеллект?"), некоторые версии вычислительности утверждают, что (как писал Гоббс): рассуждение – это всего лишь вычисление. Это "сильный ИИ" Джона Сёрла, обсуждавшийся выше, и является основной целью аргумента о китайской комнате (по мнению Харнада). Страх – источник неотложности. Эмпатия – необходимый компонент качественного взаимодействия человека и компьютера. Он утверждает, что роботы "будут стремиться угодить вам, казалось бы, бескорыстно, поскольку будут испытывать удовольствие от этого положительного подкрепления. Вы можете интерпретировать это как своего рода любовь".

Может ли машина быть самосознательной?

Как отмечалось выше, "самосознание" иногда используется авторами научной фантастики как обозначение важнейшего человеческого свойства, делающего персонажа полноценно человеческим. Тьюринг отбрасывает все остальные свойства человека и сводит вопрос к следующему: может ли машина быть субъектом собственных мыслей? Способна ли она думать о себе? С этой точки зрения, можно написать программу, способную сообщать о своих внутренних состояниях, например, отладчик. Он отмечает, что при достаточном объеме памяти компьютер может демонстрировать астрономическое количество различных вариантов поведения. Должно быть возможно, и даже тривиально, чтобы компьютер, способный представлять идеи, комбинировал их новыми способами. (Например, "Автоматизированный математик" Дугласа Лената комбинировал идеи для открытия новых математических истин.) Каплан и Хенлейн предполагают, что машины могут проявлять научную изобретательность, в то время как, по-видимому, люди сохранят преимущество в области художественного творчества. В 2009 году ученые из университета Аберистуита в Уэльсе и Кембриджского университета в Великобритании создали робота по имени Адам, который, по их мнению, стал первой машиной, самостоятельно пришедшей к новым научным выводам. Также в 2009 году исследователи из Корнелла разработали Eureqa – компьютерную программу, которая экстраполирует формулы для соответствия введенным данным, например, выводит законы движения на основе колебаний маятника.

Может ли машина быть доброжелательной или враждебной?

Этот вопрос (как и многие другие в философии искусственного интеллекта) можно сформулировать двумя способами. "Враждебность" можно определить через функцию или поведение, в этом случае "враждебный" становится синонимом "опасный". Или же её можно определить через намерения: способна ли машина "преднамеренно" причинить вред? Последний вопрос, по сути, является перефразировкой вопроса о том, могут ли машины обладать сознательными состояниями (такими как намерения). Эту тему исследует философское направление, называемое сингуляризмом. В 2009 году ученые и технические эксперты собрались на конференции, чтобы обсудить потенциальное влияние роботов и компьютеров, а также последствия гипотетической возможности их становления самодостаточными и способными принимать самостоятельные решения. Они обсуждали возможность и степень, в которой компьютеры и роботы могут обрести различные уровни автономии, и в какой мере они могут использовать эти возможности для создания потенциальных угроз или опасностей. Они отметили, что некоторые машины уже приобрели различные формы полуавтономии, включая способность самостоятельно находить источники энергии и независимо выбирать цели для атаки с использованием оружия. Также было отмечено, что некоторые компьютерные вирусы способны избегать удаления и демонстрируют некий "интеллект таракана". Участники конференции сошлись во мнении, что самосознание в том виде, в котором оно изображено в научной фантастике, маловероятно, но существуют и другие потенциальные риски и подводные камни. Некоторые эксперты и ученые выражают обеспокоенность по поводу использования роботов в военных целях, особенно если им предоставляется определенная степень автономности. ВМС США профинансировали исследование, в котором подчеркивается необходимость уделять больше внимания последствиям способности военных роботов принимать автономные решения по мере усложнения их конструкции. Президент Ассоциации содействия развитию искусственного интеллекта инициировал отдельное исследование по этой проблеме. Они ссылаются на такие программы, как устройство усвоения языка, способное имитировать человеческое взаимодействие. Некоторые предлагают необходимость разработки "дружественного ИИ" – термин, введенный Элиэзером Юдковским, подразумевающий, что прогресс в области ИИ должен сопровождаться усилиями по созданию ИИ, который по своей сути будет дружелюбным и гуманным.

This question (like many others in the philosophy of artificial intelligence) can be presented in two forms. "Hostility" can be defined in terms function or behavior, in which case "hostile" becomes synonymous with "dangerous". Or it can be defined in terms of intent: can a machine "deliberately" set out to do harm? The latter is the question "can a machine have conscious states?" (such as intentions) in another form. This is discussed by a philosophy called Singularitarianism. In 2009, academics and technical experts attended a conference to discuss the potential impact of robots and computers and the impact of the hypothetical possibility that they could become self sufficient and able to make their own decisions. They discussed the possibility and the extent to which computers and robots might be able to acquire any level of autonomy, and to what degree they could use such abilities to possibly pose any threat or hazard. They noted that some machines have acquired various forms of semi autonomy, including being able to find power sources on their own and being able to independently choose targets to attack with weapons. They also noted that some computer viruses can evade elimination and have achieved "cockroach intelligence". They noted that self awareness as depicted in science fiction is probably unlikely, but that there were other potential hazards and pitfalls. Some experts and academics have questioned the use of robots for military combat, especially when such robots are given some degree of autonomous functions. The US Navy has funded a report which indicates that as military robots become more complex, there should be greater attention to implications of their ability to make autonomous decisions. The President of the Association for the Advancement of Artificial Intelligence has commissioned a study to look at this issue. They point to programs like the Language Acquisition Device which can emulate human interaction. Some have suggested a need to build "Friendly AI", a term coined by Eliezer Yudkowsky, meaning that the advances which are already occurring with AI should also include an effort to make AI intrinsically friendly and humane.

Мнения о роли философии

Некоторые исследователи утверждают, что пренебрежительное отношение сообщества ИИ к философии наносит ущерб. В Стэнфордской энциклопедии философии некоторые философы утверждают, что роль философии в ИИ недостаточно оценена.

Конференции и литература

Основная серия конференций по данной теме – "Философия и теория ИИ" (PT AI), организованная Винсентом К. Мюллером. Основная библиография по этой теме, включающая несколько разделов, доступна на PhilPapers. Последний обзор по философии ИИ – Мюллер (2023).