Вычислительные машины и разум: Тест Тьюринга (1950)

Введение

"Вычислительные машины и интеллект" – основополагающая статья Алана Тьюринга, посвященная искусственному интеллекту. Опубликованная в 1950 году в журнале Mind, эта статья впервые представила широкой публике его концепцию, известную сегодня как тест Тьюринга. В своей статье Тьюринг рассматривает вопрос: "Могут ли машины думать?". Тьюринг отмечает, что поскольку слова "думать" и "машина" не имеют четких определений, следует "заменить вопрос другим, тесно связанным с ним, но сформулированным более однозначно". Для этого ему необходимо, во-первых, найти простую и однозначную идею, заменяющую слово "думать", во-вторых, точно определить, какие "машины" он имеет в виду, и, наконец, используя эти инструменты, сформулировать новый вопрос, связанный с исходным, на который, по его мнению, можно дать положительный ответ.

Цифровые машины

Тьюринг также отмечает, что нам необходимо определить, какие "машины" мы хотим рассматривать. Он указывает, что человеческий клон, хотя и созданный человеком, не был бы интересным примером. Тьюринг предложил сосредоточиться на возможностях цифровых машин – машин, которые манипулируют двоичными цифрами 1 и 0, переписывая их в память по простым правилам. Он привел две причины. Во-первых, нет оснований гадать, могут ли они существовать – они уже существовали в 1950 году. Во-вторых, цифровые машины являются "универсальными". Исследования Тьюринга в области основ вычислений доказали, что цифровой компьютер теоретически может имитировать поведение любой другой цифровой машины, при наличии достаточного объема памяти и времени. (Это ключевая идея тезиса Черча-Тьюринга и универсальной машины Тьюринга.) Следовательно, если какая-либо цифровая машина способна "вести себя так, будто она думает", то любая достаточно мощная цифровая машина тоже способна на это. Тьюринг пишет: "все цифровые компьютеры в определенном смысле эквивалентны". Это позволяет сформулировать исходный вопрос еще более конкретно. Тьюринг перефразирует исходный вопрос следующим образом: "Сосредоточимся на одном конкретном цифровом компьютере C. Верно ли, что, модифицировав этот компьютер, обеспечив его достаточным объемом памяти, соответствующим образом увеличив скорость его работы и предоставив ему подходящую программу, можно заставить C удовлетворительно играть роль А в игре в имитацию, а роль B – человеку?" Более важно рассмотреть возможные достижения в развитии наших машин сегодня, независимо от того, располагаем ли мы ресурсами для их создания.

Девять общих возражений

Разъяснив вопрос, Тьюринг перешел к его рассмотрению: он проанализировал девять распространенных возражений, включающих в себя все основные аргументы против искусственного интеллекта, выдвинутые за годы, прошедшие с момента публикации его статьи. Религиозное возражение: согласно ему, мышление является функцией бессмертной души человека, следовательно, машина не способна мыслить. «Пытаясь создать такие машины, – писал Тьюринг, – мы не посягаем на Его способность создавать души, как и не посягаем на нее, порождая детей: скорее, в обоих случаях мы являемся инструментами Его воли, предоставляющими обители для душ, которые Он создает». Возражение «Голова в песке»: «Последствия мышления машин были бы слишком ужасны. Давайте надеяться и верить, что они не смогут этого». Это мнение популярно среди интеллектуалов, поскольку они полагают, что превосходство происходит от более высокого интеллекта, а возможность быть превзойденными представляет угрозу (учитывая, что машины обладают эффективной памятью и скоростью обработки, весьма вероятно появление машин, превосходящих возможности обучения и познания человека). Это возражение является ложной апелляцией к последствиям, смешивающей то, что не должно быть, с тем, что может или не может быть (Wardrip Fruin, 56). Математическое возражение: это возражение использует математические теоремы, такие как теорема о неполноте Гёделя, чтобы показать, что существуют пределы для вопросов, на которые может ответить компьютерная система, основанная на логике. Тьюринг предполагает, что люди слишком часто сами ошибаются и довольны ошибочностью машины. (Этот аргумент был вновь выдвинут философом Джоном Лукасом в 1961 году и физиком Роджером Пенроузом в 1989 году.) Аргумент от сознания: этот аргумент, предложенный профессором Джеффри Джефферсоном в его 1949 Lister Oration (приветственная речь при вручении медали Листера в 1948 году), утверждает, что «лишь когда машина сможет написать сонет или сочинить концерт, движимая мыслями и эмоциями, а не случайным сочетанием символов, мы сможем согласиться, что машина равна мозгу». Тьюринг отвечает, что у нас нет способа узнать, испытывают ли эмоции какие-либо другие индивидуумы, кроме нас самих, и поэтому мы должны принять тест. Он добавляет: «Я не хочу создавать впечатление, что я считаю, что сознание лишено загадок, но я не думаю, что эти загадки необходимо решить, прежде чем мы сможем ответить на вопрос [может ли машина мыслить]». (Этот аргумент, что компьютер не может обладать сознательным опытом или пониманием, был выдвинут в 1980 году философом Джоном Сёрлом в его аргументе «Китайская комната». Ответ Тьюринга теперь известен как «ответ об иных умах». См. также «Может ли машина иметь разум?» в философии ИИ.) Аргументы, основанные на различных ограничениях. Все эти аргументы имеют форму «компьютер никогда не сможет X». Тьюринг предлагает несколько примеров: быть добрым, находчивым, красивым, дружелюбным, проявлять инициативу, обладать чувством юмора, отличать правду от лжи, совершать ошибки, влюбляться, наслаждаться клубникой со сливками, заставить кого-то влюбиться в себя, учиться на опыте, правильно использовать слова, быть объектом собственных мыслей, обладать таким же разнообразием поведения, как человек, делать что-то действительно новое. Тьюринг отмечает, что «обычно этим утверждениям не приводится никаких обоснований», и что они основаны на наивных предположениях о том, насколько универсальными могут быть машины в будущем, или являются «замаскированными формами аргумента от сознания». Он решает ответить на некоторые из них: машины не могут ошибаться. Он отмечает, что легко запрограммировать машину так, чтобы она казалась ошибающейся. Машина не может быть объектом собственных мыслей (или не может быть самосознательной). Программу, которая может сообщать о своих внутренних состояниях и процессах, в простом смысле программы отладки, безусловно, можно написать. Тьюринг утверждает: «Машина, несомненно, может быть собственным предметом исследования». У машины не может быть большого разнообразия поведения. Он отмечает, что при достаточном объеме памяти компьютер может вести себя астрономическим числом различных способов. Возражение леди Лавлейс: одно из самых известных возражений гласит, что компьютеры не способны к оригинальности. Это во многом связано с тем, что, по словам Ады Лавлейс, машины не способны к самостоятельному обучению. Аналитическая машина не претендует на создание чего-либо нового. Она может делать все, что мы знаем, как ей приказывать. Она может следовать анализу, но не обладает способностью предвидеть какие-либо аналитические отношения или истины. Тьюринг предполагает, что возражение Лавлейс можно свести к утверждению, что компьютеры «никогда не смогут нас удивить», и утверждает, что, наоборот, компьютеры все же могут удивлять людей, особенно в тех случаях, когда последствия различных фактов не очевидны. Тьюринг также утверждает, что на Лавлейс повлиял контекст, в котором она писала, и если бы она была знакома с более современными научными знаниями, стало бы очевидно, что объем памяти мозга весьма схож с объемом памяти компьютера. Аргумент о непрерывности в нервной системе: современные неврологические исследования показали, что мозг не является цифровым. Хотя нейроны возбуждаются импульсами типа «все или ничего», точное время импульса и вероятность его возникновения имеют аналоговые компоненты. Тьюринг признает это, но утверждает, что любую аналоговую систему можно смоделировать с достаточной точностью при наличии достаточной вычислительной мощности. (Философ Юбер Дрейфус выдвинул этот аргумент против «биологического предположения» в 1972 году.) Аргумент о неформальности поведения: этот аргумент утверждает, что любая система, управляемая законами, будет предсказуемой и, следовательно, не будет по-настоящему разумной. Тьюринг отвечает, что это смешивает законы поведения с общими правилами поведения и что в достаточно широком масштабе (как это очевидно у человека) поведение машины станет все труднее предсказать. Он утверждает, что тот факт, что мы не можем сразу увидеть, каковы законы, не означает, что таких законов не существует. Он пишет: «Мы, конечно, не знаем ни одного случая, когда мы могли бы сказать: «Мы достаточно поискали. Таких законов не существует»». (Юбер Дрейфус утверждал в 1972 году, что человеческое мышление и решение проблем не основаны на формальных правилах, а скорее полагаются на инстинкты и осознание, которые никогда не будут зафиксированы в правилах. Более поздние исследования в области ИИ в робототехнике и вычислительной разведке пытаются найти сложные правила, управляющие нашими «неформальными» и бессознательными навыками восприятия, мобильности и распознавания образов. См. критику ИИ Дрейфуса.) Этот ответ также включает аргумент о ставке Тьюринга. Экстрасенсорное восприятие: в 1950 году экстрасенсорное восприятие было активной областью исследований, и Тьюринг решил отнести ЭСП к числу вероятных, утверждая, что можно создать условия, при которых чтение мыслей не повлияет на результат теста. Тьюринг признал «подавляющие статистические доказательства» телепатии, вероятно, ссылаясь на эксперименты начала 1940-х годов, проведенные Сэмюэлем Соалом, членом Общества психических исследований.

Having clarified the question, Turing turned to answering it: he considered the following nine common objections, which include all the major arguments against artificial intelligence raised in the years since his paper was first published. Religious Objection: This states that thinking is a function of man's immortal soul; therefore, a machine cannot think. "In attempting to construct such machines," wrote Turing, "we should not be irreverently usurping His power of creating souls, any more than we are in the procreation of children: rather we are, in either case, instruments of His will providing mansions for the souls that He creates." 'Heads in the Sand' Objection: "The consequences of machines thinking would be too dreadful. Let us hope and believe that they cannot do so." This thinking is popular among intellectual people, as they believe superiority derives from higher intelligence and the possibility of being overtaken is a threat (as machines have efficient memory capacities and processing speed, machines exceeding the learning and knowledge capabilities are highly probable). This objection is a fallacious appeal to consequences, confusing what should not be with what can or cannot be (Wardrip Fruin, 56). The Mathematical Objection: This objection uses mathematical theorems, such as Gödel's incompleteness theorem, to show that there are limits to what questions a computer system based on logic can answer. Turing suggests that humans are too often wrong themselves and pleased at the fallibility of a machine. (This argument would be made again by philosopher John Lucas in 1961 and physicist Roger Penrose in 1989.) Argument From Consciousness: This argument, suggested by Professor Geoffrey Jefferson in his 1949 Lister Oration (acceptance speech for his 1948 award of Lister Medal) states that "not until a machine can write a sonnet or compose a concerto because of thoughts and emotions felt, and not by the chance fall of symbols, could we agree that machine equals brain." Turing replies by saying that we have no way of knowing that any individual other than ourselves experiences emotions, and that therefore we should accept the test. He adds, "I do not wish to give the impression that I think there is no mystery about consciousness [b]ut I do not think these mysteries necessarily need to be solved before we can answer the question [of whether machines can think]." (This argument, that a computer can't have conscious experiences or understanding, would be made in 1980 by philosopher John Searle in his Chinese room argument. Turing's reply is now known as the "other minds reply". See also Can a machine have a mind? in the philosophy of AI.) Arguments from various disabilities. These arguments all have the form "a computer will never do X". Turing offers a selection:Be kind, resourceful, beautiful, friendly, have initiative, have a sense of humour, tell right from wrong, make mistakes, fall in love, enjoy strawberries and cream, make someone fall in love with it, learn from experience, use words properly, be the subject of its own thought, have as much diversity of behaviour as a man, do something really new. Turing notes that "no support is usually offered for these statements," and that they depend on naive assumptions about how versatile machines may be in the future, or are "disguised forms of the argument from consciousness." He chooses to answer a few of them:
Machines cannot make mistakes. He notes it's easy to program a machine to appear to make a mistake. A machine cannot be the subject of its own thought (or can't be self aware). A program which can report on its internal states and processes, in the simple sense of a debugger program, can certainly be written. Turing asserts "a machine can undoubtably be its own subject matter." A machine cannot have much diversity of behaviour. He notes that, with enough storage capacity, a computer can behave in an astronomical number of different ways. Lady Lovelace's Objection: One of the most famous objections states that computers are incapable of originality. This is largely because, according to Ada Lovelace, machines are incapable of independent learning. The Analytical Engine has no pretensions whatever to originate anything. It can do whatever we know how to order it to perform. It can follow analysis; but it has no power of anticipating any analytical relations or truths. Turing suggests that Lovelace's objection can be reduced to the assertion that computers "can never take us by surprise" and argues that, to the contrary, computers could still surprise humans, in particular where the consequences of different facts are not immediately recognizable. Turing also argues that Lady Lovelace was hampered by the context from which she wrote, and if exposed to more contemporary scientific knowledge, it would become evident that the brain's storage is quite similar to that of a computer. Argument from continuity in the nervous system: Modern neurological research has shown that the brain is not digital. Even though neurons fire in an all or nothing pulse, both the exact timing of the pulse and the probability of the pulse occurring have analog components. Turing acknowledges this, but argues that any analog system can be simulated to a reasonable degree of accuracy given enough computing power. (Philosopher Hubert Dreyfus would make this argument against "the biological assumption" in 1972.) Argument from the informality of behaviour: This argument states that any system governed by laws will be predictable and therefore not truly intelligent. Turing replies by stating that this is confusing laws of behaviour with general rules of conduct, and that if on a broad enough scale (such as is evident in man) machine behaviour would become increasingly difficult to predict. He argues that, just because we can't immediately see what the laws are, does not mean that no such laws exist. He writes "we certainly know of no circumstances under which we could say, 'we have searched enough. There are no such laws.'". (Hubert Dreyfus would argue in 1972 that human reason and problem solving was not based on formal rules, but instead relied on instincts and awareness that would never be captured in rules. More recent AI research in robotics and computational intelligence attempts to find the complex rules that govern our "informal" and unconscious skills of perception, mobility and pattern matching. See Dreyfus' critique of AI). This rejoinder also includes the Turing's Wager argument. Extra sensory perception: In 1950, extra sensory perception was an active area of research and Turing chooses to give ESP the benefit of the doubt, arguing that conditions could be created in which mind reading would not affect the test. Turing admitted to "overwhelming statistical evidence" for telepathy, likely referring to early 1940s experiments by Samuel Soal, a member of the Society for Psychical Research.