Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Мазмұны
Кіріспе
Джон Сёрлдің жасанды интеллект туралы ой эксперименті
Thought experiment on artificial intelligence by John Searle
британдық бейне ойынды дамыту студиясы
the British video game development studio
Қытай бөлмесі аргументі бойынша, бағдарламаны орындайтын цифрлық компьютерде, бағдарлама қаншалықты интеллектуалды немесе адамға ұқсас болса да, "ой", "түсінік" немесе "сана" болмайды. Философ Джон Сёрл бұл аргументті 1980 жылы "Behavioral and Brain Sciences" журналында жарияланған "Ақыл, ми және бағдарламалар" атты мақаласында ұсынды. Готфрид Лейбниц (1714), Анатолий Днепров (1961), Лоуренс Дэвис (1974) және Нед Блок (1978) осыған ұқсас аргументтер келтірген. Сёрлдің нұсқасы содан бері кеңінен талқыланды. Сёрлдің аргументінің негізгі бөлігі – "қытай бөлмесі" деп аталатын ой эксперименті. Аргумент функционализм және есептеушілдік философиялық ұстанымдарына қарсы бағытталған, олар ақылды адамды формальды символдармен жұмыс істейтін ақпаратты өңдеу жүйесі ретінде қарастырады және психикалық күйдің симуляциясы оның болуы үшін жеткілікті деп санайды. Атап айтқанда, бұл аргумент Сёрлдің "күшті ЖИ гипотезасы" деп атаған ұстанымын жоққа шығаруға бағытталған: "Тиісті кіріс және шығыспен дұрыс бағдарламаланған компьютерде адамдардағыдай ақыл болады". Оның жақтастары бастапқыда жасанды интеллект (ЖИ) зерттеушілерінің мәлімдемелеріне жауап ретінде аргументті ұсынған болса да, ол ЖИ зерттеулерінің негізгі мақсаттарына қарсы емес, өйткені ол машинаның көрсете алатын "интеллектуалды" мінез-құлықтың шегін көрсетпейді. Бұл аргумент бағдарламаларды іске қосатын цифрлық компьютерлерге ғана қатысты, барлық машиналарға емес.
The Chinese room argument holds that a digital computer executing a program cannot have a "mind", "understanding", or "consciousness", regardless of how intelligently or human like the program may make the computer behave. Philosopher John Searle presented the argument in his paper "Minds, Brains, and Programs", published in Behavioral and Brain Sciences in 1980. Gottfried Leibniz (1714), Anatoly Dneprov (1961), Lawrence Davis (1974) and Ned Block (1978) presented similar arguments. Searle's version has been widely discussed in the years since. The centerpiece of Searle's argument is a thought experiment known as the Chinese room. The argument is directed against the philosophical positions of functionalism and computationalism which hold that the mind may be viewed as an information processing system operating on formal symbols, and that simulation of a given mental state is sufficient for its presence. Specifically, the argument is intended to refute a position Searle calls the strong AI hypothesis: "The appropriately programmed computer with the right inputs and outputs would thereby have a mind in exactly the same sense human beings have minds." Although its proponents originally presented the argument in reaction to statements of artificial intelligence (AI) researchers, it is not an argument against the goals of mainstream AI research because it does not show a limit in the amount of "intelligent" behavior a machine can display. The argument applies only to digital computers running programs and does not apply to machines in general.
Қытай бөлмесі ой эксперименті
Серльдің ой эксперименті мына гипотетикалық шарттан басталады: егер жасанды интеллект зерттеулері қытай тілін түсінгендей көрінетін компьютер құрастыруға жеткен деп есептесек. Компьютер қытай таңбаларын кіріс ретінде қабылдап, компьютерлік бағдарламаның нұсқауларын орындау арқылы басқа қытай таңбаларын шығарады, оларды нәтиже ретінде ұсынады. Серльдің айтуынша, егер бұл компьютер өзінің міндетін соншалықты сенімді орындап, Тьюринг тестісін сәтті өтсе, онда ол қытай тілінде сөйлейтін адамды бағдарламаның өзі – тірі қытай тілінде сөйлейтін адам екеніне көндіре алады. Адам қоятын барлық сұрақтарға тиісті жауаптар береді, сондай-ақ қытай тілінде сөйлейтін кез келген адам басқа бір қытай тілінде сөйлейтін адаммен сөйлесіп отырғанына сенімді болады. Серльдің қоятын сұрағы мынадай: машина қытай тілін шынайы "түсінеді" ме? Немесе ол тек қытай тілін түсіну мүмкіндігін имитациялап жатыр ма? Серль бірінші көзқарасты "күшті ЖА" деп, ал екіншісін "әлсіз ЖА" деп атайды. Содан кейін Серль өзінің жабық бөлмеде екенін және компьютерлік бағдарламаның ағылшын тіліндегі нұсқасы жазылған кітабымен, сондай-ақ жеткілікті қағаз, қалам, өшіргіш және файлдық шкафтармен жабдықталғанын көрінеді. Серль есік арқылы қытай таңбаларын қабылдап, бағдарламаның нұсқауларына сәйкес өңдеп, қытай таңбаларын шығаруға болады, бірақ қытай жазуының мазмұнын түсінбейді. Егер компьютер осылай Тьюринг тестісін өткен болса, онда ол да тек бағдарламаны қолмен орындау арқылы солай істей алады, дейді Серль. Серль экспериментте компьютер мен өзінің рөлі арасында ешқандай маңызды айырмашылық жоқ екенін мәлімдейді. Екеуі де тек бағдарламаны қадам-қадаммен орындайды, нәтижесінде пайдаланушы бұл мінез-құлықты интеллектуалды әңгімелесудің белгісі деп түсінеді. Алайда, Серльдің өзі бұл әңгімені түсінбейді. ("Мен қытай тілінде бір сөз де білмеймін", - деп атап көрсетеді ол.) Сондықтан, ол компьютер де әңгімені түсіне алмайды деген қорытындыға келеді. Серль "түсініксіздік" (немесе "мақсаттылық") болмаса, машинаның не істеп жатқанын "ойлау" деп сипаттауға болмайды дейді, және ол ойламайтындықтан, сөздің қалыпты мағынасында "ақыл" жоқ. Осылайша, ол "күшті ЖА" гипотезасы жалған деген қорытындыға келеді.
Searle's thought experiment begins with this hypothetical premise: suppose that artificial intelligence research has succeeded in constructing a computer that behaves as if it understands Chinese. It takes Chinese characters as input and, by following the instructions of a computer program, produces other Chinese characters, which it presents as output. Suppose, says Searle, that this computer performs its task so convincingly that it comfortably passes the Turing test: it convinces a human Chinese speaker that the program is itself a live Chinese speaker. To all of the questions that the person asks, it makes appropriate responses, such that any Chinese speaker would be convinced that they are talking to another Chinese speaking human being. The question Searle wants to answer is this: does the machine literally "understand" Chinese? Or is it merely simulating the ability to understand Chinese? Searle calls the first position "strong AI" and the latter "weak AI". Searle then supposes that he is in a closed room and has a book with an English version of the computer program, along with sufficient papers, pencils, erasers, and filing cabinets. Searle could receive Chinese characters through a slot in the door, process them according to the program's instructions, and produce Chinese characters as output, without understanding any of the content of the Chinese writing. If the computer had passed the Turing test this way, it follows, says Searle, that he would do so as well, simply by running the program manually. Searle asserts that there is no essential difference between the roles of the computer and himself in the experiment. Each simply follows a program, step by step, producing behavior that is then interpreted by the user as demonstrating intelligent conversation. However, Searle himself would not be able to understand the conversation. ("I don't speak a word of Chinese", he points out.) Therefore, he argues, it follows that the computer would not be able to understand the conversation either. Searle argues that, without "understanding" (or "intentionality"), we cannot describe what the machine is doing as "thinking" and, since it does not think, it does not have a "mind" in anything like the normal sense of the word. Therefore, he concludes that the "strong AI" hypothesis is false.
Тарих
Готфрид Лейбниц 1714 жылы механикаға қарсы ұқсас аргумент келтірді (адамды құрайтын барлық нәрсені, принцип бойынша, механикалық терминдермен түсіндіруге болады. Басқаша айтқанда, адам, оның ішінде оның санасы, өте күрделі машина болып табылады). Лейбниц миды диірменнің көлеміне дейін кеңейту туралы ой-эксперимент жасады. Лейбниц "қабылдау" қабілеті бар "сананың" тек механикалық процестерді қолдану арқылы құрылуын елестету қиын деп тапты. Питер Винч өзінің "Әлеуметтік ғылымның идеясы және философиямен байланысы" (1958) атты кітабында осыған ұқсас пікір білдірді, онда ол "қытай тілін түсінетін адам қытай тіліндегі әртүрлі сөздердің пайда болу мүмкіндігін статистикалық тұрғыдан жақсы білмейді" (108-бет) деп дәлелдеу үшін аргумент келтіреді. Советтік кибернетик Анатолий Днепров 1961 жылы "Ойын" атты әңгімесінде шамамен бірдей аргумент келтірді. Онда адамдар стадионда қосқыштар мен жад ұялары ретінде жұмыс істейді, португал тілінен сөйлем аударатын бағдарламаны іске асырады, ал олардың ешқайсысы бұл тілді білмейді. Ойынды "Профессор Зарубин" ұйымдастырды, "Математикалық машиналар ойлай ала ма?" деген сұраққа жауап беру үшін. Зарубин арқылы сөйлескен Днепров "машиналардың ойлай алатынын дәлелдеудің жалғыз жолы – өзіңізді машинаға айналдырып, ойлау процесін зерттеу" деп жазады және ол Серль сияқты қорытынды жасайды: "Біз машинаның ойлауын тіпті ең жетілді симуляциялаудың өзі ойлау процесі емес екенін дәлелдедік". 1974 жылы Лоуренс Дэвис телефон желілерін және адамдар жұмыс істейтін кеңселерді пайдалана отырып, миды көшіруді елестетті, ал 1978 жылы Нед Блок Қытайдың бүкіл халқы осындай ми симуляциясына қатысатынын елестетті. Бұл ой-эксперимент "Қытай миы" деп аталады, сондай-ақ "Қытай ұлты" немесе "Қытай залы" деп те аталады. Серльдің нұсқасы 1980 жылы "Behavioral and Brain Sciences" журналында жарияланған "Minds, Brains, and Programs" атты мақаласында пайда болды. Бұл журналдың "ең ықпалды мақсатты мақаласы" болып, келесі онжылдықтарда көптеген түсіндірмелер мен жауаптар тудырды, ал Серль көптеген мақалаларда, танымал жазбаларда және кітаптарда аргументті қорғап, жетілдіре берді. Дэвид Коул "Қытай бөлмесі туралы пікірталас, бәлкім, соңғы 25 жылда танымдық ғылымда пайда болған ең көп талқыланған философиялық пікірталас" деп жазады. Талқылаудың көп бөлігі оны жоққа шығаруға бағытталған әрекеттерден тұрады. "Көпшілік әлі де Қытай бөлмесі туралы пікірталас дұрыс емес деп санайды", - деп атап өтеді BBS редакторы Стивен Харнад. Осы тақырыпқа арналған әдебиеттің көптігі Пэт Хейсті когнитивтік ғылым саласын "Серльдің Қытай бөлмесі туралы аргументінің жалған екенін көрсетуге бағытталған зерттеу бағдарламасы" ретінде қайта қарастыруға шақырды. Харнадтың айтуынша, Серльдің аргументі "танымдық ғылымның классикасына айналды". Варол Акман да осы пікірмен келіседі және түпнұсқалық мақаланы "философиялық айқындық пен тазалықтың үлгісі" деп сипаттайды.
Gottfried Leibniz made a similar argument in 1714 against mechanism (the idea that everything that makes up a human being could, in principle, be explained in mechanical terms. In other words that a person, including their mind, is merely a very complex machine). Leibniz used the thought experiment of expanding the brain until it was the size of a mill. Leibniz found it difficult to imagine that a "mind" capable of "perception" could be constructed using only mechanical processes. Peter Winch made the same point in his book The Idea of a Social Science and its Relation to Philosophy (1958), where he provides an argument to show that "a man who understands Chinese is not a man who has a firm grasp of the statistical probabilities for the occurrence of the various words in the Chinese language" (p.108). Soviet cyberneticist Anatoly Dneprov made an essentially identical argument in 1961, in the form of the short story "The Game". In it, a stadium of people act as switches and memory cells implementing a program to translate a sentence of Portuguese, a language that none of them know. The game was organized by a "Professor Zarubin" to answer the question "Can mathematical machines think?" Speaking through Zarubin, Dneprov writes "the only way to prove that machines can think is to turn yourself into a machine and examine your thinking process" and he concludes, as Searle does, "We've proven that even the most perfect simulation of machine thinking is not the thinking process itself." In 1974, Lawrence Davis imagined duplicating the brain using telephone lines and offices staffed by people, and in 1978 Ned Block envisioned the entire population of China involved in such a brain simulation. This thought experiment is called the China brain, also the "Chinese Nation" or the "Chinese Gym". Searle's version appeared in his 1980 paper "Minds, Brains, and Programs", published in Behavioral and Brain Sciences. It eventually became the journal's "most influential target article", generating an enormous number of commentaries and responses in the ensuing decades, and Searle has continued to defend and refine the argument in many papers, popular articles and books. David Cole writes that "the Chinese Room argument has probably been the most widely discussed philosophical argument in cognitive science to appear in the past 25 years". Most of the discussion consists of attempts to refute it. "The overwhelming majority", notes BBS editor Stevan Harnad, "still think that the Chinese Room Argument is dead wrong". The sheer volume of the literature that has grown up around it inspired Pat Hayes to comment that the field of cognitive science ought to be redefined as "the ongoing research program of showing Searle's Chinese Room Argument to be false". Searle's argument has become "something of a classic in cognitive science", according to Harnad. Varol Akman agrees, and has described the original paper as "an exemplar of philosophical clarity and purity".
Философия
Қытай бөлмесі туралы аргумент бастапқыда жасанды интеллект зерттеушілерінің пікірлеріне жауап ретінде ұсынылғанмен, философтар оны сана философиясының маңызды бөлігі деп қарастырады. Ол функционализм мен сананың есептеу теориясына қарсы тұратын мәселе және ақыл-дене проблемасы, басқа жандардың санасы проблемасы, символдарды негіздеу мәселесі және сананың қиын мәселесі сияқты сұрақтармен байланысты.
Although the Chinese Room argument was originally presented in reaction to the statements of artificial intelligence researchers, philosophers have come to consider it as an important part of the philosophy of mind. It is a challenge to functionalism and the computational theory of mind, and is related to such questions as the mind–body problem, the problem of other minds, the symbol grounding problem, and the hard problem of consciousness.
Қуатты жасанды интеллект пен биологиялық натурализм
Серль өзінің «биологиялық натурализм» деп атаған философиялық ұстанымын ұстанады: сана мен түсінік үшін мида болатын нақты биологиялық механизмдер қажет. Ол «ми сананы тудырады» және «адамның ақыл-ойының нақты құбылыстары нақты адам миының нақты физикалық-химиялық қасиеттеріне тәуелді» деп жазады. Серль бұл механизмнің (нейроғылымда «сананың нейрондық корреляттары» деп белгілі) адамның саналық тәжірибесіне мүмкіндік беретін себептік күштерге ие болуы керек дейді. Серльдің осы күштердің бар екендігіне сенуі сынға ұшырады. Серль машиналардың санаға және түсінікке ие болуы мүмкін деген пікірмен келіспейді, себебі ол «біз дәл осындай машиналармыз» деп жазады. Серль мидың, шын мәнінде, машина екенін, бірақ мидің нақты механизмдерді пайдалану арқылы сана мен түсінікті тудыратынын санайды. Егер нейроғылым сананы тудыратын механикалық процесті оқшаулай алса, онда Серль саналы және түсінікті машиналар жасау мүмкін екенін мойындайды. Дегенмен, қажетті арнайы механизмдер болмаса, Серль сананың пайда болуына сенбейді. Биологиялық натурализм саналық тәжірибенің болатынын жүйенің қалай жұмыс істейтінін қарастыру арқылы анықтауға болмайтынын білдіреді, өйткені мидың нақты механизмі маңызды. Осылайша, биологиялық натурализм мінез-құлыққа және функционализмге (соның ішінде «компьютерлік функционализмге» немесе «күшті ИИ-ге») тікелей қарсы келеді. Биологиялық натурализм сәйкестік теориясына ұқсас (психикалық күйлер «нейрологиялық оқиғалармен сәйкес» немесе «олардан құралған» деген ұстаным); алайда, Серльдің сәйкестік теориясына нақты техникалық қарсылықтары бар. Серльдің биологиялық натурализмі мен күшті ИИ екеуі де ми мен сана әр түрлі «заттардан» тұрады деген Картезиандық дуализмге қарсы тұрады. Шындығында, Серль күшті ИИ-ді дуализммен айыптайды, «күшті ИИ тек сана жайында дуалистік болжамға байланысты ғана мағыналы, яғни ми маңызды емес» деп жазады.
Searle holds a philosophical position he calls "biological naturalism": that consciousness and understanding require specific biological machinery that are found in brains. He writes "brains cause minds" and that "actual human mental phenomena [are] dependent on actual physical–chemical properties of actual human brains". Searle argues that this machinery (known to neuroscience as the "neural correlates of consciousness") must have some causal powers that permit the human experience of consciousness. Searle's belief in the existence of these powers has been criticized. Searle does not disagree with the notion that machines can have consciousness and understanding, because, as he writes, "we are precisely such machines". Searle holds that the brain is, in fact, a machine, but that the brain gives rise to consciousness and understanding using specific machinery. If neuroscience is able to isolate the mechanical process that gives rise to consciousness, then Searle grants that it may be possible to create machines that have consciousness and understanding. However, without the specific machinery required, Searle does not believe that consciousness can occur. Biological naturalism implies that one cannot determine if the experience of consciousness is occurring merely by examining how a system functions, because the specific machinery of the brain is essential. Thus, biological naturalism is directly opposed to both behaviorism and functionalism (including "computer functionalism" or "strong AI"). Biological naturalism is similar to identity theory (the position that mental states are "identical to" or "composed of" neurological events); however, Searle has specific technical objections to identity theory. Searle's biological naturalism and strong AI are both opposed to Cartesian dualism, the classical idea that the brain and mind are made of different "substances". Indeed, Searle accuses strong AI of dualism, writing that "strong AI only makes sense given the dualistic assumption that, where the mind is concerned, the brain doesn't matter."
Ар-ождан
Серльдің алғашқы баяндамасында "түсіну" – яғни философтар "қастыққа иелік" деп атаған саналық күйлер баса назарда болды, ал "естелік" сияқты тығыз байланысты идеялар тікелей қарастырылмады. Дегенмен, соңғы баяндамаларында Серль сананы аргументтің нақты нысанасы ретінде қосты. Дэвид Чалмерс: "қытай бөлмесі мәселесінің түбінде сана тұрғаны анық" деп жазады. Колин МакГинн қытай бөлмесі сананың қиын мәселесінің негізінен шешілмейтіндігіне күшті дәлел келтіреді. Бұл аргументтің мәні, машина саналы бола ала ма, жоқ па дегенде емес, оның (немесе кез келген нәрсе) саналы екенін көрсетуге бола ма дегенде. Қытай бөлмесіндегі адамды тексерудің кез келген басқа тәсілі де, қытай тілінде сұрақтар мен жауаптар алмасу сияқты қиындықтарға тап болады. Бөлмеде саналы тұлға немесе шеберлікпен жасалған симуляция бар ма, жоқ па, оны анықтау мүмкін емес. Серль бұл тек бөлмеден тысқары бақылаушы үшін ғана дұрыс екенін айтады. Ой экспериментінің мақсаты – біреуді бөлмеге кіргізіп, сананың жұмысын тікелей бақылау мүмкіндігін беру. Серль бөлме ішіндегі өз көзқарасынан басқа, сананы тудыруға қабілетті ештеңе көрмеймін дейді, және оның қытай тілінде сөйлейтін санасы жоқ екені анық.
Searle's original presentation emphasized "understanding"—that is, mental states with what philosophers call "intentionality"—and did not directly address other closely related ideas such as "consciousness". However, in more recent presentations, Searle has included consciousness as the real target of the argument. David Chalmers writes, "it is fairly clear that consciousness is at the root of the matter" of the Chinese room. Colin McGinn argues that the Chinese room provides strong evidence that the hard problem of consciousness is fundamentally insoluble. The argument, to be clear, is not about whether a machine can be conscious, but about whether it (or anything else for that matter) can be shown to be conscious. It is plain that any other method of probing the occupant of a Chinese room has the same difficulties in principle as exchanging questions and answers in Chinese. It is simply not possible to divine whether a conscious agency or some clever simulation inhabits the room. Searle argues that this is only true for an observer outside of the room. The whole point of the thought experiment is to put someone inside the room, where they can directly observe the operations of consciousness. Searle claims that from his vantage point within the room there is nothing he can see that could imaginably give rise to consciousness, other than himself, and clearly he does not have a mind that can speak Chinese.
Қолданбалы этика
Патрик Хью әскери басқару және бақылау жүйелері командирдің моральдық жауапкершілігін сақтау үшін қандай талаптарға ие болуы керек екенін анықтау үшін Қытай бөлмесі аргументін пайдаланды. Ол командирді жетекшілік орталығында және Қытай бөлмесіндегі адамды салыстырып, Аристотельдің «мәжбүрлілік» және «білудің жоқтығы» тұжырымдарын негізге алып талдады. Ақпарат мағынадан символдарға «төмендетіліп» берілуі және символдық түрде өңделуі мүмкін, бірақ мағынаға «көтерілуі» жеткіліксіз болса, моральдық жауапкершілік бұзылуы мүмкін. Хью USS Vincennes оқиғасынан мысал келтірді.
Patrick Hew used the Chinese Room argument to deduce requirements from military command and control systems if they are to preserve a commander's moral agency. He drew an analogy between a commander in their command center and the person in the Chinese Room, and analyzed it under a reading of Aristotle's notions of "compulsory" and "ignorance". Information could be "down converted" from meaning to symbols, and manipulated symbolically, but moral agency could be undermined if there was inadequate 'up conversion' into meaning. Hew cited examples from the USS Vincennes incident.
Компьютерлік ғылым
Қытай бөлмесі туралы аргумент негізінен сана философиясы саласындағы аргумент болып табылады, және жетекші компьютер ғалымдары мен жасанды интеллект зерттеушілері оны өз салаларына қатысы жоқ деп есептейді. Дегенмен, аргументті түсіну үшін компьютер ғалымдары ұсынған бірнеше түсінік маңызды, олар: символдарды өңдеу, Тьюринг машиналары, Тьюрингтің толықтығы және Тьюринг тесті.
The Chinese room argument is primarily an argument in the philosophy of mind, and both major computer scientists and artificial intelligence researchers consider it irrelevant to their fields. However, several concepts developed by computer scientists are essential to understanding the argument, including symbol processing, Turing machines, Turing completeness, and the Turing test.
Қуатты жасанды интеллект пен жасанды интеллект зерттеулері
Серльдің аргументтері әдетте ЖА зерттеулері үшін мәселе деп есептелмейді. Жасанды интеллект зерттеулерінің басты миссиясы – ақылмен әрекет ететін пайдалы жүйелерді құру, ал интеллект «жалғыз» симуляция болса, бұл маңызды емес. AI зерттеушілері Стюарт Расселл мен Питер Норвиг 2021 жылы былай деп жазды: «Бізді ақылды түрде әрекет ететін бағдарламалар қызықтырады. Адамның санасы, өзіне-өзінің хабардар болуы, назар аудару сияқты жекелеген аспектілер бағдарламалана алады және ақылды машинаның құрамдас бөлігіне айналуы мүмкін. Адамдар сияқты санасы бар машина жасау – біздің құзырымызда жоқ мәселе». Серль, AI зерттеулерінің өте ақылды мінез-құлық танытатын машиналар жасауы мүмкін екенімен келіспейді. Қытай бөлмесі туралы аргумент, ми сияқты санасы мен ниеттері жоқ, бірақ адамнан да ақылдырақ әрекет ете алатын цифрлық машина құру мүмкіндігін ашық қалдырады. Серльдің «күшті ЖА гипотезасын» Рей Курцвейл және басқа да болашақтан көре білгіштер анықтаған «күшті ЖА» ұғымымен шатастыруға болмайды. Олар бұл терминді адам ақылымен бәсекелесетін немесе одан асып түсетін машиналық интеллектті – яғни, жасанды жалпы интеллектті, адам деңгейіндегі ЖА немесе суперинтеллектті сипаттау үшін қолданады. Курцвейл негізінен машинаның көрсететін ақыл-ойының деңгейіне қатысты, ал Серльдің аргументі оған ешқандай шектеу қоймайды. Серль суперинтеллекті машинаның міндетті түрде санасы мен ақыл-ойы болуы керек емес деп санайды.
Searle's arguments are not usually considered an issue for AI research. The primary mission of artificial intelligence research is only to create useful systems that act intelligently and it does not matter if the intelligence is "merely" a simulation. AI researchers Stuart Russell and Peter Norvig wrote in 2021: "We are interested in programs that behave intelligently. Individual aspects of consciousness awareness, self awareness, attention can be programmed and can be part of an intelligent machine. The additional project making a machine conscious in exactly the way humans are is not one that we are equipped to take on." Searle does not disagree that AI research can create machines that are capable of highly intelligent behavior. The Chinese room argument leaves open the possibility that a digital machine could be built that acts more intelligently than a person, but does not have a mind or intentionality in the same way that brains do. Searle's "strong AI hypothesis" should not be confused with "strong AI" as defined by Ray Kurzweil and other futurists, who use the term to describe machine intelligence that rivals or exceeds human intelligence that is, artificial general intelligence, human level AI or superintelligence. Kurzweil is referring primarily to the amount of intelligence displayed by the machine, whereas Searle's argument sets no limit on this. Searle argues that a superintelligent machine would not necessarily have a mind and consciousness.
Тьюринг сынағы
Қытай бөлмесі Тьюринг тестісінің бір түрін іске асырады. Алан Тьюринг 1950 жылы «машиналар ойлай ала ма?» деген сұраққа жауап беру мақсатымен осы тестті ұсынды. Стандартты нұсқасында адам судьясы адаммен және адам сияқты өнімділік көрсетуге бағдарланған машинамен табиғи тілде әңгімелеседі. Барлық қатысушылар бір-бірінен оқшауланған. Егер судья машинаны адамнан анық ажырата алмаса, машина тесттен өтті деп саналады. Содан кейін Тьюринг «машиналар ойлай алады» деген пікірге қарсы болатын барлық мүмкін қарсылықтарды қарастырып, егер сұрақ осылай түсіндірілсе, қарапайым және айқын жауаптар бар екенін анықтады. Дегенмен, ол тесттің «сана» немесе «түсінік» бар-жоғын өлшеуге арналмағанын айтты. Ол мұның өзі қарастырып отырған мәселелерге қатысы жоқ деп есептеді. Ол былай деп жазды:
The Chinese room implements a version of the Turing test. Alan Turing introduced the test in 1950 to help answer the question "can machines think?" In the standard version, a human judge engages in a natural language conversation with a human and a machine designed to generate performance indistinguishable from that of a human being. All participants are separated from one another. If the judge cannot reliably tell the machine from the human, the machine is said to have passed the test. Turing then considered each possible objection to the proposal "machines can think", and found that there are simple, obvious answers if the question is de mystified in this way. He did not, however, intend for the test to measure for the presence of "consciousness" or "understanding". He did not believe this was relevant to the issues that he was addressing. He wrote:
Сеарл үшін, сана мен ойдың мәнін зерттейтін философ ретінде, осылар маңызды жұмбақтар. Қытай бөлмесі Тьюринг тестісінің сананың болуын анықтау үшін жеткіліксіз екенін көрсету үшін жасалған, тіпті бөлме саналы ой сияқты қалыптасса да.
To Searle, as a philosopher investigating in the nature of mind and consciousness, these are the relevant mysteries. The Chinese room is designed to show that the Turing test is insufficient to detect the presence of consciousness, even if the room can behave or function as a conscious mind would.
Символдарды өңдеу
Қытай бөлмесі (және барлық заманауи компьютерлер) есептеулер мен симуляцияларды жүргізу үшін физикалық объектілерді манипуляциялайды. ИЖ зерттеушілері Аллен Ньюэлл мен Герберт А. Саймон мұндай машинаны физикалық символдар жүйесі деп атады. Бұл, сонымен қатар, математикалық логика саласында қолданылатын формалды жүйелерге эквивалентті. Серль осы типтегі символдарды манипуляциялаудың синтаксистік екенін (грамматиканы зерттеуден алынған термин) атап көрсетеді. Компьютер символдарды символдың семантикасын (яғни олардың мағынасын) білмей, синтаксис ережелерінің бір түрін қолдана отырып манипуляциялайды. Ньюэлл мен Саймон физикалық символдар жүйесінде (мысалы, цифрлық компьютерде) "жалпы интеллектуалды әрекет" үшін қажетті барлық механизмдер бар, немесе бүгінде белгілі болғандай, жасанды жалпы интеллект бар деп болжады. Олар мұны философиялық тұрғыдан, физикалық символдар жүйесі гипотезасы ретінде тұжырымдады: "Физикалық символдар жүйесі жалпы интеллектуалды әрекет үшін қажетті және жеткілікті құралдарға ие". Қытай бөлмесі аргументі бұған қарсы келмейді, себебі ол "интеллектуалды әрекет" терминдерімен, яғни машинаның сыртқы мінез-құлқымен байланысты, ал түсініктің, сананың және ақыл-ойының болуы немесе болмауы емес. ХХІ ғасырдың ИЖ бағдарламалары (мысалы, "терең оқыту") анықталмаған сандардың үлкен матрицаларында математикалық операцияларды орындайды және 1980 жылы Серль сын-пікірін жазған кездегі ИЖ бағдарламалары қолданған символдық өңдеуге ұқсамайды. Нильс Нильссон мұндай жүйелерді "символикалық" емес, "динамикалық" деп сипаттайды. Нильсон бұл жүйелердің негізінен динамикалық жүйелердің цифрлық бейнелері екенін атап өтеді. Жеке сандардың нақты семантикасы жоқ, бірақ олар динамикалық сигналдан алынған үлгілер немесе деректер нүктелері, ал семантикаға ие болатын сигналға жуықтау жасалады. Нильсон бұл сигналдарды физикалық символдар жүйесі гипотезасы сияқты "символдарды өңдеу" деп қарастырудың ақылға қонымсыз екенін айтады.
The Chinese room (and all modern computers) manipulate physical objects in order to carry out calculations and do simulations. AI researchers Allen Newell and Herbert A. Simon called this kind of machine a physical symbol system. It is also equivalent to the formal systems used in the field of mathematical logic. Searle emphasizes the fact that this kind of symbol manipulation is syntactic (borrowing a term from the study of grammar). The computer manipulates the symbols using a form of syntax rules, without any knowledge of the symbol's semantics (that is, their meaning). Newell and Simon had conjectured that a physical symbol system (such as a digital computer) had all the necessary machinery for "general intelligent action", or, as it is known today, artificial general intelligence. They framed this as a philosophical position, the physical symbol system hypothesis: "A physical symbol system has the necessary and sufficient means for general intelligent action." The Chinese room argument does not refute this, because it is framed in terms of "intelligent action", i. e. the external behavior of the machine, rather than the presence or absence of understanding, consciousness and mind. Twenty first century AI programs (such as "deep learning") do mathematical operations on huge matrixes of unidentified numbers and bear little resemblance to the symbolic processing used by AI programs at the time Searle wrote his critique in 1980. Nils Nilsson describes systems like these as "dynamic" rather than "symbolic". Nilsson notes that these are essentially digitized representations of dynamic systems the individual numbers do not have a specific semantics, but are instead samples or data points from a dynamic signal, and it is the signal being approximated which would have semantics. Nilsson argues it is not reasonable to consider these signals as "symbol processing" in the same sense as the physical symbol systems hypothesis.
Қытай бөлмесі мен Тьюрингтік толықтығы
Қытай бөлмесінің дизайны қазіргі заманғы компьютерге ұқсас. Ол фон Нейман архитектурасына ие, ол бағдарламадан (нұсқаулар кітабы), жадтан (қағаздар мен файлдық шкафтар), нұсқауларды орындайтын процессордан (адам) және жадқа символдарды жазу құралынан (қалам мен өшіргіш) тұрады. Мұндай құрылымды машина теориялық компьютер ғылымында «Тюринг толық» деп аталады, себебі ол Тюринг машинасы орындай алатын кез келген есептеуді жүзеге асыруға қажетті құралдарға ие, сондықтан ол жеткілікті жад пен уақыт болғанда кез келген басқа цифрлық машинаның қадамдық симуляциясын жасай алады. Алан Тьюринг: «Барлық цифрлық компьютерлер белгілі бір жағынан тең» деп жазды. Кең таралған Чёрч-Тьюринг тезисі бойынша, тиімді процедура арқылы есептелетін кез келген функцияны Тьюринг машинасы арқылы есептеуге болады. Қытай бөлмесінің Тюринг толықтығы оның кез келген басқа цифрлық компьютердің істей алатынын істей алатынын білдіреді (дегенмен әлдеқайда баяу болса да). Осылайша, егер Қытай бөлмесі қытай тілінде сөйлейтін сананы құра алмаса немесе құра алмайтын болса, онда ешқандай басқа цифрлық компьютерде сана болмайды. Серльге жауап берушілердің кейбіреуі бөлме, сипатталғандай, қытай тілінде сөйлейтін сананы құра алмайды деп бастайды. Стивен Харнадтың пікірінше, осындай аргументтер «Қытай бөлмесі аргументін жоққа шығару емес (бірақ растау)» болып табылады, өйткені бұл аргументтер шын мәнінде ешқандай цифрлық компьютерде сананың болуы мүмкін емес екенін білдіреді. Кейбір сыншылар, мысалы Ханок Бен Ями, Қытай бөлмесінің цифрлық компьютердің барлық мүмкіндіктерін, мысалы қазіргі уақытты анықтау сияқты мүмкіндіктерін симуляциялай алмайтынын айтады.
The Chinese room has a design analogous to that of a modern computer. It has a Von Neumann architecture, which consists of a program (the book of instructions), some memory (the papers and file cabinets), a CPU that follows the instructions (the man), and a means to write symbols in memory (the pencil and eraser). A machine with this design is known in theoretical computer science as "Turing complete", because it has the necessary machinery to carry out any computation that a Turing machine can do, and therefore it is capable of doing a step by step simulation of any other digital machine, given enough memory and time. Alan Turing writes, "all digital computers are in a sense equivalent." The widely accepted Church–Turing thesis holds that any function computable by an effective procedure is computable by a Turing machine. The Turing completeness of the Chinese room implies that it can do whatever any other digital computer can do (albeit much, much more slowly). Thus, if the Chinese room does not or can not contain a Chinese speaking mind, then no other digital computer can contain a mind. Some replies to Searle begin by arguing that the room, as described, cannot have a Chinese speaking mind. Arguments of this form, according to Stevan Harnad, are "no refutation (but rather an affirmation)" of the Chinese room argument, because these arguments actually imply that no digital computers can have a mind. There are some critics, such as Hanoch Ben Yami, who argue that the Chinese room cannot simulate all the abilities of a digital computer, such as being able to determine the current time.
Жүйелер мен виртуалды ақыл-ой жауаптары: ақыл-ойды табу
Бұл жауаптар мына сұраққа жауап беруге тырысады: бөлмедегі адам қытай тілін білмейтін болса, онда қытай тілінде ойлайтын "ақыл" қайда орналасқан? Бұл жауаптар ми мен дене, сондай-ақ симуляция мен шындық арасындағы маңызды онтологиялық мәселелерді қарастырады. Бөлмедегі ақыл-ойды анықтайтын барлық жауаптар – "жүйелік жауаптың" түрлері.
These replies attempt to answer the question: since the man in the room does not speak Chinese, where is the "mind" that does? These replies address the key ontological issues of mind vs. body and simulation vs. reality. All of the replies that identify the mind in the room are versions of "the system reply".
Жүйенің жауабы
Жүйелік жауаптың негізгі нұсқасы қытай тілін түсінуді "толық жүйеге" жатқызады. Адам тек ағылшын тілін түсінеді, бірақ бағдарламамен, қағазбен, қарындашпен және файлдық шкафтармен біріктірілгенде, қытай тілін түсіне алатын жүйе құрылады. "Мұнда түсінік тек жеке адамға емес, оның бір бөлігі болып табылатын бүкіл жүйеге жатқызылады" деп түсіндіреді Серль. Серль (жауаптың осы қарапайым нұсқасында) "жүйенің" қарапайым физикалық заттардың жиынтығынан басқа ештеңе емес екенін атап өтеді; ол "осы адамның және қағаздың бөліктерінің" бірігіміне түсіну және сана күшін береді, ал бұл заттардың үйіндісі қалай саналы, ойлайтын болғанын түсіндіруге тырыспайды. Серль ешқандай ақылға қонымды адам жауапқа қанағаттанбауы керек дейді, егер олар "идеологияның ықпалында" болмаса. Бұл жауапқа сену үшін, сананың ақпаратты өңдеу "жүйесінің" өнімі болуі мүмкін екенін және мидың нақты биологиясына ұқсас ештеңе қажет емес екенін қабылдау керек. Серль физикалық нысандар тізімін жеңілдету арқылы жауап береді: егер адам ережелерді жаттап алып, бәрін өз санасында қадағаласа, не болады? Сонда бүкіл жүйе бір ғана объектіден тұрады: адамның өзінен. Серль егер адам қытай тілін түсінбесе, онда жүйе де қытай тілін түсінбейді дейді, өйткені қазір "жүйе" мен "адам" екеуі де дәл сол объектіні сипаттайды. Серльдің жауабын сынға алғандар, бағдарлама оған бір басында екі ой-сананы қалыптастыруға мүмкіндік берді дейді. Егер "ой" – ақпаратты өңдеудің бір түрі деп есептесек, онда есептеу теориясы бір мезгілде екі есептеудің болуын ескере алады, атап айтқанда (1) әмбебап бағдарламалау есептеуі (бұл адам және жазба материалдарының кез келген бағдарлама мазмұнынан тәуелсіз функциясы) және (2) бағдарламамен сипатталған Тьюринг машинасының есептеуі (бұл нақты бағдарламаны қоса алғанда, барлық нәрсемен жасалады). Осылайша есептеу теориясы Қытай бөлмесіндегі екінші есептеудің қытай тіліндегі кіріс деректерді адамға тең семантикалық түсінуге алып келу мүмкіндігін ашық түрде түсіндіреді. Назар бағдарламаның Тьюринг машинасына, емес адамға тиесілі. Алайда, Серльдің көзқарасы бойынша, бұл аргумент дөңгелек. Мәселе сананың ақпаратты өңдеу формасы екендігінде, ал бұл жауап бізден осы болжамды жасауды талап етеді. Жүйелік жауаптардың күрделі нұсқалары "жүйенің" не екенін нақтырақ анықтауға тырысады және оны қалай сипаттайтындығымен ерекшеленеді. Бұл жауаптарға сәйкес, "қытайша сөйлейтін сана" мынадай нәрселер болуы мүмкін: "бағдарлама", "жұмыс істеп тұрған бағдарлама", "білімнің жүйкелік байланыстарының" симуляциясы, "функционалдық жүйе", "симуляцияланған сана", "жаңадан пайда болған қасиет" немесе "виртуалды сана" (төменде сипатталған).
The basic version of the system reply argues that it is the "whole system" that understands Chinese. While the man understands only English, when he is combined with the program, scratch paper, pencils and file cabinets, they form a system that can understand Chinese. "Here, understanding is not being ascribed to the mere individual; rather it is being ascribed to this whole system of which he is a part" Searle explains. Searle notes that (in this simple version of the reply) the "system" is nothing more than a collection of ordinary physical objects; it grants the power of understanding and consciousness to "the conjunction of that person and bits of paper" without making any effort to explain how this pile of objects has become a conscious, thinking being. Searle argues that no reasonable person should be satisfied with the reply, unless they are "under the grip of an ideology;" In order for this reply to be remotely plausible, one must take it for granted that consciousness can be the product of an information processing "system", and does not require anything resembling the actual biology of the brain. Searle then responds by simplifying this list of physical objects: he asks what happens if the man memorizes the rules and keeps track of everything in his head? Then the whole system consists of just one object: the man himself. Searle argues that if the man does not understand Chinese then the system does not understand Chinese either because now "the system" and "the man" both describe exactly the same object. Critics of Searle's response argue that the program has allowed the man to have two minds in one head. If we assume a "mind" is a form of information processing, then the theory of computation can account for two computations occurring at once, namely (1) the computation for universal programmability (which is the function instantiated by the person and note taking materials independently from any particular program contents) and (2) the computation of the Turing machine that is described by the program (which is instantiated by everything including the specific program). The theory of computation thus formally explains the open possibility that the second computation in the Chinese Room could entail a human equivalent semantic understanding of the Chinese inputs. The focus belongs on the program's Turing machine rather than on the person's. However, from Searle's perspective, this argument is circular. The question at issue is whether consciousness is a form of information processing, and this reply requires that we make that assumption. More sophisticated versions of the systems reply try to identify more precisely what "the system" is and they differ in exactly how they describe it. According to these replies, the "mind that speaks Chinese" could be such things as: the "software", a "program", a "running program", a simulation of the "neural correlates of consciousness", the "functional system", a "simulated mind", an "emergent property", or "a virtual mind" (described below).
Виртуалды ақыл-ой жауабы
Марвин Мински "виртуалды сана жауабы" деп аталатын жүйелік жауаптың бір түрін ұсынды. "Виртуалды" термині компьютер ғылымында компьютерде (немесе компьютерлік желіде) ғана бар болып көрінетін объектіні сипаттау үшін қолданылады, себебі бағдарламалық жасақтама оның бар екеніндей көрінуін қамтамасыз етеді. Компьютерлердің "ішіндегі" барлық объектілер (файлдар, папкалар және т.б.) компьютердің электрондық компоненттерінен басқа "виртуалды" болып табылады. Сол сияқты, Мински пікірінше, компьютерде виртуалды машиналар, виртуалды қауымдастықтар және виртуалды шындық сияқты виртуалды "сана" болуы мүмкін. Жоғарыда келтірілген қарапайым жүйелік жауап пен виртуалды сана жауабы арасындағы айырмашылықты түсіндіру үшін Дэвид Коул бір жүйеде бір уақытта екі симуляцияның жұмыс істей алатынын атап өтті: бірі қытай тілінде, екіншісі корей тілінде сөйлейді. Бір жүйе болғанымен, бірнеше "виртуалды сана" болуы мүмкін, сондықтан "жүйе" "сана" бола алмайды. Серль мұндай сананың, ең болжамдысы, симуляция ғана екенін айтады және былай деп жазады: "Ешкім компьютерде жасалған бес сатылы өрт көршілікті өртеп жібереді немесе компьютерде жасалған жаңбырдың бізді суға малып кетеді деп ойламайды". Николас Ферн кейбір жағдайларда симуляцияның нағыз нәрседен артық емес екенін айтады. "Десктоп компьютерінде калькулятор функциясын шақырғанда, экранда калькулятордың бейнесі пайда болады. Біз "бұл шын мәнінде калькулятор емес" деп шағымданбаймыз, өйткені құрылғының физикалық қасиеттері маңызды емес". Сұрақ: Адам санасы қалталық калькулятор сияқты ма, яғни негізінен ақпараттан тұрады, онда нәрсенің толыққанды симуляциясы – оның өзі болып табылады ма? Әлде сана жаңбырлы дауыл сияқты ма, ол әлемдегі нәрсе, оның симуляциясынан артық, және компьютерлік симуляциямен толыққанды көшірілмейтін нәрсе ме? Он жылдар бойы бұл симуляция мәселесі жасанды интеллект зерттеушілерін және философтарды "жасанды интеллект" терминінен гөрі "синтетикалық интеллект" терминінің қолдануы орындырақ па деп ойлауға итермеледі. Бұл жауаптар қытай тілін кімнің түсінетінін түсіндіреді. Егер бөлмедегі адамнан басқа қытай тілін түсінетін нәрсе болса, Серль: 1) адам қытай тілін түсінбейді, демек 2) бөлмедегі ештеңе қытай тілін түсінбейді деп айта алмайды. Бұл жауапты берушілердің пікірінше, Серльдің аргументі "күшті ЖА" жалған екенін дәлелдей алмайды. Алайда, бұл жауаптар күшті ЖА-ның дұрыс екеніне ешқандай дәлел келтірмейді. Олар жүйе (немесе виртуалды сана) қытай тілін түсінеді деп көрсетпейді, тек Тьюринг тестісінен өтетін болжамдық шарттан басқа. Серль мысал ретінде Қытай бөлмесін келтіреді, ол күшті ЖА-ны сенімді ету үшін түсіндіруді қажет ететін мысал. Бөлмеден сананың қалай пайда болатынын немесе жүйеде сананың қалай пайда болатынын түсіндіру қиын немесе мүмкін емес. Серльдің айтуынша, "жүйелік жауап тек жүйенің қытай тілін түсінуі керек екенін талап ету арқылы мәселені қанағаттандырмайды" және осылайша мәселеден жалтарып немесе айналып өтеді.
Marvin Minsky suggested a version of the system reply known as the "virtual mind reply". The term "virtual" is used in computer science to describe an object that appears to exist "in" a computer (or computer network) only because software makes it appear to exist. The objects "inside" computers (including files, folders, and so on) are all "virtual", except for the computer's electronic components. Similarly, Minsky argues, a computer may contain a "mind" that is virtual in the same sense as virtual machines, virtual communities and virtual reality. To clarify the distinction between the simple systems reply given above and virtual mind reply, David Cole notes that two simulations could be running on one system at the same time: one speaking Chinese and one speaking Korean. While there is only one system, there can be multiple "virtual minds," thus the "system" cannot be the "mind". Searle responds that such a mind is, at best, a simulation, and writes: "No one supposes that computer simulations of a five alarm fire will burn the neighborhood down or that a computer simulation of a rainstorm will leave us all drenched." Nicholas Fearn responds that, for some things, simulation is as good as the real thing. "When we call up the pocket calculator function on a desktop computer, the image of a pocket calculator appears on the screen. We don't complain that 'it isn't really a calculator', because the physical attributes of the device do not matter." The question is, is the human mind like the pocket calculator, essentially composed of information, where a perfect simulation of the thing just is the thing? Or is the mind like the rainstorm, a thing in the world that is more than just its simulation, and not realizable in full by a computer simulation? For decades, this question of simulation has led AI researchers and philosophers to consider whether the term "synthetic intelligence" is more appropriate than the common description of such intelligences as "artificial." These replies provide an explanation of exactly who it is that understands Chinese. If there is something besides the man in the room that can understand Chinese, Searle cannot argue that (1) the man does not understand Chinese, therefore (2) nothing in the room understands Chinese. This, according to those who make this reply, shows that Searle's argument fails to prove that "strong AI" is false. These replies, by themselves, do not provide any evidence that strong AI is true, however. They do not show that the system (or the virtual mind) understands Chinese, other than the hypothetical premise that it passes the Turing Test. Searle argues that, if we are to consider Strong AI remotely plausible, the Chinese Room is an example that requires explanation, and it is difficult or impossible to explain how consciousness might "emerge" from the room or how the system would have consciousness. As Searle writes "the systems reply simply begs the question by insisting that the system must understand Chinese" and thus is dodging the question or hopelessly circular.
Робот пен семантика жауаптары: мағынаны табу
Бөлмедегі адам үшін символдар мағынасыз "сызықтар" ғана. Бірақ егер қытай бөлмесі шынымен "түсініп" тұрса, онда символдардың мағынасы қайдан да келуі керек. Бұл пікірлер символдарды олар көрсететін нәрселермен байланыстыруға бағытталған. Бұл жауаптар Сеарлдың ниеттілік, символдардың негізделуі және синтаксис пен семантика мәселелеріне қатысты алаңдаушылықтарын жолдайды.
As far as the person in the room is concerned, the symbols are just meaningless "squiggles." But if the Chinese room really "understands" what it is saying, then the symbols must get their meaning from somewhere. These arguments attempt to connect the symbols to the things they symbolize. These replies address Searle's concerns about intentionality, symbol grounding and syntax vs. semantics.
Робот жауабы
Егер бағдарлама бөлмеде емес, айналып жүріп, қоршаған ортамен өзара әрекеттесе алатын роботқа орналастырылса. Бұл символдар мен олар көрсететін нәрселер арасында "мұқият байланыс" орнатуға мүмкіндік береді. Ханс Моравек: "Егер біз ойлау бағдарламасына роботты қоса алсақ, мағынаны беру үшін адам қажет болмас еді: ол физикалық әлемнен туындамас еді". Серльдің жауабы – Қытай бөлмесіндегі адам білмейтіндей, кейбір кіріс деректері роботқа орнатылған камерадан тікелей түсіп, ал кейбір шығыс деректері роботтың қол-аяқтарын басқару үшін қолданылған. Дегенмен, бөлмедегі адам әлі де тек қағидаларды орындап жатыр, және ол символдардың мағынасын білмейді. Серль былай жазады: "Ол роботтың көзімен не көрілетінін білмейді". (Мэридің бөлмесіне ұқсас ой тәжірибесі қараңыз.)
Suppose that instead of a room, the program was placed into a robot that could wander around and interact with its environment. This would allow a "causal connection" between the symbols and things they represent. Hans Moravec comments: "If we could graft a robot to a reasoning program, we wouldn't need a person to provide the meaning anymore: it would come from the physical world." Searle's reply is to suppose that, unbeknownst to the individual in the Chinese room, some of the inputs came directly from a camera mounted on a robot, and some of the outputs were used to manipulate the arms and legs of the robot. Nevertheless, the person in the room is still just following the rules, and does not know what the symbols mean. Searle writes "he doesn't see what comes into the robot's eyes." (See Mary's room for a similar thought experiment.)
Түсіндірілген мағынасы
Кейбіреулер бұл бөлме, Серль сипаттағандай, әлеммен байланысты дейді: ол қытай тілінде сөйлейтін адамдармен "сөйлеседі" және оның файл шкафындағы білім базасын жасаған бағдарламашылар арқылы. Серль қолданатын символдардың өзі мағыналы, бірақ ол үшін мағынасыз. Серль символдардың мағынасы кітаптағы сөздердің мағынасы сияқты "туынды" екенін айтады. Символдардың мағынасы бөлмеден тыс қытай тілінде сөйлейтін адамдар мен бағдарламашылардың саналы түсінігіне байланысты. Кітап сияқты, бөлме де өзі түсінбейді.
Some respond that the room, as Searle describes it, is connected to the world: through the Chinese speakers that it is "talking" to and through the programmers who designed the knowledge base in his file cabinet. The symbols Searle manipulates are already meaningful, they're just not meaningful to him. Searle says that the symbols only have a "derived" meaning, like the meaning of words in books. The meaning of the symbols depends on the conscious understanding of the Chinese speakers and the programmers outside the room. The room, like a book, has no understanding of its own.
Ортақ түсінік / контексттік жауап
Кейбіреулер символдардың мағынасы бағдарлама мен файлдық шкафтарда сақталған, жалпыға белгілі білімнің кең "фонынан" туындайды деп санайды. Бұл символдардың мәнін түсіндіретін "контекст" болар еді. Серль осы фонның бар екенін мойындайды, бірақ оны бағдарламаларға енгізуге келіспейді. Хьюберт Дрейфус та "фонды" символдық түрде бейнелеу мүмкін емесін сынап көрсетті. Осы ұсыныстардың әрқайсысына Серль бірдей жауап береді: бағдарламаға қанша білім жазылса да және бағдарлама әлеммен қанша байланысқа түссе де, ол бөлмеде қалып, ережелер бойынша символдарды ғана манипуляциялай береді. Оның әрекеттері синтаксистік сипатта болады, және бұл оған символдар нені білдіретінін ешқашан түсіндіре алмайды. Серль "синтаксис семантика үшін жеткіліксіз" деп жазады. Дегенмен, Серльдің әрекеттері өз санасынан бөлек сананы имитациялайтынын қабылдағандар үшін маңызды сұрақ – символдар Серль үшін не білдіреді емес, виртуалды сана үшін не білдіреді. Серль бөлмеде қамалса да, виртуалды сана – қамалмайды: ол сыртқы әлеммен қытай тілінде сөйлейтін адамдар арқылы, оған әлемдік білім берген бағдарламалаушылар арқылы және робототехниктер ұсына алатын камералар мен басқа да сенсорлар арқылы байланысты.
Some have argued that the meanings of the symbols would come from a vast "background" of commonsense knowledge encoded in the program and the filing cabinets. This would provide a "context" that would give the symbols their meaning. Searle agrees that this background exists, but he does not agree that it can be built into programs. Hubert Dreyfus has also criticized the idea that the "background" can be represented symbolically. To each of these suggestions, Searle's response is the same: no matter how much knowledge is written into the program and no matter how the program is connected to the world, he is still in the room manipulating symbols according to rules. His actions are syntactic and this can never explain to him what the symbols stand for. Searle writes "syntax is insufficient for semantics." However, for those who accept that Searle's actions simulate a mind, separate from his own, the important question is not what the symbols mean to Searle, what is important is what they mean to the virtual mind. While Searle is trapped in the room, the virtual mind is not: it is connected to the outside world through the Chinese speakers it speaks to, through the programmers who gave it world knowledge, and through the cameras and other sensors that roboticists can supply.
Миды симуляциялау және байланыстырушы жауаптар: бөлмені қайта құру
Бұл аргументтердің бәрі – жүйе жауабының түрлі нұсқалары, олар нақты бір жүйе түрін маңызды деп көрсетеді; олар машинада саналы түсінуді қамтамасыз ететін арнайы технологияны анықтайды. (Жоғарыда айтылған "робот" және "жалпы білім" жауаптары да нақты бір жүйе түрінің маңызды екенін көрсетеді.)
These arguments are all versions of the systems reply that identify a particular kind of system as being important; they identify some special technology that would create conscious understanding in a machine. (The "robot" and "commonsense knowledge" replies above also specify a certain kind of system as being important.)
Ми тренажерінің жауабы
Егер бағдарлама қытай тілінде сөйлейтін адамның миындағы әрбір нейронның қызметін ең ұсақ бөлшектерге дейін симуляцияласа, делік. Бұл, бағдарламаның жұмысы мен тірі адам миының жұмысы арасында ешқандай маңызды айырмашылық болмайды деген сезімді күшейтеді. Серль мұндай симуляция мидың маңызды ерекшеліктерін – оның себептік және мақсаттық жағдайларын қайта жасай алмайды деп жауап береді. Серль "адамның психикалық құбылыстары нақты адам миының нақты физикалық-химиялық қасиеттеріне тәуелді" екенін қатаң түрде айтады. Сонымен қатар, ол былай деп аргументтейді: ми симуляторына қатысты екі түрлі пікір бар – «қытай миы» және миды ауыстыру сценарийі.
Suppose that the program simulated in fine detail the action of every neuron in the brain of a Chinese speaker. This strengthens the intuition that there would be no significant difference between the operation of the program and the operation of a live human brain. Searle replies that such a simulation does not reproduce the important features of the brain—its causal and intentional states. Searle is adamant that "human mental phenomena [are] dependent on actual physical–chemical properties of actual human brains." Moreover, he argues:
Two variations on the brain simulator reply are the China brain and the brain replacement scenario.
Қытай миы
Қытайдың әрбір азаматынан аксон мен дендриттер арасындағы байланыстарды телефон желісі арқылы модельдеу үшін бір нейронды модельдеуді сұрасақ не болады? Мұндай жағдайда, ешбір адам ми не айтқанын түсінбеуі анық. Сонымен қатар, бұл жүйе функционалды түрде миға балама екені де анық, сондықтан сана функция болса, бұл жүйе де саналы болар еді.
What if we ask each citizen of China to simulate one neuron, using the telephone system to simulate the connections between axons and dendrites? In this version, it seems obvious that no individual would have any understanding of what the brain might be saying. It is also obvious that this system would be functionally equivalent to a brain, so if consciousness is a function, this system would be conscious.
Миды ауыстыру сценариі
Бұл жағдайда, инженерлер жеке нейронның қызметін имитациялайтын шағын компьютер ойлап тапқан деп көзге елестетуіміз керек. Егер біз бір-бірлеп нейрондарды алмастырсақ, не болады? Біреуін ауыстыру, әрине, саналы сезімге ешқандай өзгеріс енгізбейді. Барлығын алмастырсақ, миды имитациялайтын цифрлық компьютер пайда болады. Егер Сёрл дұрыс болса, онда саналы сезім процедура барысында (бірқадамды немесе бірден) жойылуы керек. Сёрлдің сыншылары процедура кезінде саналы сезімнің тоқтағанын және санасыз имитация басталғанын айта алатын сәт болмайды деп мәлімдейді. (Осыған ұқсас ой-эксперимент үшін Тесейдің кемесін қараңыз.)
In this, we are asked to imagine that engineers have invented a tiny computer that simulates the action of an individual neuron. What would happen if we replaced one neuron at a time? Replacing one would clearly do nothing to change conscious awareness. Replacing all of them would create a digital computer that simulates a brain. If Searle is right, then conscious awareness must disappear during the procedure (either gradually or all at once). Searle's critics argue that there would be no point during the procedure when he can claim that conscious awareness ends and mindless simulation begins. (See Ship of Theseus for a similar thought experiment.)
Коннективистік жауаптар
Бұл ми симуляторының жауабымен тығыз байланысты, бұл массивті параллель байланыстық архитектураның түсінуге қабілетті екенін мәлімдейді. Қазіргі заманғы терең оқыту массивті параллельдікке ие және көптеген салаларда интеллектуалды мінез-құлықты сәтті көрсетті. Нильс Нильссон қазіргі заманғы ЖА 1980 жылғы ЖА қолданған "символдардың" орнына цифрланған "динамикалық сигналдарды" қолданатынын айтады. Мұнда семантиканы бағдарламамен өңделген жеке сандар емес, сынамаланған сигнал береді. Бұл Серль көз алдында елестеткен машинадан мүлдем басқа машина.
Closely related to the brain simulator reply, this claims that a massively parallel connectionist architecture would be capable of understanding. Modern deep learning is massively parallel and has successfully displayed intelligent behavior in many domains. Nils Nilsson argues that modern AI is using digitized "dynamic signals" rather than "symbols" of the kind used by AI in 1980. Here it is the sampled signal which would have the semantics, not the individual numbers manipulated by the program. This is a different kind of machine than the one that Searle visualized.
Комбинациялық жауап
Бұл жауап роботтың жауабын және миды модельдеудің жауабын біріктіріп, миды модельдеу робот денесі арқылы әлеммен байланысқа түскен жағдайда санаға ие болуы мүмкін екенін көрсетеді.
This response combines the robot reply with the brain simulation reply, arguing that a brain simulation connected to the world through a robot body could have a mind.
Көптеген үйлер / Келесі жылға дейін күте тұрыңыз
Болашақтағы технологияны жетілдіру компьютерлерге түсінуге мүмкіндік береді. Серль бұл мүмкін екеніне келіседі, бірақ бұл мәселені маңызды емес деп санайды. Серль саналы түсінігі бар мидан басқа да аппараттар болуы мүмкін екендігіне келіседі. Бұл аргументтер (және робот немесе жалпы білім туралы жауаптар) машинада саналы түсінікті құруға көмектесетін арнайы технологияны анықтайды. Оларды екі түрлі жолмен түсіндіруге болады: біріншіден, олар бұл технология сана үшін қажет, ал «қытай бөлмесі» осы технологияны іске асыра алмайды немесе оны жүзеге асыра алмайды, сондықтан «қытай бөлмесі» Тьюринг тестін өте алмайды немесе (егер өте алса да) саналы түсінікке ие болмайды деп мәлімдейді. Екіншіден, олар «қытай бөлмесінің» санасы бар екенін көру оңайырақ болады, егер біз осы технологияны оны құру үшін қолданылғанын көзге елестетсек. Бірінші жағдайда, егер робот денесі немесе байланыс архитектурасы сияқты ерекшеліктер қажет болса, Серль күшті ИИ (оның түсінігіндегідей) тасталғанын мәлімдейді. «Қытай бөлмесінде» Тьюрингтің толық машинасының барлық элементтері бар, сондықтан ол кез келген цифрлық есептеуді симуляциялай алады. Егер Серльдің бөлмесі Тьюринг тестінен өтпесе, онда Тьюринг тестінен өте алатын басқа цифрлық технология жоқ. Егер Серльдің бөлмесі Тьюринг тестінен өтсе, бірақ оның санасы болмаса, онда Тьюринг тесті бөлмеде «сана» бар-жоғын анықтау үшін жеткіліксіз. Қай жағдайда болса да, ол Серльдің «күшті ИИ» деп санайтын екі ұстанымның бірін жоққа шығарады, осылайша өзінің аргументін дәлелдейді. Атап айтқанда, ми туралы аргументтер күшті ИИ-ді жоққа шығарады, егер олар миді сипаттаудың ми сияқты түсініксіз бағдарлама жасаудан гөрі қарапайым жолы жоқ деп есептесе. Ол былай деп жазады: «Мен күшті ИИ-дің негізгі идеясы – ақылдың қалай жұмыс істейтінін білу үшін мидың қалай жұмыс істейтінін білудің қажеті жоқ деп ойладым». Егер есептеулер адам миын түсіндірмесе, онда Серльдің айтуынша, күшті ИИ сәтсіздікке ұшырады. Басқа сыншылар Серль сипаттаған бөлмеде, шын мәнінде, сана бар деп санайды, бірақ олар Серльдің сипаттамасы дұрыс болғанымен, шатастыратындықтан оны түсіну қиын дейді. Олар бөлмені нақтырақ етіп қайта жобалау арқылы осы мәселені анық көруге үміттенеді. Бұл жағдайда бұл аргументтер интуицияға жүгіну ретінде қолданылады (келесі бөлімді қараңыз). Шын мәнінде, бөлмені қайта құру оңай, ол біздің интуициямызды әлсіретеді. Нед Блоктың Blockhead аргументі бағдарламаны теориялық тұрғыдан қарапайым іздеу кестесіне қайта жазуға болады деп болжайды: «егер пайдаланушы S жазатын болса, P-мен жауап беріңіз және X-қа өтіңіз». Кем дегенде, принцип бойынша, кез келген бағдарламаны, тіпті мидың симуляциясын да, осы форматқа қайта жазуға болады. Blockhead сценарийінде бүкіл психикалық күй X әрпінде жасырылады, ол келесі ережемен байланысты жад адресін – нөмірді білдіреді. Біреудің саналы тәжірибесінің бір сәтін бір үлкен санда түсіру қиын, бірақ «күшті ИИ» осыны талап етеді. Екінші жағынан, мұндай іздеу кестесі өте үлкен болады (физикалық тұрғыдан мүмкін емес), сондықтан күйлер өте нақты болуы мүмкін. Серльдің пікірінше, бағдарлама қалай жазылса да немесе машина әлеммен қалай байланысқан болса да, сананы қарапайым қадамдық цифрлық машина (немесе машиналар) симуляциялайды. Бұл машиналар әрқашан бөлмедегі адам сияқты: олар ештеңе түсінбейді және қытайша сөйлей алмайды. Олар тек символдарды манипуляциялайды, бірақ олардың мәнін білмейді. Ол былай деп жазады: «Мен сіздер қалаған кез келген формалды бағдарламаны жасай аламын, бірақ мен әлі де ештеңе түсінбеймін».
Better technology in the future will allow computers to understand. Searle agrees that this is possible, but considers this point irrelevant. Searle agrees that there may be other hardware besides brains that have conscious understanding. These arguments (and the robot or commonsense knowledge replies) identify some special technology that would help create conscious understanding in a machine. They may be interpreted in two ways: either they claim (1) this technology is required for consciousness, the Chinese room does not or cannot implement this technology, and therefore the Chinese room cannot pass the Turing test or (even if it did) it would not have conscious understanding. Or they may be claiming that (2) it is easier to see that the Chinese room has a mind if we visualize this technology as being used to create it. In the first case, where features like a robot body or a connectionist architecture are required, Searle claims that strong AI (as he understands it) has been abandoned. The Chinese room has all the elements of a Turing complete machine, and thus is capable of simulating any digital computation whatsoever. If Searle's room cannot pass the Turing test then there is no other digital technology that could pass the Turing test. If Searle's room could pass the Turing test, but still does not have a mind, then the Turing test is not sufficient to determine if the room has a "mind". Either way, it denies one or the other of the positions Searle thinks of as "strong AI", proving his argument. The brain arguments in particular deny strong AI if they assume that there is no simpler way to describe the mind than to create a program that is just as mysterious as the brain was. He writes "I thought the whole idea of strong AI was that we don't need to know how the brain works to know how the mind works." If computation does not provide an explanation of the human mind, then strong AI has failed, according to Searle. Other critics hold that the room as Searle described it does, in fact, have a mind, however they argue that it is difficult to see—Searle's description is correct, but misleading. By redesigning the room more realistically they hope to make this more obvious. In this case, these arguments are being used as appeals to intuition (see next section). In fact, the room can just as easily be redesigned to weaken our intuitions. Ned Block's Blockhead argument suggests that the program could, in theory, be rewritten into a simple lookup table of rules of the form "if the user writes S, reply with P and goto X". At least in principle, any program can be rewritten (or "refactored") into this form, even a brain simulation. In the blockhead scenario, the entire mental state is hidden in the letter X, which represents a memory address—a number associated with the next rule. It is hard to visualize that an instant of one's conscious experience can be captured in a single large number, yet this is exactly what "strong AI" claims. On the other hand, such a lookup table would be ridiculously large (to the point of being physically impossible), and the states could therefore be extremely specific. Searle argues that however the program is written or however the machine is connected to the world, the mind is being simulated by a simple step by step digital machine (or machines). These machines are always just like the man in the room: they understand nothing and do not speak Chinese. They are merely manipulating symbols without knowing what they mean. Searle writes: "I can have any formal program you like, but I still understand nothing."
Жылдамдық пен күрделілік: интуицияға жүгіну
Келесі аргументтер (және жоғарыдағы аргументтердің интуитивті түсіндірмелері) қытай тілінде сөйлейтін сана Серльдің бөлмесінде қалай пайда болатынын немесе ол манипуляциялайтын символдардың қалай мағыналы болатынын тікелей түсіндірмейді. Дегенмен, Серльдің интуициясына күмән тудыра отырып, олар жүйе және робот жауаптары сияқты басқа көзқарастарды қолдайды. Егер осы аргументтер қабылданса, Серль өзінің қорытындысы айқын екенін мәлімдеуге кедергі келтіреді, өйткені оның сенімділігіне қажетті интуицияны күмәнге түсіреді. Көптеген сыншылар Серльдің аргументі толығымен интуицияға негізделгенін айтады. Нед Блок: «Серльдің аргументінің күші белгілі бір тізімдердің ойлай алмайтынына қатысты интуицияларға байланысты» деп жазады. Дэниел Деннет қытай бөлмесі аргументін жаңылыстыратын «интуициялық сорғы» деп сипаттап, «Серльдің ой эксперименті заңсыз түрде тым қарапайым, маңызсыз жағдайды көзге елестетуіңізге және одан «ашық» қорытынды жасауыңызға байланысты» дейді. Жоғарыдағы кейбір аргументтер де интуицияға сүйенеді, әсіресе қытай бөлмесінде сананың болуын ықтимал етуге бағытталғандар, олар робот, жалпы білім, миді модельдеу және байланыс желісі жауаптарын қамтуы мүмкін. Жоғарыдағы жауаптардың бірнешесі күрделілік мәселесіне де тоқталады. Байланыс желісі жауабы жұмыс істейтін жасанды интеллект жүйесінің адам миы сияқты күрделі және байланысты болуы керектігін атап көрсетеді. «Жалпы білім» жауабы Дэниел Деннет түсіндіргендей, Тьюринг тестінен өткен кез келген бағдарлама «әлемдік біліммен, метабіліммен және мета-метабіліммен» толы, ерекше икемді, күрделі және көп қабатты жүйе болуы керек екенін баса көрсетеді.
The following arguments (and the intuitive interpretations of the arguments above) do not directly explain how a Chinese speaking mind could exist in Searle's room, or how the symbols he manipulates could become meaningful. However, by raising doubts about Searle's intuitions they support other positions, such as the system and robot replies. These arguments, if accepted, prevent Searle from claiming that his conclusion is obvious by undermining the intuitions that his certainty requires. Several critics believe that Searle's argument relies entirely on intuitions. Ned Block writes "Searle's argument depends for its force on intuitions that certain entities do not think." Daniel Dennett describes the Chinese room argument as a misleading "intuition pump" and writes "Searle's thought experiment depends, illicitly, on your imagining too simple a case, an irrelevant case, and drawing the 'obvious' conclusion from it." Some of the arguments above also function as appeals to intuition, especially those that are intended to make it seem more plausible that the Chinese room contains a mind, which can include the robot, commonsense knowledge, brain simulation and connectionist replies. Several of the replies above also address the specific issue of complexity. The connectionist reply emphasizes that a working artificial intelligence system would have to be as complex and as interconnected as the human brain. The commonsense knowledge reply emphasizes that any program that passed a Turing test would have to be "an extraordinarily supple, sophisticated, and multilayered system, brimming with 'world knowledge' and meta knowledge and meta meta knowledge", as Daniel Dennett explains.
Жауаптардың жылдамдығы мен күрделілігі
Бұл сын-ескертпелердің көпшілігі адам миының жылдамдығы мен күрделілігіне ерекше назар аударады, ол ақпаратты секундына 100 миллиард операциямен өңдейді (кейбір есептеулер бойынша). Бірнеше сыншылар бөлмедегі адамның қарапайым сұраққа жауап беру үшін миллиондаған жылдар қажет ететінін, ал астрономиялық өлшемдегі "мұрағаттарға" мұқтаж болатынын айтады. Бұл Серльдің интуициясының нақтылығына күдік тудырады. Жылдамдық пен күрделілік туралы жауаптың ерекше айқын мысалы Пол және Патрисия Черчлендтерден келген. Олар осыған ұқсас ой-эксперимент ұсынады: "Қараңғы бөлмеде магнит немесе зарядталған затты ұстап тұрған адамды көзге елестетіңіз. Егер адам магнитті жоғары-төмен соқса, онда Максвеллдің жасанды люминесценция (ЖЛ) теориясына сәйкес, электромагниттік толқындардың таралатын шеңбері басталып, осылайша жарық пайда болады. Бірақ, магниттермен немесе зарядталған шарлармен ойнағандардың барлығы біледі, олардың күштері (немесе кез келген басқа күштер), тіпті қозғалысқа келгенде де, жарық шығармайды. Күштерді жылжыту арқылы нағыз люминесценция жасау мүмкін емес!" Черчлендтің пікірінше, мәселе мынада: оның магнитті секундына 450 триллион рет жоғары-төмен қозғалтуы керек, әйтпесе ештеңе көріне қоймайды. Стивен Харнад жылдамдық пен күрделілік туралы жауаптарды, олар біздің интуициямызды нақты атамайтын жағдайларда сынға алады. Ол былай деп жазады: "Кейбіреулер жылдамдық пен уақытты қастерлейді, егер дұрыс жылдамдыққа жеткізілсе, есептеу мен сананың фазалық өтуі мүмкін деп санайды. Бұл қарсы аргумент емес, тек қана арнайы болжам (әлде "жетілу" деңгейін көтеру мәселесі сияқты)." Серль өз сыншыларының да интуицияға сүйенетінін айтады, бірақ оның қарсыластарының интуициясы эмпирикалық негізге ие емес. Ол "жүйелік жауапты" ең болмаса мүмкін деп санау үшін адам "идеологияның ықпалында болуы керек" деп жазады. Серль үшін жүйелік жауап тек қана, егер кез келген "жүйе" дұрыс мінез-құлық пен функционалдық бөліктеріне ие болғандықтан санаға ие бола алады деп есептесек ғана мағыналы. Оның пікірінше, бұл болжам сана туралы біздің тәжірибемізге сәйкес келмейді.
Many of these critiques emphasize speed and complexity of the human brain, which processes information at 100 billion operations per second (by some estimates). Several critics point out that the man in the room would probably take millions of years to respond to a simple question, and would require "filing cabinets" of astronomical proportions. This brings the clarity of Searle's intuition into doubt. An especially vivid version of the speed and complexity reply is from Paul and Patricia Churchland. They propose this analogous thought experiment: "Consider a dark room containing a man holding a bar magnet or charged object. If the man pumps the magnet up and down, then, according to Maxwell's theory of artificial luminance (AL), it will initiate a spreading circle of electromagnetic waves and will thus be luminous. But as all of us who have toyed with magnets or charged balls well know, their forces (or any other forces for that matter), even when set in motion produce no luminance at all. It is inconceivable that you might constitute real luminance just by moving forces around!" Churchland's point is that the problem is that he would have to wave the magnet up and down something like 450 trillion times per second in order to see anything. Stevan Harnad is critical of speed and complexity replies when they stray beyond addressing our intuitions. He writes "Some have made a cult of speed and timing, holding that, when accelerated to the right speed, the computational may make a phase transition into the mental. It should be clear that is not a counterargument but merely an ad hoc speculation (as is the view that it is all just a matter of ratcheting up to the right degree of 'complexity.')" Searle argues that his critics are also relying on intuitions, however his opponents' intuitions have no empirical basis. He writes that, in order to consider the "system reply" as remotely plausible, a person must be "under the grip of an ideology". The system reply only makes sense (to Searle) if one assumes that any "system" can have consciousness, just by virtue of being a system with the right behavior and functional parts. This assumption, he argues, is not tenable given our experience of consciousness.
Басқа саналар мен зомбилер: мағынасыздық
Бірнеше жауап Серльдің аргументінің маңызсыздығын айтады, себебі оның сана мен ой туралы болжамдары дұрыс емес. Серль адамдар сананы, ниеттілікті және ойдың мәнін күнделікті тікелей сезінеді деп есептейді, ал осы саналық тәжірибе сұраққа түсініксіз. Ол "ойдың нақтылығы мен танылуына алдын ала келісуіміз керек" деп жазады. Төмендегі жауаптар Серльдің өзінің саналық тәжірибесін механикалық символдарды өңдеуден гөрі артық екенін анықтау үшін қолдануының негізділігіне күдік білдіреді. Атап айтқанда, басқа ойларға қатысты жауап, біз басқалардың ойлары туралы сұрақтарға жауап беру үшін өзіміздің саналық тәжірибемізді пайдалана алмаймыз дейді (тіпті компьютердің ойы болса да), эпифеномен жауаптары сана сияқты, анықтама бойынша ешқандай экспериментпен анықталмайтын нәрсе туралы ешқандай аргумент келтіре алмаймыз ба деген сұрақ қояды, ал жойғыш материализм жауабы Серльдің жеке санасы Серль ойлағандай мағынада "бар" емес деп санайды.
Several replies argue that Searle's argument is irrelevant because his assumptions about the mind and consciousness are faulty. Searle believes that human beings directly experience their consciousness, intentionality and the nature of the mind every day, and that this experience of consciousness is not open to question. He writes that we must "presuppose the reality and knowability of the mental." The replies below question whether Searle is justified in using his own experience of consciousness to determine that it is more than mechanical symbol processing. In particular, the other minds reply argues that we cannot use our experience of consciousness to answer questions about other minds (even the mind of a computer), the epiphenoma replies question whether we can make any argument at all about something like consciousness which can not, by definition, be detected by any experiment, and the eliminative materialist reply argues that Searle's own personal consciousness does not "exist" in the sense that Searle thinks it does.
Басқа ойлар жауап береді
"Басқа саналарға жауап" Серльдің аргументінің машиналарға қатысты ойлар мәселесінің бір түрі екенін көрсетеді. Басқа адамдардың жеке тәжірибесі біздікімен бірдей ме екенін анықтаудың қаулы жолы жоқ. Біз олардың мінез-құлқына ғана көңіл бөле аламыз (яғни, оларға біздің Тьюринг тестімізді ұсына отырып). Серльдің сыншылары оның "қытай бөлмесін" қарапайым адамнан гөрі жоғары стандарттармен бағалайтынын айтады. Нильс Нильссон: "Егер бағдарлама көбейту істеп жатқандай болса, көптеген адамдар оның шынымен көбейтіп жатыр деп санайды. Менің білуімше, Серль осы мәселелерді терең ойлап жатқандай көрінеді. Бірақ, оның пікірімен келіспесем де, оның симуляциясы өте жақсы, сондықтан оның нағыз ойларын мойындауға дайынмын", - деп жазады. Алан Тьюринг 1950 жылы Серльдің аргументінің бағытын (ол оны "санадан туындаған аргумент" деп атады) болжап, басқа саналарға жауап берді. Ол адамдардың бір-бірімен қарым-қатынаста болғанда басқалардың санасы туралы мәселелерді қарастырмайтынын атап өтті. Ол: "Бұл мәселеде үнемі дауласудың орнына, әдетте әркімнің ойынша, әдепті келісімге келу қалыпты жағдай", - деп жазады. Тьюринг тесті осы "әдепті келісімді" машиналарға да қолданады. Ол сана мәселесін (машиналар үшін де, адамдар үшін де) шешуді көздемейді және мұндай қажеттілік те жоқ деп санайды.
The "Other Minds Reply" points out that Searle's argument is a version of the problem of other minds, applied to machines. There is no way we can determine if other people's subjective experience is the same as our own. We can only study their behavior (i. e., by giving them our own Turing test). Critics of Searle argue that he is holding the Chinese room to a higher standard than we would hold an ordinary person. Nils Nilsson writes "If a program behaves as if it were multiplying, most of us would say that it is, in fact, multiplying. For all I know, Searle may only be behaving as if he were thinking deeply about these matters. But, even though I disagree with him, his simulation is pretty good, so I'm willing to credit him with real thought." Alan Turing anticipated Searle's line of argument (which he called "The Argument from Consciousness") in 1950 and makes the other minds reply. He noted that people never consider the problem of other minds when dealing with each other. He writes that "instead of arguing continually over this point it is usual to have the polite convention that everyone thinks." The Turing test simply extends this "polite convention" to machines. He does not intend to solve the problem of other minds (for machines or people) and he does not think we need to.
Серльдің "білімі" анықталмайтын деп есептеген жауаптар
Егер біз Серльдің ниеттілік, сана және ақыл туралы сипаттамасын қабылдасақ, сананың эпифеноменальды екенін қабылдауға мәжбүрміз: ол "көлеңке тастамайды", яғни сыртқы әлемде анықталмайды. Серльдің "мұқият қасиеттерін" ақылдан тыс ешкім анықтай алмайды, әйтпесе қытай бөлмесі Тьюринг тестінен өте алмас еді – сырттағы адамдар бөлмеде қытай тілінде сөйлейтін адамның жоқтығын оның мұқият қасиеттерін анықтау арқылы біле алатын болар еді. Олар мұқият қасиеттерді анықтай алмағандықтан, ақылдың бар екенін де анықтай алмайды. Осылайша, Серльдің "мұқият қасиеттері" және сананың өзі анықталмайды, ал анықталмайтын нәрсе болмайды немесе маңызды емес. Майк Алдер мұны "Ньютонның жалындаған лазерлік қылышы" деп атайды. Ол бүкіл аргумент бекершілік деп санайды, себебі ол верификацияланбайды: ақылды симуляциялау мен ақылға ие болу арасындағы айырмашылық дұрыс анықталмаған, сонымен қатар ол маңызды емес, өйткені екі аралықты ажыратуға ешқандай эксперименттер ұсынылмаған және ұсынылуы да мүмкін емес. Дэниел Деннет мына мысалды келтіреді: бір түрлену арқылы Серльдің "мұқият қасиеттеріне" ие емес, бірақ адам сияқты әрекет ететін адам туды дейік. (Осындай жануар "зомби" деп аталады, ақыл философиясының ой эксперименттерінде). Бұл жаңа жануарлар басқа адамдар сияқты көбейеді, содан кейін зомбилердің саны артады. Табиғи іріктеу зомбилерді жақсы көреді, өйткені олардың дизайны (біз болжауымыз мүмкін) сәл қарапайым. Ақырында адамдар жойылып кетеді. Сондықтан, егер Серль дұрыс айтса, адамдар (қазіргідей) шын мәнінде "зомбилер" болуы мүмкін, бірақ олар саналы екендерін әлдеқашан айтады. Біздің бәріміз зомбилерміз бе, жоқ па, оны білу мүмкін емес. Тіпті егер бәріміз зомби болсақ та, біз бәріміз зомби емеспіз деп ойлаймыз.
If we accept Searle's description of intentionality, consciousness, and the mind, we are forced to accept that consciousness is epiphenomenal: that it "casts no shadow" i. e. is undetectable in the outside world. Searle's "causal properties" cannot be detected by anyone outside the mind, otherwise the Chinese Room could not pass the Turing test—the people outside would be able to tell there was not a Chinese speaker in the room by detecting their causal properties. Since they cannot detect causal properties, they cannot detect the existence of the mental. Thus, Searle's "causal properties" and consciousness itself is undetectable, and anything that cannot be detected either does not exist or does not matter. Mike Alder calls this the "Newton's Flaming Laser Sword Reply". He argues that the entire argument is frivolous, because it is non verificationist: not only is the distinction between simulating a mind and having a mind ill defined, but it is also irrelevant because no experiments were, or even can be, proposed to distinguish between the two. Daniel Dennett provides this illustration: suppose that, by some mutation, a human being is born that does not have Searle's "causal properties" but nevertheless acts exactly like a human being. (This sort of animal is called a "zombie" in thought experiments in the philosophy of mind). This new animal would reproduce just as any other human and eventually there would be more of these zombies. Natural selection would favor the zombies, since their design is (we could suppose) a bit simpler. Eventually the humans would die out. So therefore, if Searle is right, it is most likely that human beings (as we see them today) are actually "zombies", who nevertheless insist they are conscious. It is impossible to know whether we are all zombies or not. Even if we are all zombies, we would still believe that we are not.
Материалистік жауап
Бірнеше философтар Сеарл сипаттаған сананың жоқ екенін айтады. Дэниел Деннет сананы "пайдаланушының иллюзиясы" деп сипаттайды. Бұл позиция кейде "элиминативтік материализм" деп аталады: сана – қатаң механикалық (яғни, материалдық) сипаттамаға "толық айналдырылатын" ұғым емес, керісінше, материалдық мидың қалай жұмыс істейтіні толық түсінілген кезде, демон ұғымы ғылымнан алынып тасталғандай, жай ғана жойылатын ұғым. Басқа психикалық қасиеттер, мысалы, бастапқы ниеттілік (сондай-ақ, "мағына", "мазмұн" және "семантикалық сипаттама" деп те аталады), сенімдер мен басқа да ұсыныстық көзқарастармен байланысты ерекше қасиеттер ретінде де жиі қарастырылады. Элиминативтік материализм сенімдер мен тілектер сияқты, мазмұны бар басқа да қасақана психикалық күйлердің жоқ екенін тұжырымдайды. Егер элиминативтік материализм адам танымның дұрыс ғылыми түсіндірмесі болса, онда "ақыл-ойдың мазмұны (семантикасы) бар" деген Қытай бөлмесі аргументінің алғышарты қабылданылмауы керек. Сеарл бұл талдаумен келіспейді және "ақыл-ойды зерттеу адамдардың сенімдері бар деген сияқты фактілерден басталады, ал термостаттардың, телефондардың және калькуляторлардың жоқ – біз білуге тырысқан нәрсе – ақыл-ойды термостаттар мен бауырдан ажырататын нәрсе" дейді. Ол сананың бар екенін анықтаудың мүмкін екенін айқын түрде көрсетеді және осы жауаптарды маңызсыз деп есептейді.
Several philosophers argue that consciousness, as Searle describes it, does not exist. Daniel Dennett describes consciousness as a "user illusion". This position is sometimes referred to as eliminative materialism: the view that consciousness is not a concept that can "enjoy reduction" to a strictly mechanical (i. e. material) description, but rather is a concept that will be simply eliminated once the way the material brain works is fully understood, in just the same way as the concept of a demon has already been eliminated from science rather than enjoying reduction to a strictly mechanical description. Other mental properties, such as original intentionality (also called “meaning”, “content”, and “semantic character”), are also commonly regarded as special properties related to beliefs and other propositional attitudes. Eliminative materialism maintains that propositional attitudes such as beliefs and desires, among other intentional mental states that have content, do not exist. If eliminative materialism is the correct scientific account of human cognition then the assumption of the Chinese room argument that "minds have mental contents (semantics)" must be rejected. Searle disagrees with this analysis and argues that "the study of the mind starts with such facts as that humans have beliefs, while thermostats, telephones, and adding machines don't what we wanted to know is what distinguishes the mind from thermostats and livers." He takes it as obvious that we can detect the presence of consciousness and dismisses these replies as being off the point.
Басқа жауаптар
Маргарет Боден "Қытай бөлмесінен қашу" атты мақаласында, бөлмедегі адам қытай тілін түсінбесе де, бөлмеде түсінік болмайды дегенді білдірмейді деп айтты. Бөлмедегі адам кем дегенде, жауап беру үшін қолданылатын нұсқаулықты түсінеді.
Margaret Boden argued in her paper "Escaping from the Chinese Room" that even if the person in the room does not understand the Chinese, it does not mean there is no understanding in the room. The person in the room at least understands the rule book used to provide output responses.
Танымал мәдениетте
Қытай бөлмесі аргументі Питер Уоттстың "Блиндсайт" және (аздау дәрежеде) "Эхопраксия" романдарындағы маңызды түсінік болып табылады. Грег Иган бұл түсінікті 1990 жылы жазылған "Мен өзім болуды үйрену" атты әңгімесінде (біршама қорқынышты) тұжырымды түрде көрсетеді. Бұл "Zero Escape: Virtue's Last Reward" видео ойынындағы орталық тақырып, және ойынның сюжетімен байланысты. Лю Цисиньнің "Үш дене проблемасы" романында да осыған ұқсас адам-компьютер бейнеленген, оны Филип Штайнер былай сипаттайды: "Миллиондаған сарбаздарды құрал ретінде пайдаланып, үлкен адам компьютері жасалған [олар] сигналды қабылдау және сигналды беру рөлін атқарады, сондай-ақ AND және OR есіктері сияқты әртүрлі логикалық тізбектерді орындауға бағытталған".
The Chinese room argument is a central concept in Peter Watts's novels Blindsight and (to a lesser extent) Echopraxia. Greg Egan illustrates the concept succinctly (and somewhat horrifically) in his 1990 short story Learning to Be Me, in his collection Axiomatic. It is a central theme in the video game Zero Escape: Virtue's Last Reward, and ties into the game's narrative. A similar human computer is imagined in Liu Cixin's novel The Three Body Problem, described thus by Philip Steiner: "a massive human computer by instrumentalizing millions of soldiers [who] take the role of signal input and signal output and are instructed to perform different logical circuits, like an AND gate and an OR gate".