Жасанды интеллект философиясы: мәселелер мен перспективалар

Жасанды интеллект философиясы: интеллект, этика, сана және ерік-таңдау туралы мәселелерді зерттейді. Машиналық ойлау мүмкіндігі талданды.

18 мин оқу

100%

Дереккөз: Philosophy of artificial intelligence — Wikipedia

Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.

Мазмұны

Кіріспе

Жасанды интеллект философиясының шолуы

Жасанды интеллект философиясы – жасанды интеллект пен оның білімге және интеллект, этика, сана, эпистемология және еркін ерік туралы түсінікке тигізетін әсерін зерттейтін сана философиясы мен компьютерлік ғылым философиясының бір саласы. Бұған қоса, технология жасанды жануарларды немесе жасанды адамдарды (немесе, кемінде, жасанды тіршілік иелерін; жасанды өмірді қараңыз) жасаумен байланысты болғандықтан, бұл ғылым философтар үшін зор қызығушылық тудырады. Осы факторлар жасанды интеллект философиясының қалыптасуына ықпал етті. Жасанды интеллект философиясы мынандай сұрақтарға жауап беруге тырысады:

Машина зияткерлікпен әрекет ете ала ма? Адам ойлау арқылы шешетін кез келген мәселені ол шеше ала ма? Адамның және машинаның зияткерлігі бірдей ме? Адамның миы – компьютер ме? Машинада адам сияқты сана, психикалық күйлер және сана болуы мүмкін бе? Ол нәрсені қалай сезінеді? (яғни, оның качестві бар ма?) Осындай сұрақтар ЖА зерттеушілерінің, когнитивтік ғалымдардың және философтардың әртүрлі қызығушылықтарын көрсетеді. Бұл сұрақтарға ғылыми жауаптар «зияткерлік» және «сана» ұғымдарының анықтамасына және қандай «машиналар» туралы сөз болып жатқанына байланысты. Жасанды интеллект философиясындағы маңызды тұжырымдардың кейбіреулері:

Тьюрингтің «әдепті келісімшарты»: Егер машина адам сияқты зияткерлікпен әрекет етсе, онда ол адам сияқты зияткерлікке ие. Дартмут ұсынысы: «Оқудың кез келген аспектісі немесе интеллекттің кез келген басқа да ерекшелігі, принципте, машинаны оны имитациялауға мүмкіндік беретіндей дәл сипатталуы мүмкін». Аллен Ньюэлл мен Герберт А. Саймонның физикалық символдар жүйесі гипотезасы: «Физикалық символдар жүйесінде жалпы зияткерлік әрекет үшін қажетті және жеткілікті құралдар бар». Джон Сэрлдің күшті ЖА гипотезасы: «Дұрыс бағдарламаланған компьютер, дұрыс кіріс және шығыс деректерімен, адамдардың санасы бар сияқты санаға ие болады». Гоббс механизмі: «Ақыл» – дегеніміз, ойларымызды «белгілеу» және «мағыналау» үшін келісілген жалпы атаулардың салдарын «есептеу», яғни қосу және алу».

Тьюринг сынағы

Алан Тьюринг интеллектіні анықтау мәселесін әңгімелесу туралы қарапайым сұраққа дейін тоғытты. Оның пікірінше, егер машинаға қойылған кез келген сұраққа, қалыпты адам қолданарлықтай сөздермен жауап бере алса, онда оны ақылды машина деп атауға болады. Оның эксперименттік жобасының қазіргі нұсқасы онлайн чат бөлмесін пайдаланады, онда қатысушылардың бірі – нағыз адам, ал екіншісі – компьютерлік бағдарлама. Егер екі қатысушының қайсысы адам екенін ешкім анықтап білмесе, бағдарлама тесттен өтеді. Тьюрингтің тесті осы әдептілік қағидасын машиналарға да қатысты қолданады: егер машина адам сияқты ақылдылық танытса, онда ол адам сияқты ақылды болады. Тьюринг тестісіне қатысты айтылатын бір сын – ол машинаның мінез-құлқының «адамдық» емес, «ақылдылық» деңгейін өлшейді. Адамның және ақылды мінез-құлқының мәні бір емес болғандықтан, тест интеллектті анықтауға қабілетсіз. Стюарт Рассел мен Питер Норвиг былай деп жазады: «Авиациялық инженерия бойынша оқулықтар өз саласының мақсатын 'басқа көгершіндерді шатастыратын, көгершіндердей дәл ұшатын машиналар жасау' деп анықтамайды».

Мақсаттарға жетудегі ақыл-ой

XXI ғасырдағы жасанды интеллект зерттеулері интеллектті мақсатқа бағытталған әрекеттер арқылы анықтайды. Ол интеллектті машинаның шешуі тиіс мәселелер жиынтығы ретінде қарастырады – машина қанша көп мәселені шеше алса және оның шешімдері қаншалықты жақсы болса, бағдарлама соғұрлым интеллектуалды болады. Жасанды интеллекттің негізін қалаушы Джон Маккарти интеллектті "дүниедегі мақсаттарға жету қабілетінің есептеулік бөлігі" деп анықтады. Стюарт Рассел мен Питер Норвиг бұл анықтаманы абстрактілі интеллектуалды агенттерді пайдалану арқылы формалдады. "Агент" – қоршаған ортаны сезінетін және оған әрекет ететін нәрсе. "Нәтижелерді бағалау өлшемі" агент үшін сәттілік деп саналатын нәрсені анықтайды. "Егер агент бұрынғы тәжірибе мен білімге негізделген нәтижелерді бағалау өлшемінің күтілетін мәнін барынша арттыруға бағытталған әрекеттер жасаса, онда ол интеллектуалды болып саналады". Мұндай анықтамалар интеллекттің мәнін түсіндіруге тырысады. Олардың артықшылығы – Тьюринг тестісінен айырмашылығы, олар қате теру сияқты интеллектуалды емес адамдық қасиеттерді тексермейді. Олардың кемшілігі – "ойлайтын нәрселер" мен "ойламайтын нәрселер" арасындағы айырмашылықты анықтай алмайды. Осы анықтама бойынша, тіпті термостаттың да қарапайым интеллектуалды қабілеттері болуы мүмкін.

Миды симуляциялау мүмкін

Хьюберт Дрейфус бұл аргументті былай деп сипаттайды: "Егер жүйке жүйесі физика мен химия заңдарына бағынса, онда біз жүйке жүйесінің қызметін қандай да бір физикалық құрылғымен қайта жасай алуымыз керек". Бұл аргумент алғаш рет 1943 жылы ұсынылып, 1988 жылы Ханс Моравек көрнекті түрде сипаттады, қазіргі кезде болашақ зерттеуші Рэй Курцвейлмен байланыстырылады, ол 2029 жылға қарай компьютерлік қуаттың мидың толыққанды симуляциясын жасауға жеткілікті болады деп есептейді. 2005 жылы адам миының мөлшерімен (1011 нейрон) таламокортикальдық модельдің нақты уақыт емес симуляциясы жүргізілді, және 27 процессордан тұратын кластерде ми динамикасының 1 секундысын симуляциялауға 50 күн кетті. Тіпті АИ-дың ең қатал сыншылары (Хьюберт Дрейфус және Джон Сёрл сияқтылар) теориялық тұрғыдан мидың симуляциясы мүмкін екеніне келіседі. Дегенмен, Сёрл атап көрсетеді, принципте, компьютерде кез келген нәрсені симуляциялауға болады; осылайша, анықтаманы шегіне жеткізу кез келген процесті техникалық тұрғыдан "есептеу" деп санауға алып келеді. "Біздің білгіміз келгені – ақыл-ойымызды термостаттар мен бауырлардан ерекшелендіретін нәрсе", – деп жазады ол. Осылайша, тірі мидың жұмысын симуляциялаудың өзі ақыл-ой және оның табиғаты туралы білімсіздікті мойындау болар еді, бұл теориялық авиациялық инженерияны түсінбестен, тірі құсты қауырсынына дейін дәл көшіріп, реактивті ұшақ құрастыруға ұқсас.

Символдарды өңдеуге қарсы дәлелдер

Бұл аргументтер адам ойлауы жоғары деңгейдегі символдармен жұмыс істеуден (ғана) тұрмайтынын көрсетеді. Олар жасанды интеллекттің мүмкін еместігін көрсетпейді, тек символдарды өңдеуден артық нәрсе қажеттігін аңғартады.

Гёдельдік механизмге қарсы аргументтер

1931 жылы Курт Гёдель толық емес теорема арқылы логиканың берілген тұрақты формальды жүйесінің (мысалы, жоғары деңгейдегі символдарды өңдеу бағдарламасы) нақтылай алмайтын «Гёдель мәлімдемесін» құрудың әрқашан мүмкін екенін дәлелдеді. Бұл мәлімдеме шын болғанымен, берілген жүйеде дәлелдеуге келмейді. (Құрылған Гёдель мәлімдемесінің шындығы жүйенің тұрақтылығына байланысты; егер дәл сол әдіс сәл ғана тұрақсыз жүйеге қолданылса, нәтиже сәтті болып көрінеді, бірақ шындығында жалған «Гёдель мәлімдемесін» береді.) Гёдель бұдан әрі адам ақылының кез келген дұрыс негізделген математикалық мәлімдеменің (соның ішінде кез келген мүмкін Гёдель мәлімдемесінің) шындығын немесе жалғандығын дұрыс анықтай алатынын, демек адам ақылының күші механизмге дейін төмендетілмейтінін болжады. Философ Джон Лукас (1961 жылдан бері) және Роджер Пенроуз (1989 жылдан бері) осы философиялық антимеханистік аргументті жақтады. Гёдельдің антимеханистік аргументтері көбінесе адам математиктерінің жүйесінің (немесе адам математиктерінің идеалданған нұсқасының) толық қатесіз және өзінің тұрақтылығына толық сенетіні (және өзінің Гёдель мәлімдемесіне сенімімен қоса, өзінің тұрақтылығынан туындайтын барлық логикалық қорытындыларды жасай алатыны) туралы көріне бермейтін талапқа сүйенеді. Бұл Тьюринг машинасы үшін дәлелдеу мүмкін емес (Тоқтау мәселесін қараңыз); сондықтан Гёдельдің пікірінше, адамның ойлау қабілеті Тьюринг машинасымен және, демек, кез келген цифрлық механикалық құрылғымен салыстыруға келмейді. Алайда, ғылыми және математикалық қауымдастықтың қазіргі консенсусы – нақты адамның ойлауы тұрақсыз; адамның ойлауының кез келген тұрақты «идеалданған нұсқасы» H логикалық тұрғыдан H-нің тұрақтылығына қатысты салауатты, бірақ интуицияға қарсы ашық күмәнділікті қабылдауға мәжбүр болады (әйтпесе H тұрақсыз болып дәлелденеді); және Гёдель теоремалары адамдардың машина қайталай алмайтын математикалық ойлау қабілеттеріне қатысты ешқандай дұрыс аргументке әкелмейді. Гёдельдің антимеханистік аргументтері сәтсіздікке ұшырайды деген консенсус «Жасанды интеллект» еңбегінде айқын көрсетілген: «(Гёдельдің толық еместігінің) нәтижелерін қолданып, компьютерлік тезиске шабуыл жасаудың кез келген әрекеті заңсыз, өйткені бұл нәтижелер компьютерлік тезиске сәйкес келеді». Стюарт Рассел мен Питер Норвиг Гёдельдің аргументі нақты әлемдегі адамның ойлауының мәнін ескермейтініне келіседі. Бұл шексіз жад пен уақыт берілгенде теориялық түрде дәлелдеуге болатын нәрсеге қатысты. Іс жүзінде, нақты машиналар (адамдарды қоса алғанда) шектеулі ресурстарға ие және көптеген теоремаларды дәлелдеуде қиындықтарға тап болады. Ақылды болу үшін бәрін дәлелдеудің қажеті жоқ. Әлдеқайда бейресми түрде, Дуглас Хофштадтер өзінің Пулитцер сыйлығын жеңіп алған «Гёдель, Эшер, Бах: мәңгілік алтын тоқылған өрмек» кітабында бұл «Гёдель мәлімдемелері» әрқашан жүйенің өзіне қатысты екенін айтады, бұл Эпименид парадоксының өзіне қатысты мәлімдемелерді қалай қолданатынымен ұқсас, мысалы «Бұл мәлімдеме жалған» немесе «Мен өтірік айтып отырмын». Бірақ, әрине, Эпименид парадоксы мәлімдеме жасайтын кез келген нәрсеге қатысты, олар машиналар немесе адамдар болсын, тіпті Лукастың өзіне де қатысты. Мысалы: Лукас бұл мәлімдеменің шындығын растай алмайды. Бұл мәлімдеме дұрыс, бірақ Лукас оны растай алмайды. Бұл Лукастың өзі машиналарға қатысты сипаттаған шектеулерге, барлық адамдарға қатысты екенін көрсетеді, сондықтан Лукастың аргументі мәнсіз. Пенроуз адамның ойлауы есептеуге келмейтініне келген соң, кванттық механикалық күйлердің құлдырауымен байланысты гипотетикалық есептеуге келмейтін процестердің кейбір түрі адамдарға қолданыстағы компьютерлерге қарағанда ерекше артықшылық береді деп болжады. Қазіргі кванттық компьютерлер тек Тьюрингтік есептеу тапсырмаларының күрделілігін азайтуға қабілетті және олар әлі де Тьюрингтік машиналар шеңберіндегі тапсырмалармен шектеледі. Пенроуз бен Лукастың пікірінше, кванттық компьютерлер тек Тьюрингтік есептеу тапсырмаларын орындай алады деген факт, олардың адам санасын модельдеуге жеткіліксіз екенін білдіреді. Сондықтан Пенроуз жаңа физиканы қамтитын басқа процестерді іздейді, мысалы, кванттық гравитация, бұл Планк массасының масштабында толқын функциясының кванттық құлдырауы арқылы жаңа физиканы танытуы мүмкін. Бұл күйлер, оның пікірінше, нейрондардың ішінде де, бірнеше нейрондарды қамтитын кеңістікте де пайда болады. Алайда, басқа ғалымдар мида кванттық есептеудің кез келген түрін пайдалануға мүмкіндік беретін ешқандай ықтимал биологиялық механизмнің жоқ екенін, сондай-ақ кванттық когеренттіліктің уақыт өлшемі нейрондық оқиғаларға әсер ету үшін тым жылдам екенін көрсетеді.

In 1931, Kurt Gödel proved with an incompleteness theorem that it is always possible to construct a "Gödel statement" that a given consistent formal system of logic (such as a high level symbol manipulation program) could not prove. Despite being a true statement, the constructed Gödel statement is unprovable in the given system. (The truth of the constructed Gödel statement is contingent on the consistency of the given system; applying the same process to a subtly inconsistent system will appear to succeed, but will actually yield a false "Gödel statement" instead.) More speculatively, Gödel conjectured that the human mind can correctly eventually determine the truth or falsity of any well grounded mathematical statement (including any possible Gödel statement), and that therefore the human mind's power is not reducible to a mechanism. Philosopher John Lucas (since 1961) and Roger Penrose (since 1989) have championed this philosophical anti mechanist argument. Gödelian anti mechanist arguments tend to rely on the innocuous seeming claim that a system of human mathematicians (or some idealization of human mathematicians) is both consistent (completely free of error) and believes fully in its own consistency (and can make all logical inferences that follow from its own consistency, including belief in its Gödel statement) This is provably impossible for a Turing machine to do (see Halting problem); therefore, the Gödelian concludes that human reasoning is too powerful to be captured by a Turing machine, and by extension, any digital mechanical device. However, the modern consensus in the scientific and mathematical community is that actual human reasoning is inconsistent; that any consistent "idealized version" H of human reasoning would logically be forced to adopt a healthy but counter intuitive open minded skepticism about the consistency of H (otherwise H is provably inconsistent); and that Gödel's theorems do not lead to any valid argument that humans have mathematical reasoning capabilities beyond what a machine could ever duplicate. This consensus that Gödelian anti mechanist arguments are doomed to failure is laid out strongly in Artificial Intelligence: "any attempt to utilize (Gödel's incompleteness results) to attack the computationalist thesis is bound to be illegitimate, since these results are quite consistent with the computationalist thesis." Stuart Russell and Peter Norvig agree that Gödel's argument does not consider the nature of real world human reasoning. It applies to what can theoretically be proved, given an infinite amount of memory and time. In practice, real machines (including humans) have finite resources and will have difficulty proving many theorems. It is not necessary to be able to prove everything in order to be an intelligent person. Less formally, Douglas Hofstadter, in his Pulitzer prize winning book Gödel, Escher, Bach: An Eternal Golden Braid, states that these "Gödel statements" always refer to the system itself, drawing an analogy to the way the Epimenides paradox uses statements that refer to themselves, such as "this statement is false" or "I am lying". But, of course, the Epimenides paradox applies to anything that makes statements, whether they are machines or humans, even Lucas himself. Consider:
Lucas can't assert the truth of this statement. This statement is true but cannot be asserted by Lucas. This shows that Lucas himself is subject to the same limits that he describes for machines, as are all people, and so Lucas's argument is pointless. After concluding that human reasoning is non computable, Penrose went on to controversially speculate that some kind of hypothetical non computable processes involving the collapse of quantum mechanical states give humans a special advantage over existing computers. Existing quantum computers are only capable of reducing the complexity of Turing computable tasks and are still restricted to tasks within the scope of Turing machines. By Penrose and Lucas's arguments, the fact that quantum computers are only able to complete Turing computable tasks implies that they cannot be sufficient for emulating the human mind. Therefore, Penrose seeks for some other process involving new physics, for instance quantum gravity which might manifest new physics at the scale of the Planck mass via spontaneous quantum collapse of the wave function. These states, he suggested, occur both within neurons and also spanning more than one neuron. However, other scientists point out that there is no plausible organic mechanism in the brain for harnessing any sort of quantum computation, and furthermore that the timescale of quantum decoherence seems too fast to influence neuron firing.

Дрейфус: жасырын дағдылардың басымдығы

Хьюберт Дрейфус адам ақылы мен сарапшылығының негізінен жылдам, интуитивті шешімдерге, ал емес қадамдық символдық манипуляцияға байланысты екенін айтты және осы дағдылар ешқашан формалды ережелерге сыймайды деп мәлімдеді. Дрейфустың аргументін Тьюринг 1950 жылғы «Есептеу машиналарын және интеллектіні» атты мақаласында болжаған болатын, онда ол мұны «мінез-құлықтың ресми еместігінен туындайтын аргумент» деп атады. Тьюринг жауап ретінде, күрделі мінез-құлықты басқаратын ережелерді білмеуіміз, мұндай ережелердің жоқ екенін білдірмейді деді. Ол былай деп жазды: «Біз мінез-құлықтың толық заңдарының жоқтығына оңай сендіре алмаймыз. Мұндай заңдарды табудың жалғыз жолы ғылыми бақылау, және біз «жеткілікті іздедік. Мұндай заңдар жоқ» деп айта алатын жағдайларға тап болған емеспіз». Рассел мен Норвиг Дрейфустың сын-пікірін жариялағаннан бері, санасыз ойлауды басқаратын «ережелерді» анықтауда үлкен прогресс жасалғанын атап өтті. Робототехникадағы «орналасқан» (situated) қозғалыс, біздің санасыз қабілеттерімізді қабылдау және назар аударуды қамтуға тырысады. Нейрондық желілер, эволюциялық алгоритмдер сияқты есептеулік интеллект парадигмалары көбінесе симуляцияланған санасыз ойлау мен оқытуға бағытталған. ИИ-ға статистикалық тәсілдер адамның интуитивті болжамдарының дәлдігіне жақындаған болжамдар жасауға мүмкіндік береді. Ақылға қонымды білімді зерттеу, білімнің «фоны» немесе контекстін қайта жаңғыртуға бағытталған. Шындығында, ИИ зерттеулері жоғары деңгейдегі символдарды манипуляциялаудан аулақ болып, біздің интуитивті ойлау қабілетімізді көбірек қамтитын жаңа модельдерге қарай жылжыды. Дрейфустың көзқарастары көп жағынан расталғанмен, когнитивтік ғылым мен ИИ салаларындағы жұмыс осы салалардағы нақты проблемаларға жауап ретінде жасалды және Дрейфусқа тікелей әсер етпеді. Тарихшы және ИИ зерттеушісі Дэниел Кревье былай деп жазды: «Уақыт Дрейфустың кейбір пікірлерінің дұрыстығын және көрегендігін дәлелдеді. Егер ол оларды одан да агрессивті түрде жеткізбегенде, олар ұсынған конструктивті әрекеттер әлдеқайда ертерек іске асырылуы мүмкін еді».

Hubert Dreyfus argued that human intelligence and expertise depended primarily on fast intuitive judgements rather than step by step symbolic manipulation, and argued that these skills would never be captured in formal rules. Dreyfus's argument had been anticipated by Turing in his 1950 paper Computing machinery and intelligence, where he had classified this as the "argument from the informality of behavior." Turing argued in response that, just because we do not know the rules that govern a complex behavior, this does not mean that no such rules exist. He wrote: "we cannot so easily convince ourselves of the absence of complete laws of behaviour The only way we know of for finding such laws is scientific observation, and we certainly know of no circumstances under which we could say, 'We have searched enough. There are no such laws.'" Russell and Norvig point out that, in the years since Dreyfus published his critique, progress has been made towards discovering the "rules" that govern unconscious reasoning. The situated movement in robotics research attempts to capture our unconscious skills at perception and attention. Computational intelligence paradigms, such as neural nets, evolutionary algorithms and so on are mostly directed at simulated unconscious reasoning and learning. Statistical approaches to AI can make predictions which approach the accuracy of human intuitive guesses. Research into commonsense knowledge has focused on reproducing the "background" or context of knowledge. In fact, AI research in general has moved away from high level symbol manipulation, towards new models that are intended to capture more of our intuitive reasoning. Although Dreyfus' views have been vindicated in many ways, the work in cognitive science and in AI was in response to specific problems in those fields and was not directly influenced by Dreyfus. Historian and AI researcher Daniel Crevier wrote that "time has proven the accuracy and perceptiveness of some of Dreyfus's comments. Had he formulated them less aggressively, constructive actions they suggested might have been taken much earlier."

Машинаның санасы, санасы және ақыл-ойы бола ала ма?

Бұл философиялық сұрақ, ол басқа адамдардың санасы және сананың қиын мәселесімен байланысты. Сұрақ Джон Сёрлдің "күшті ЖС" деп атаған позицияға қатысты: физикалық символдар жүйесі сана мен саналық күйлерге ие болуы мүмкін. Рассел мен Норвиг келіседі: "Көптеген ЖС зерттеушілері әлсіз ЖС гипотезасын бұлжымас деп санайды және күшті ЖС гипотезасына қызығушылық танытпайды". Игорь Александер, Стэн Франклин, Рон Сун және Пенти Хайконен сияқты сананың интеллекттің маңызды бөлігі деп санайтын бірнеше зерттеушілер бар, бірақ олардың "сана" анықтамалары "интеллектке" өте жақын. (Жасанды сана қараңыз.) Бұл сұраққа жауап беру үшін біз "сана", "саналық күйлер" және "сана" терминдерінің мағынасын анық түсінуіміз керек.

сана, сана, психикалық күйлер, мағына

"Ақыл" және "сана" сөздерін әртүрлі топтар әртүрлі мағыналарда қолданады. Мысалы, кейбір жаңа дәуір ойшылдары "сананы" Бергсонның "тіршілік күшіне" (élan vital) ұқсас нәрсе ретінде сипаттау үшін пайдаланады: өмірге, әсіресе ақылға енетін көрінбейтін, энергетикалық күш. Ғылыми фантастика жазушылары бұл сөзді бізді адам қылатын маңызды қасиеттерді көрсету үшін қолданады: "санасы бар" машина немесе шетелдік азамат толыққанды адам кейіпінде бейнеленеді, оның интеллекты, тілектері, еркі, көрегендігі, мақтанышы және т.б. болады. (Ғылыми фантастика жазушылары осы маңызды адамдық қасиетті сипаттау үшін "сезіну қабілеті", "ақылдылық", "өзіне-өзінің хабардар болуы" немесе "призрак" (Ghost in the Shell манга және аниме сериясындағыдай) сөздерін де қолданады). Ал кейбіреулер үшін "ақыл" немесе "сана" сөздері жанның секулярлық синонимі ретінде қолданылады. Философтар, нейробиологтар және когнитивтік ғалымдар үшін бұл сөздер дәл және қарапайым мағынада қолданылады: олар таныс, күнделікті тәжірибедегі "басыңыздағы ой" сияқты қабылдау, арман, ниет немесе жоспарға, сондай-ақ біз бір нәрсені қалай көреміз, білеміз, білдіреміз немесе түсінеміз дегенге сілтеме жасайды. "Сананың қарапайым анықтамасын беру қиын емес", - деп атап өтеді философ Джон Сёрл. Нақты қызықты да, құпиялы нәрсе – оның не екендігі емес, қалай пайда болатыны: майлы тіндер мен электр энергиясы қалай осы (таныс) қабылдау, мағына беру немесе ойлау тәжірибесін тудырады? Философтар мұны сананың қиын мәселесі деп атайды. Бұл – "ақыл-дене проблемасы" деп аталатын классикалық мәселенің соңғы нұсқасы. Осыған байланысты мәселе – мағынаны түсіну мәселесі (философтар оны "қасақаналық" деп атайды): біздің ойларымыз бен біз нені ойлап тұрғанымыз (яғни әлемдегі заттар мен жағдайлар) арасында қандай байланыс бар? Үшінші мәселе – тәжірибе мәселесі (немесе "феноменология"): егер екі адам бірдей нәрсені көрсе, олардың тәжірибесі бірдей бола ма? Әлде "адамның ішкі әлемінде" (квалия) әр адам үшін әртүрлі болатын нәрселер бар ма? Нейробиологтар барлық бұл мәселелер сананың нейрондық корреляттарын анықтағанда шешілетініне сенеді: басымыздағы механизмдер мен олардың ұжымдық қасиеттері арасындағы нақты қарым-қатынас; ми, тәжірибе және түсінік сияқты. Жасанды интеллекттің қатал сыншыларының кейбіреулері мидің жай ғана машина екендігіне, ал сана мен интеллект – мидегі физикалық процестердің нәтижесі екендігіне келіседі. Философиялық қиын сұрақ мынадай: компьютерлік бағдарлама, нөл мен бірдің екілік сандарымен жұмыс істейтін цифрлық машинада, нейрондардың ақыл-ойды, ақыл-ой күйін (түсіну немесе қабылдау сияқты) және, әрі қарай, сана тәжірибесін қайта жасай ала ма?

The words "mind" and "consciousness" are used by different communities in different ways. Some new age thinkers, for example, use the word "consciousness" to describe something similar to Bergson's "élan vital": an invisible, energetic fluid that permeates life and especially the mind. Science fiction writers use the word to describe some essential property that makes us human: a machine or alien that is "conscious" will be presented as a fully human character, with intelligence, desires, will, insight, pride and so on. (Science fiction writers also use the words "sentience", "sapience", "self awareness" or "ghost"—as in the Ghost in the Shell manga and anime series—to describe this essential human property). For others , the words "mind" or "consciousness" are used as a kind of secular synonym for the soul. For philosophers, neuroscientists and cognitive scientists, the words are used in a way that is both more precise and more mundane: they refer to the familiar, everyday experience of having a "thought in your head", like a perception, a dream, an intention or a plan, and to the way we see something, know something, mean something or understand something. "It's not hard to give a commonsense definition of consciousness" observes philosopher John Searle. What is mysterious and fascinating is not so much what it is but how it is: how does a lump of fatty tissue and electricity give rise to this (familiar) experience of perceiving, meaning or thinking? Philosophers call this the hard problem of consciousness. It is the latest version of a classic problem in the philosophy of mind called the "mind body problem". A related problem is the problem of meaning or understanding (which philosophers call "intentionality"): what is the connection between our thoughts and what we are thinking about (i. e. objects and situations out in the world)? A third issue is the problem of experience (or "phenomenology"): If two people see the same thing, do they have the same experience? Or are there things "inside their head" (called "qualia") that can be different from person to person? Neurobiologists believe all these problems will be solved as we begin to identify the neural correlates of consciousness: the actual relationship between the machinery in our heads and its collective properties; such as the mind, experience and understanding. Some of the harshest critics of artificial intelligence agree that the brain is just a machine, and that consciousness and intelligence are the result of physical processes in the brain. The difficult philosophical question is this: can a computer program, running on a digital machine that shuffles the binary digits of zero and one, duplicate the ability of the neurons to create minds, with mental states (like understanding or perceiving), and ultimately, the experience of consciousness?

Сирлдің қытай бөлмесі

Джон Сёрл бізден ой эксперименті туралы ойлануды сұрайды: егер біз Тьюринг тестісін өтіп, жалпы интеллектуалды әрекеттерді көрсететін компьютерлік бағдарлама жазсақ делік. Атап айтқанда, бағдарлама ағымдағы қытай тілінде сөйлесе алады делік. Бағдарламаны 3х5 карталарға жазып, оларды қытай тілін білмейтін қарапайым адамға беріңіз. Адамды бөлмеге жабыңыз және карталардағы нұсқауларды орындауын қадағалаңыз. Ол қытай ішіндегі таңбаларды көшіріп, оларды бөлмеге кіре-шығарады. Сырттан қарағанда, қытай бөлмесінде қытай тілінде сөйлейтін, толыққанды интеллектісі бар адам бар сияқты көрінеді. Сұрақ мынадай: бөлмеде қытай тілін түсінетін біреу (немесе бірдеңе) бар ма? Яғни, қытай тілінде талқыланып жатқан мәселені түсінуге немесе саналы түрде білуге қабілетті бірдеңе бар ма? Адамның бұл туралы ешқандай хабары жоқ. Бөлме де саналы бола алмайды. Ал карталар, әрине, саналы емес. Сёрл қытай бөлмесінің немесе басқа кез келген физикалық символдар жүйесінің санаға ие бола алмайтынына келеді. Сёрл сондай-ақ, нақты психикалық күйлер мен санаға "нақты адам миының нақты физикалық-химиялық қасиеттері" қажет екенін (әлі сипатталмаған) айтады. Ол ми мен нейрондардың ерекше "қозғау қасиеттері" бар екенін, олар сананы тудырады дейді: оның сөздерімен айтқанда, "ми сананы тудырады".

Байланысты аргументтер: Лейбництің диірмені, Дэвистің телефон алмастыруы, Блоктың қытай ұлты және Блокхед

Готфрид Лейбниц 1714 жылы Сеарльмен шамалас аргумент келтірді, миды бір ұнтақтай үлкейту туралы ой-эксперимент пайдаланды. 1974 жылы Лоуренс Дэвис телефон желілері мен адамдар жұмыс істейтін кеңселерді пайдаланып миды көшіруді көзге елестетті, ал 1978 жылы Нед Блок Қытайдың барлық халқы осындай мидік модельдеуге қатысатынын көзге елестетті. Бұл ой-эксперимент "қытай ұлты" немесе "қытай залы" деп аталады. Нед Блок сондай-ақ өзінің Blockhead аргументін ұсынды, ол қытай залының бір түрі, онда бағдарлама "мұны көр, мыны істе" түріндегі қарапайым ережелер жиынтығына қайта құрылған, бағдарламадан барлық құпиясы алынып тасталған.

Қытай бөлмесіне жауаптар

Қытай бөлмесіне берілген жауаптар бірнеше түрлі мәселені қамтиды. Жүйелік және виртуалды сана жауабы: Бұл жауап жүйе – адам, бағдарлама, бөлме және карточкалардың барлығы – қытай тілін түсінеді деген пікірді білдіреді. Серль бөлмедегі адам ғана "санаға ие болуы" немесе "түсінуі" мүмкін деп санайды, бірақ басқалар келіспейді, бір физикалық кеңістікте екі сананың болуы мүмкін екенін айтады, мысалы, компьютер бір уақытта екі машина бола алады: біреуі физикалық (мысалы, Macintosh), екіншісі – «виртуалды» (мысалы, мәтіндік редактор). Жылдамдық, қуат және күрделілік жауабы: Көптеген сыншылар бөлмедегі адамның қарапайым сұраққа жауап беруіне миллиондаған жылдар қажет болатынын және астрономиялық көлемдегі «жүктеме сақтау қабинеттерінің» қажет ететінін атап өтті. Бұл Серльдің интуициясының нақтылығына күмән тудырады. Робот жауабы: Шын мәнінде түсіну үшін, кейбір адамдар Қытай бөлмесіне көз және қол қажет деп есептейді. Ханс Моравек былай деп жазады: «Егер біз ақыл-ой бағдарламасына роботты қоса алсақ, мағынаны беру үшін адам қажет болмас еді: ол физикалық әлемнен келер еді». Ми имитаторы жауабы: Егер бағдарлама нақты қытай тілінде сөйлейтін адамның миындағы синапстардағы жүйкелік импульстардың тізбегін имитацияласа не болады? Бөлмедегі адам нақты миды имитациялап отырады. Бұл «жүйелік жауаптың» өзгеруі болып табылады, себебі «жүйе» енді адам миы сияқты жұмыс істейді, бұл бөлмедегі адамнан басқа қытай тілін түсінетін нәрсе бар деген интуицияны күшейтеді. Басқа саналар жауабы және эпифеномендер жауабы: Көптеген адамдар Серльдің аргументінің машиналарға қатысты басқа саналар мәселесінің бір түрі екенін атап өтті. Адамдардың «шын мәнінде» ойлап отырғанын анықтау қиын болғандықтан, машиналар туралы да осы сұраққа жауап беру қиын екеніне таң қалмауымыз керек. Бұл мәселеге байланысты «сананың» (Серль түсінгендей) бар-жоғы туралы сұрақ туындайды. Серль сананың тәжірибесін машинаның, адамның немесе басқа жануардың мінез-құлқын зерттеу арқылы анықтауға болмайды деп мәлімдейді. Дэниел Деннет табиғи іріктеу жануардың мінез-құлқына әсер етпейтін жануардың ерекшелігін сақтап қала алмайтынын, сондықтан сана (Серль түсінгендей) табиғи іріктеу арқылы пайда болмайтынын атап өтті. Демек, табиғи іріктеу сананы жасамады немесе «күшті жасанды интеллект» дұрыс, себебі сананы тиісті түрде жасалған Тьюринг тесті арқылы анықтауға болады.

Responses to the Chinese room emphasize several different points. The systems reply and the virtual mind reply: This reply argues that the system, including the man, the program, the room, and the cards, is what understands Chinese. Searle claims that the man in the room is the only thing which could possibly "have a mind" or "understand", but others disagree, arguing that it is possible for there to be two minds in the same physical place, similar to the way a computer can simultaneously "be" two machines at once: one physical (like a Macintosh) and one "virtual" (like a word processor). Speed, power and complexity replies: Several critics point out that the man in the room would probably take millions of years to respond to a simple question, and would require "filing cabinets" of astronomical proportions. This brings the clarity of Searle's intuition into doubt. Robot reply: To truly understand, some believe the Chinese Room needs eyes and hands. Hans Moravec writes: "If we could graft a robot to a reasoning program, we wouldn't need a person to provide the meaning anymore: it would come from the physical world." Brain simulator reply: What if the program simulates the sequence of nerve firings at the synapses of an actual brain of an actual Chinese speaker? The man in the room would be simulating an actual brain. This is a variation on the "systems reply" that appears more plausible because "the system" now clearly operates like a human brain, which strengthens the intuition that there is something besides the man in the room that could understand Chinese. Other minds reply and the epiphenomena reply: Several people have noted that Searle's argument is just a version of the problem of other minds, applied to machines. Since it is difficult to decide if people are "actually" thinking, we should not be surprised that it is difficult to answer the same question about machines. A related question is whether "consciousness" (as Searle understands it) exists. Searle argues that the experience of consciousness cannot be detected by examining the behavior of a machine, a human being or any other animal. Daniel Dennett points out that natural selection cannot preserve a feature of an animal that has no effect on the behavior of the animal, and thus consciousness (as Searle understands it) cannot be produced by natural selection. Therefore, either natural selection did not produce consciousness, or "strong AI" is correct in that consciousness can be detected by suitably designed Turing test.

Ойлау есептеудің бір түрі ме?

Ақылдың есептеу теориясы немесе "компьютерализм" ақыл мен ми арасындағы қарым-қатынасты жұмыс істеп тұрған бағдарлама (бағдарламалық жасақтама) мен компьютер (аппараттық құрал) арасындағы қарым-қатынасқа ұқсас (не тіпті толықтай сәйкес) деп санайды. Бұл идеяның философиялық тамыры Гоббсте (есте сақтау – "есептеуден артық емес" деп мәлімдеген), Лейбницте (адамның барлық идеяларын логикалық есептеуге келтіруге тырысқан), Юмде (қабылдауды "атомдық сезімдерге" дейін тоғытуға болатынын ойлаған) және тіпті Кантта (барлық тәжірибені формалды ережелермен бақыланатынын талдаған) жатыр. Бұл теорияның ең соңғы нұсқасы философтар Хиллари Путнам мен Джерри Фодормен байланысты. Бұл мәселе біз бұрын қозғаған сұрақтарға тікелей қатысты: егер адам миы компьютер болса, онда компьютерлер де интеллектке, де санаға ие болуы мүмкін, соның ішінде жасанды интеллектінің (ЖЗ) практикалық және философиялық мәселелеріне де жауап бере алады. Жасанды интеллектінің практикалық тұрғысынан ("Машина жалпы интеллектті көрсете ала ма?") есептеушіліктің кейбір нұсқалары (Хоббс жазғандай) былай тұжырымдайды: "Есте сақтау – есептен басқа ештеңе емес". Бұл жоғарыда талқыланған Джон Сёрлдің "күшті жасанды интеллектісі" және Харнадтың пікірінше, Қытай бөлмесі аргументінің нақты нысаны болып табылады. Қорқыныш – жеделдіктің көзі. Эмпатия – жақсы адам-компьютер өзара әрекеттесуінің қажетті құралы. Ол роботтардың "сенің қызығушылығыңды оятатын, сырттай өзімшілдікке ұқсайтын тәсілмен сені қуантуға тырысатынын" айтады. Мұны махаббаттың бір түрі деп түсіндіруге болады.

Машина өзін-өзі біле ала ма?

Жоғарыда айтылғандай, "өзіне-өзі әдістемелік көзқарас" кейде ғылыми-фантастика жазушылары кейіпкерді толыққанды адам ететін маңызды қасиет ретінде қолданады. Тьюринг адамның барлық басқа қасиеттерін жойып, сұрақты "машина өз ойының нысаны бола ала ма?" дейтінге дейін азайтады. Ол өзі туралы ойлай ала ма? Осы тұрғыдан алғанда, өз ішкі күйін баяндай алатын, мысалы, түзетуші (debugger) сияқты бағдарлама жазуға болады. Ол жеткілікті жад сыйымдылығымен компьютердің астрономиялық түрде көптеген әртүрлі жолдармен әрекет ете алатынын айтады. Идеяларды бейнелей алатын компьютердің оларды жаңа жолдармен біріктіруі мүмкін болуы керек, тіпті оңай болуы мүмкін. (Мысалы, Дуглас Ленаттың "Автоматты математик" бағдарламасы жаңа математикалық шындықтарды ашу үшін идеяларды біріктірді.) Каплан мен Хенлейн машиналар ғылыми шығармашылықты көрсете алады деп санайды, бірақ көркем шығармашылықта адамдардың басымдықтарын сақтауы ықтимал. 2009 жылы Уэльстегі Аберистуит университеті мен Ұлыбританияның Кембридж университетінің ғалымдары Адам деп аталған роботты жасады, олар оның жаңа ғылыми жаңалықтарды тәуелсіз түрде ойлап табуға қабілетті алғашқы машина деп санайды. Сондай-ақ 2009 жылы Корнелл университетінің зерттеушілері Eureqa бағдарламасын жасады, ол енгізілген деректерге сәйкес формулаларды шығарады, мысалы, маятниктің қозғалысынан қозғалыс заңдарын табады.

Машина мейірімді немесе қасқыр бола ала ма?

Бұл сұрақ (жасанды интеллект философиясындағы көптеген басқа сұрақтар сияқты) екі түрде қарастырылуы мүмкін. "Жауыздаушылық" функциясы немесе мінез-құлқы тұрғысынан анықталуы мүмкін, онда "жауыздаушылық" "қауіпті" дегенмен мағынасы жақын болады. Немесе оны ниет тұрғысынан анықтауға болады: машина "саналы түрде" зиян келтіруге тырыса ала ма? Екіншісі – "машина саналы күйге ие бола ала ма?" (мысалы, ниеттер) деген сұрақтың басқаша формулировкасы. Бұл туралы сингулярлық деп аталатын философияда сөз болады. 2009 жылы ғалымдар мен техникалық сарапшылар роботтар мен компьютерлердің әлеуетті әсерін және олардың өздігінен қамтамасыз етіп, дербес шешімдер қабылдау мүмкіндігіне байланысты гипотетикалық ықтималдықтың салдары туралы талқылау үшін конференцияға қатысты. Олар компьютерлер мен роботтардың қандай деңгейде дербестікке қол жеткізе алатынын және осы қабілеттерін қандай да бір қауіптің немесе зиянның туындауына қалай пайдалана алатынын талқылады. Олар кейбір машиналардың жартылай дербестіктің түрлі формаларын меңгергенін, оның ішінде өздігінен қуат көздерін табу және қару-жарақпен шабуыл жасау үшін нысаналарды дербес таңдау мүмкіндіктерін атап өтті. Сондай-ақ, кейбір компьютерлік вирустардың жоюдан қашып, "тарақан сияқты ептілікке" ие болғанын айтты. Олар ғылыми фантастикада бейнеленгендей өзіне-өзі сезінудің ықтималдығы төмен екенін, бірақ басқа да әлеуетті қауіптер мен қиындықтар бар екенін атап өтті. Кейбір сарапшылар мен ғалымдар әскери қақтығыстарда роботтарды қолдануды, әсіресе оларға дербес функциялар берілген жағдайда, сынға алды. АҚШ Әскери-теңіз күштері әскери роботтардың күрделілігі артқан сайын, олардың дербес шешімдер қабылдау қабілетіне көбірек назар аудару қажеттігін көрсететін есепті қаржыландырды. Жасанды интеллектті дамыту қауымдастығының президенті осы мәселені зерттеу үшін зерттеу тапсырды. Олар адамдық өзара әрекеттесуді имитациялай алатын Тілді меңгеру құрылғысы сияқты бағдарламаларды көрсетті. Кейбіреулер Элиезер Юдковский ұсынған "Достық ЖА" құру қажеттігін айтты, яғни ЖА-ның қазіргі жетістіктеріне қатар, оны іштен достық және адамгершілікке бағытталған ету үшін күш-жігер жұмсау керек.

This question (like many others in the philosophy of artificial intelligence) can be presented in two forms. "Hostility" can be defined in terms function or behavior, in which case "hostile" becomes synonymous with "dangerous". Or it can be defined in terms of intent: can a machine "deliberately" set out to do harm? The latter is the question "can a machine have conscious states?" (such as intentions) in another form. This is discussed by a philosophy called Singularitarianism. In 2009, academics and technical experts attended a conference to discuss the potential impact of robots and computers and the impact of the hypothetical possibility that they could become self sufficient and able to make their own decisions. They discussed the possibility and the extent to which computers and robots might be able to acquire any level of autonomy, and to what degree they could use such abilities to possibly pose any threat or hazard. They noted that some machines have acquired various forms of semi autonomy, including being able to find power sources on their own and being able to independently choose targets to attack with weapons. They also noted that some computer viruses can evade elimination and have achieved "cockroach intelligence". They noted that self awareness as depicted in science fiction is probably unlikely, but that there were other potential hazards and pitfalls. Some experts and academics have questioned the use of robots for military combat, especially when such robots are given some degree of autonomous functions. The US Navy has funded a report which indicates that as military robots become more complex, there should be greater attention to implications of their ability to make autonomous decisions. The President of the Association for the Advancement of Artificial Intelligence has commissioned a study to look at this issue. They point to programs like the Language Acquisition Device which can emulate human interaction. Some have suggested a need to build "Friendly AI", a term coined by Eliezer Yudkowsky, meaning that the advances which are already occurring with AI should also include an effort to make AI intrinsically friendly and humane.

Философияның рөліне қатысты көзқарастар

Кейбір ғалымдар жасанды интеллект қауымдастығының философияны елемеуі зиянды екенін айтады. Стэнфорд философия энциклопедиясындағы кейбір философтар философияның жасанды интеллект саласындағы рөлі жеткілікті бағаланбайды деген пікірде.

Конференциялар мен әдебиеттер

Бұл мәселе бойынша негізгі конференция сериясы – Винсент К. Мюллер ұйымдастырған «Жасанды интеллект философиясы мен теориясы» (PT AI). Бұл тақырыптағы негізгі библиография бірнеше бөлімшелермен PhilPapers сайтында қолжетімді. Жасанды интеллект философиясы бойынша жақында жасалған шолу – Мюллер (2023).