Ағылшыншамен салыстырыңыз: абзацты басыңыз — түпнұсқа терезеде ашылады. Абзац астындағы EN түймесі оны мәтін ішінде көрсетеді.
Мазмұны
Кіріспе
Адам сипаттамаларын компьютерлерге қатысты қолдану арқасында туындайтын когнитивтік бұрмалау.
Cognitive bias in which computers are anthropomorphised
Компьютерлік ғылымда ЭЛИЗА эффектісі – мәтіндік интерфейсі бар компьютерлік бағдарламаларға адамдық қасиеттерді, мысалы, тәжірибе, семантикалық түсінік немесе эмпатияны жобалау бейімі. Бұл эффект бағдарламаның символдық есептеулері "ойлау", "білу" немесе "түсіну" сияқты терминдермен сипатталғанда туындайтын категориялық қателік.
In computer science, the ELIZA effect is the tendency to project human traits — such as experience, semantic comprehension or empathy — into computer programs that have a textual interface. The effect is a category mistake that arises when the program's symbolic computations are described through terms such as "think", "know" or "understand."
Сипаттамалары
Өзінің нақты түрінде ЭЛИЗА эффектісі тек "компьютерлер арқылы тізбектелген символдар қатарына, әсіресе сөздерге, адамдардың қажеттіліктен гөрі әлдеқайда көп түсініктілік тануға бейімділігіне" қатысты. Дуглас Хофстадтер келтірген Элиза эффектісінің нақты түрінің қарапайым мысалы, транзакция соңында "РАХМЕТ" деген сөздерді көрсетіп тұратын автоматтiк касса машинасы болып табылады. Тәжірибесіз адам машинаның шын мәнінде алғыс айтып тұрғанын ойлауы мүмкін, бірақ ол тек алдын ала бағдарламаланған символдар тізбегін басып шығарады. Мұнда пайдаланушылар компьютерлік жүйелерді тек жүйе шығысына сүйене отырып, "(шығысты) басқаратын бағдарламалық қамтамасыз етуге мүмкін емес қасиеттер мен қабілеттерге" ие деп қабылдайды немесе "[шығыстар] нақтыдағыдан артық себеп-салдар байланысын көрсетеді" деп есептейді. Элиза эффектісі ерекше және жалпы түрінде жүйе пайдаланушылары жүйе шығаратын нәтиженің анықталған сипатын білген кезде де орын алады. Психологиялық тұрғыдан алғанда, ЭЛИЗА эффектісі – пайдаланушының бағдарламалау шектеулері туралы білуі мен бағдарламаның нәтижесіне қатысты мінез-құлқы арасындағы күрт когнитивтік диссонанстың салдары болып табылады.
In its specific form, the ELIZA effect refers only to "the susceptibility of people to read far more understanding than is warranted into strings of symbols—especially words—strung together by computers". A trivial example of the specific form of the Eliza effect, given by Douglas Hofstadter, involves an automated teller machine which displays the words "THANK YOU" at the end of a transaction. A naive observer might think that the machine is actually expressing gratitude; however, the machine is only printing a preprogrammed string of symbols. where, based solely on a system's output, users perceive computer systems as having "intrinsic qualities and abilities which the software controlling the (output) cannot possibly achieve" or "assume that [outputs] reflect a greater causality than they actually do". In both its specific and general forms, the ELIZA effect is notable for occurring even when users of the system are aware of the determinate nature of output produced by the system. From a psychological standpoint, the ELIZA effect is the result of a subtle cognitive dissonance between the user's awareness of programming limitations and their behavior towards the output of the program.
Маңыздылығы
ELIZA эффектісінің ашылуы – жасанды интеллект саласындағы маңызды қадам болды, ол Тьюринг тестінен өту үшін нақты бағдарламалаудың орнына әлеуметтік инженерияны қолдану принципін көрсетті. ELIZA кейбір пайдаланушыларды машинаны адам деп ойлауға иктерді. Адам-машина өзара әрекеттесуіндегі бұл өзгеріс, адам мінез-құлқын имитациялайтын технологиялардың дамуын білдірді. Уильям Мейзель чат-боттардың екі тобын – «жалпы жеке көмекшілер» және «арнайы цифрлық көмекшілер» деп ажыратады. Жалпы цифрлық көмекшілер жеке құрылғыларға интеграцияланған, олар хабарлама жіберу, жазбалар жасау, күнтізбелерді тексеру және кездесулерді жоспарлау сияқты мүмкіндіктерге ие. Арнайы цифрлық көмекшілер «өте нақты салаларда жұмыс істейді немесе нақты міндеттерді орындауға көмектеседі». Ол сондай-ақ, егер біз машиналармен адамдарша қарым-қатынас жасасақ, олармен эмоционалды байланыс орнатуға бейім екенімізді атап өтті. Чат-боттарды антропоморфтандырғанда, олар технологиямен қарым-қатынас орнату үшін гендерлік белгілерді көрсетеді. «Гендерлік стереотиптер чат-боттармен қарым-қатынасымызды басқару үшін пайдаланылады», – деп мәлімдеді. 1990 жылдары Клиффорд Насс және Байрон Ривз «Медиа теңдеуі» деп аталатын бірқатар эксперименттер жүргізді, олардың нәтижесінде адамдар медиаға басқа адамға (әдептілік, ынтымақтастық, агрессивтілік, юмор, білік және гендерлік қасиеттермен сипаттау арқылы) немесе физикалық әлемдегі орындар мен құбылыстарға жауап беретіні анықталды. Психология, әлеуметтік ғылымдар және басқа да салалардағы көптеген келесі зерттеулер осы типтегі реакцияның автоматты, болдырмауға келмейтін және адамдар ойлағаннан гөрі жиі болатынын көрсетті. Ривс пен Насс (1996) «Адамдардың компьютерлермен, теледидармен және жаңа медиамен өзара әрекеттесуі негізінен әлеуметтік және табиғи, тіпті нақты өмірдегі өзара әрекеттесу сияқты» (5-бет) дейді. Антропоморфты цифрлық көмекшілер арқылы автоматтандырылған әйелдер еңбегі немесе әйелдер жұмысы «әйелдердің қызмет көрсету және эмоционалды еңбекке табиғи бейімділігі бар» деген пікірді күшейтеді. Цифрлық көмекшілерге адамдық қасиеттері арқылы жақындығымызды анықтау арқылы чат-боттар гендерлік мәнге ие болады.
The discovery of the ELIZA effect was an important development in artificial intelligence, demonstrating the principle of using social engineering rather than explicit programming to pass a Turing test. ELIZA convinced some users into thinking that a machine was human. This shift in human machine interaction marked progress in technologies emulating human behavior. Two groups of chatbots are distinguished by William Meisel as "general personal assistants" and "specialized digital assistants". General digital assistants have been integrated into personal devices, with skills like sending messages, taking notes, checking calendars, and setting appointments. Specialized digital assistants "operate in very specific domains or help with very specific tasks". He also observed that we develop emotional involvement with machines if we interact with them as humans. When chatbots are anthropomorphized, they tend to portray gendered features as a way through which we establish relationships with the technology. "Gender stereotypes are instrumentalised to manage our relationship with chatbots" when human behavior is programmed into machines. In the 1990s, Clifford Nass and Byron Reeves conducted a series of experiments establishing The Media Equation, demonstrating that people tend to respond to media as they would either to another person (by being polite, cooperative, attributing personality characteristics such as aggressiveness, humor, expertise, and gender) – or to places and phenomena in the physical world. Numerous subsequent studies that have evolved from the research in psychology, social science and other fields indicate that this type of reaction is automatic, unavoidable, and happens more often than people realize. Reeves and Nass (1996) argue that, "Individuals' interactions with computers, television, and new media are fundamentally social and natural, just like interactions in real life," (p. 5). Feminized labor, or women's work, automated by anthropomorphic digital assistants reinforces an "assumption that women possess a natural affinity for service work and emotional labour". In defining our proximity to digital assistants through their human attributes, chatbots become gendered entities.