Введение
Когнитивное искажение, при котором компьютерам приписываются человеческие черты.
В информатике эффект ЭЛИЗА — это склонность проецировать человеческие качества, такие как опыт, семантическое понимание или эмпатия, на компьютерные программы с текстовым интерфейсом. Этот эффект является категориальной ошибкой, возникающей, когда символические вычисления программы описываются терминами вроде "думать", "знать" или "понимать".
Характеристики
В своей конкретной форме эффект ЭЛИЗА относится лишь к "склонности людей приписывать гораздо больше смысла, чем это оправдано, последовательностям символов – особенно слов – сгенерированным компьютерами". Тривиальный пример конкретной формы эффекта ЭЛИЗА, приведенный Дугласом Хофштадтером, включает в себя автоматический банкомат, который отображает слова "СПАСИБО" в конце транзакции. Наивный наблюдатель может подумать, что машина действительно выражает благодарность; однако машина лишь печатает предварительно запрограммированную последовательность символов. В этом случае, основываясь исключительно на результатах работы системы, пользователи воспринимают компьютерные системы как обладающие "внутренними качествами и способностями, которых программное обеспечение, управляющее этими результатами, достичь не может", или "предполагают, что [результаты] отражают более глубокую причинно-следственную связь, чем это есть на самом деле". Как в конкретной, так и в общей форме, эффект ЭЛИЗА примечателен тем, что проявляется даже тогда, когда пользователи системы осознают детерминированную природу выдаваемой системой информации. С психологической точки зрения, эффект ЭЛИЗА является результатом тонкого когнитивного диссонанса между осознанием пользователем ограничений программирования и его поведением по отношению к результатам работы программы.
Значение
Открытие эффекта ЭЛИЗА стало важным достижением в области искусственного интеллекта, продемонстрировав принцип использования социальной инженерии, а не прямого программирования, для прохождения теста Тьюринга. ЭЛИЗА убедила некоторых пользователей в том, что машина является человеком. Этот сдвиг во взаимодействии человека и машины ознаменовал прогресс в технологиях, имитирующих человеческое поведение. Уильям Мейзель выделяет две группы чат-ботов: «универсальные личные помощники» и «специализированные цифровые помощники». Универсальные цифровые помощники интегрированы в персональные устройства и обладают такими функциями, как отправка сообщений, создание заметок, проверка календаря и планирование встреч. Специализированные цифровые помощники «работают в очень конкретных областях или помогают в решении очень конкретных задач». Он также отметил, что мы развиваем эмоциональную привязанность к машинам, если взаимодействуем с ними как с людьми. Когда чат-боты антропоморфизируются, они, как правило, наделяются гендерными признаками, что является способом установления с ними отношений. «Гендерные стереотипы используются для управления нашими отношениями с чат-ботами», когда человеческое поведение закладывается в машины. В 1990-х годах Клиффорд Насс и Байрон Ривз провели серию экспериментов, установивших «Уравнение медиа», показав, что люди склонны реагировать на медиа так же, как на другого человека (проявляя вежливость, готовность к сотрудничеству, приписывая личностные характеристики, такие как агрессивность, чувство юмора, компетентность и пол) – или на места и явления в физическом мире. Многочисленные последующие исследования, развившиеся из работ в области психологии, социальных наук и других дисциплин, показывают, что этот тип реакции автоматичен, неизбежен и происходит чаще, чем люди осознают. Ривз и Насс (1996) утверждают, что «взаимодействие людей с компьютерами, телевидением и новыми медиа является фундаментально социальным и естественным, как и взаимодействие в реальной жизни» (стр. 5). Автоматизация феминизированного труда, или работы, традиционно выполняемой женщинами, посредством антропоморфных цифровых помощников, укрепляет «предположение о том, что женщины обладают природным талантом к обслуживанию и эмоциональному труду». Определяя нашу близость к цифровым помощникам через их человеческие атрибуты, чат-боты становятся гендерными сущностями.