Введение

Amazon Mechanical Turk (MTurk) — это краудсорсинговый веб-сайт, позволяющий компаниям нанимать удалённых работников ("краудворкеров") для выполнения отдельных задач по запросу, которые компьютеры в настоящее время не могут выполнять экономически эффективно. Сервис работает на платформе Amazon Web Services и принадлежит Amazon. Работодатели, известные как заказчики, публикуют задания, называемые задачами человеческого интеллекта (HIT), например, идентификацию конкретного контента на изображении или видео, написание описаний товаров или ответы на вопросы опросов. Работники, которых часто называют "туркерами" или "краудворкерами", просматривают доступные задания и выполняют их в обмен на вознаграждение, установленное заказчиком. Заказчики могут размещать задания, используя открытый программный интерфейс приложений (API) или более ограниченный сайт MTurk Requester. По состоянию на апрель 2019 года заказчики могли регистрироваться из 49 утверждённых стран.

История

Сервис был задуман Венки Харинараяном в 2001 году в США в описании патента. Amazon ввела термин «искусственный искусственный интеллект» для обозначения процессов, которые передают некоторые части компьютерной программы людям для выполнения задач, с которыми люди справляются намного быстрее, чем компьютеры. Утверждается, что Джефф Безос предложил разработать Amazon Mechanical Turk для реализации этого процесса. Название «Mechanical Turk» было вдохновлено «Турком» – шахматным автоматом XVIII века, созданным Вольфгангом фон Кемпеленом, который гастролировал по Европе и обыграл Наполеона Бонапарта и Бенджамина Франклина. Позже выяснилось, что эта «машина» была не автоматом, а шахматным мастером, скрывавшимся в шкафу под доской и управлявшим движениями человекоподобного манекена. Аналогично, онлайн-сервис Mechanical Turk использует удалённый человеческий труд, скрытый за компьютерным интерфейсом, чтобы помочь работодателям выполнять задачи, которые невозможно решить с помощью настоящей машины. MTurk был публично запущен 2 ноября 2005 года. Его пользовательская база быстро росла. В начале – середине ноября 2005 года было размещено несколько десятков тысяч заданий, все загруженные самой Amazon для некоторых своих внутренних задач, требующих человеческого интеллекта. Типы HIT расширились и включили транскрибирование, оценку, разметку изображений, опросы и написание текстов. В марте 2007 года, по сообщениям, на платформе работало более 100 000 работников в более чем 100 странах. В том же году Techlist опубликовала интерактивную карту, на которой были отмечены местоположения 50 000 работников MTurk по всему миру. К 2018 году исследования показали, что хотя на платформе в любой момент времени было доступно более 100 000 работников, активно работали лишь около 2 000 из них.

Расположение Туркера

Рабочие в основном находились в Соединенных Штатах с момента запуска платформы, с демографическими показателями, в целом схожими с общей структурой населения интернета в США. Внутри США рабочие довольно равномерно распределены по штатам, пропорционально доле населения каждого штата в общей численности населения США. По состоянию на 2019 год от 15 до 30 тысяч человек в США выполняли хотя бы одно задание HIT ежемесячно, и около 4500 новых пользователей присоединялись к MTurk каждый месяц. В 2010 году были введены денежные выплаты для работников из Индии, что изменило демографический состав, однако основная часть работников по-прежнему находилась в Соединенных Штатах. Согласно данным сайта, отображающего демографию работников в мае 2015 года, 80% работников находились в США, а остальные 20% – в других странах мира, преимущественно в Индии. В мае 2019 года примерно 60% находились в США, 40% – в других странах (около 30% – в Индии). В начале 2023 года около 90% работников были из США, и примерно половина оставшихся – из Индии.

Исследования на людях

Начиная с 2010 года, множество исследователей изучали возможность использования Mechanical Turk для привлечения участников к социально-психологическим экспериментам. В целом, исследователи обнаружили, что хотя выборки респондентов, полученные через Mechanical Turk, не в полной мере соответствуют всем значимым характеристикам населения США, они и не являются сильно нерепрезентативными. В результате, ежегодно публикуются тысячи статей, основанных на данных, собранных у работников Mechanical Turk, включая сотни в ведущих академических журналах. Сложность использования MTurk в исследованиях с участием людей заключается в обеспечении качества данных. Исследование, опубликованное в 2021 году, показало, что типы методов контроля качества, применяемые исследователями (например, проверка на ботов, пользователей VPN или работников, склонных предоставлять недостоверные ответы), могут существенно влиять на результаты опросов. Это было продемонстрировано на примере влияния на три распространенных инструмента скрининга в области поведенческого и психического здоровья. Несмотря на то, что поддержание качества данных требует усилий со стороны исследователей, существует значительный объем исследований, показывающих, как получать высококачественные данные с помощью MTurk. Стоимость использования MTurk значительно ниже, чем у многих других методов проведения опросов, поэтому многие исследователи продолжают его использовать. Общее мнение исследователей заключается в том, что сервис наиболее эффективен для привлечения разнообразной выборки; он менее успешен в исследованиях, требующих более четко определенных групп населения или репрезентативной выборки населения в целом. Опубликовано множество работ, посвященных демографическим характеристикам пользователей MTurk. Работники MTurk, как правило, моложе, имеют более высокий уровень образования, более либеральные взгляды и немного ниже уровень дохода, чем население США в целом.

Машинное обучение

Для успешного обучения алгоритмам машинного обучения с учителем требуются большие объемы данных, размеченных людьми. Исследователи в области машинного обучения привлекали работников через Mechanical Turk для создания наборов данных, таких как SQuAD, набор данных для задач ответов на вопросы.

Поиски пропавших без вести лиц

С 2007 года сервис использовался для поиска известных пропавших без вести людей. Эта идея впервые была предложена во время поисков Джеймса Кима, но его тело обнаружили до каких-либо технических успехов. Тем летом ученый-компьютерщик Джим Грей исчез во время плавания на яхте, и Вернер Фогельс из Amazon, его личный друг, договорился с компанией DigitalGlobe, предоставляющей спутниковые данные для Google Maps и Google Earth, о публикации недавних фотографий Фараллонских островов на Mechanical Turk. Статья на главной странице Digg привлекла 12 000 добровольцев, которые вместе с профессиональными аналитиками изображений работали с этими данными. Поиски не дали результатов. В сентябре 2007 года аналогичная схема была применена в поисках летчика Стива Фосетта. Спутниковые снимки были разделены на участки, и пользователей Mechanical Turk попросили отмечать изображения с "необычными объектами", которые могли бы указывать на место крушения или другие улики, требующие более детального изучения. Эти поиски также не увенчались успехом. Снимки охватывали территорию в основном в радиусе 50 миль, однако место крушения было найдено туристами примерно через год, на расстоянии 65 миль от предполагаемого района падения.

Художественные произведения

MTurk также использовался как инструмент для художественного создания. Одной из первых художниц, работавших с Mechanical Turk, была Кристин Берроу, с работами The Mechanical Olympics (2008), Endless Om (2015) и Mediations on Digital Labor (2015). Еще одной работой художника Аарона Коблина была Ten Thousand Cents (2008).

Программирование третьих сторон

Программисты разработали расширения для браузеров и скрипты, предназначенные для упрощения процесса выполнения заданий. Amazon заявила, что не одобряет скрипты, которые полностью автоматизируют процесс и исключают участие человека. Это вызвано опасениями, что процесс выполнения заданий – например, ответы на опрос – может быть подвергнут манипуляциям с помощью случайных ответов, а собранные данные в результате окажутся бесполезными. Аккаунты, использующие так называемых автоматизированных ботов, были заблокированы.

API

Amazon предоставляет интерфейс прикладного программирования (API) для системы MTurk. API MTurk позволяет программисту отправлять задания, получать выполненную работу и одобрять или отклонять ее. В 2017 году Amazon добавила поддержку комплектов разработки программного обеспечения AWS (SDK), предоставив пользователям MTurk девять новых SDK. Доступ к MTurk через API возможен с использованием языков программирования Python, JavaScript, Java, .NET, Go, Ruby, PHP или C++. Веб-сайты и веб-сервисы могут использовать API для интеграции задач MTurk в другие веб-приложения, предлагая пользователям альтернативу интерфейсу, разработанному Amazon для этих целей.

Обработка фотографий / видео

Amazon Mechanical Turk предоставляет платформу для обработки изображений, задача, которая особенно хорошо поддается человеческому интеллекту. Заказчики создают задания, в которых работники должны маркировать объекты на изображениях, выбирать наиболее подходящую картинку из группы, выявлять неприемлемый контент, классифицировать объекты на спутниковых снимках или оцифровывать текст с изображений, например, отсканированных форм, заполненных от руки.

Денежная компенсация

Минимальная оплата за задание на Amazon составляет один цент. Поскольку задания обычно простые и однообразные, большинство из них оплачиваются всего несколько центов, хотя на платформе также встречаются и более высокооплачиваемые задания. Многие критические замечания в отношении MTurk связаны с тем, что большинство заданий предлагают низкую заработную плату. Кроме того, работники считаются независимыми подрядчиками, а не сотрудниками. Независимые подрядчики не подпадают под действие Закона о справедливых трудовых стандартах или других законов, защищающих права работников. Работники на MTurk должны конкурировать друг с другом за выгодные HIT и тратить время на поиск заданий и другие действия, за которые они не получают вознаграждения. Низкая оплата за многие задания вызвала критику Mechanical Turk за эксплуатацию работников и некомпенсацию им реальной стоимости выполненной работы. Одно исследование, охватившее 3,8 миллиона заданий, выполненных 2767 работниками, показало, что "медианная почасовая оплата труда работников составляла около 2 долларов в час", при этом 4% работников зарабатывали более 7,25 долларов в час. Исследовательский центр Pew и Международная организация труда опубликовали данные, согласно которым в 2015 году люди зарабатывали около 5 долларов в час. Исследование, посвященное работникам в США, показало среднюю заработную плату не менее 5,70 долларов в час, а данные исследования CloudResearch – около 6,61 доллара в час.

Мошенничество

В 2014 году журнал The Nation сообщил, что некоторые Заказчики злоупотребляли услугами Исполнителей, заставляя их выполнять задания, а затем отклоняя их работы, чтобы избежать оплаты. Имеющиеся данные свидетельствуют о том, что отклонения происходят относительно редко. Исполнители сообщают, что лишь небольшая часть их HIT отклоняется, возможно, всего около 1%. Система платила людям один-два доллара за установку приложения, связанного с Facebook, и ответы на личные вопросы. Задача опроса, будучи работой по договору, не использовалась для демографического или психологического исследования, как могло показаться. Вместо этого целью было спровоцировать Исполнителя на раскрытие личной информации о его личности, которая еще не была собрана Facebook или Mechanical Turk.

Трудовые отношения

Другие критикуют то, что платформа не позволяет работникам вести переговоры с работодателями. В ответ на критику в отношении уклонения от оплаты и отсутствия представительства, группа разработала стороннюю платформу под названием Turkopticon, которая позволяет работникам оставлять отзывы о своих работодателях. Это позволяет работникам избегать потенциально недобросовестных заказов и рекомендовать лучших работодателей. Другая платформа под названием Dynamo позволяет работникам анонимно объединяться и организовывать кампании для улучшения условий труда, такие как "Руководство для академических заказчиков" и кампания "Дорогой Джефф Безос". Amazon усложнила работникам возможность присоединиться к Dynamo, закрыв аккаунт, который предоставлял работникам необходимый код для членства. Работники создали сторонние плагины для выявления более высокооплачиваемых заданий, но Amazon обновила свой веб-сайт, чтобы эти плагины не работали.

Связанные системы

Mechanical Turk в некоторых отношениях сопоставим с ныне прекращенным сервисом Google Answers. Однако Mechanical Turk – это более универсальная платформа, которая потенциально может помочь распределить любые виды рабочих заданий по всему миру. Совместный человеческий интерпретатор (CHI) Филиппа Ленссена также предлагал использовать распределенный человеческий интеллект для помощи компьютерным программам в выполнении задач, которые компьютеры выполняют плохо. MTurk можно использовать как механизм исполнения для CHI. В 2014 году российский поисковый гигант Яндекс запустил аналогичную систему под названием Toloka, схожую с Mechanical Turk.