Введение

Система для сортировки нежелательных публикаций

На интернет-сайтах, где пользователи могут оставлять комментарии, модерация контента – это процесс выявления публикаций, которые являются неуместными, непристойными, незаконными, вредоносными или оскорбительными, в отличие от полезных или информативных публикаций, часто с целью цензуры или подавления альтернативных точек зрения. Цель модерации контента – удалять или помечать проблемный контент предупреждением, либо предоставить пользователям возможность самостоятельно блокировать и фильтровать контент. Некоторые сайты также должны обеспечивать совместимость своего контента с рекламой. По данным Фрэнсис Хоуген, по состоянию на 2021 год количество сотрудников Facebook, ответственных за модерацию контента, было значительно меньше. Если у вас новая страница в Facebook, вы можете управлять следующими настройками модерации:

Ранжирование комментариев: отображение наиболее релевантных комментариев к вашим публикациям в первую очередь. Фильтр ненормативной лексики: вы можете выбрать, блокировать ли ненормативную лексику на вашей странице и в какой степени. Facebook определяет, что блокировать, на основе наиболее часто сообщаемых слов и фраз, отмеченных сообществом как оскорбительные. Ограничения по странам: вы можете показывать свою страницу пользователям в определенных странах или скрывать ее от пользователей в других странах. Если страны не указаны, ваша страница будет видна всем. Возрастные ограничения: если вы установите возрастное ограничение для своей страницы, пользователи младше указанного возраста не смогут видеть вашу страницу или ее содержимое. Черный список ключевых слов: скрытие комментариев, содержащих определенные слова, из вашей ленты. Предварительный просмотр тегов: просмотр тегов, которые пользователи добавляют к вашим публикациям, перед их появлением на Facebook. Блокировка: после блокировки пользователя он больше не сможет видеть ваши публикации в ленте, отмечать вашу страницу, приглашать вашу страницу на мероприятия или в группы, или начинать беседу с вашей страницей. Модерация комментариев в папке "Входящие": управление модерацией комментариев для папки "Входящие" из Meta Business Suite.

Твиттер

Социальная сеть Twitter имеет политику приостановки аккаунтов. В период с августа 2015 года по декабрь 2017 года было приостановлено более 1,2 миллиона аккаунтов за распространение террористического контента в целях сокращения числа последователей и объема материалов, связанных с организацией «Исламское государство». После приобретения Twitter Илоном Маском в октябре 2022 года правила в отношении контента были смягчены на всей платформе в попытке отдать приоритет свободе слова. Однако результаты этой политики ставятся под сомнение.

Модерация коммерческого контента

Коммерческая модерация контента — термин, предложенный Сарой Т. Робертс для описания практики "мониторинга и проверки пользовательского контента (UGC) для социальных медиа-платформ всех типов с целью обеспечения соответствия контента юридическим и нормативным требованиям, правилам сайта/сообщества, пользовательским соглашениям, а также нормам вкуса и приемлемости, принятым на данном сайте и в его культурном контексте". Если раньше эта работа могла выполняться добровольцами в онлайн-сообществах, то для коммерческих веб-сайтов она в основном осуществляется посредством аутсорсинга специализированным компаниям, часто расположенным в регионах с низкой заработной платой, таких как Индия и Филиппины. Аутсорсинг задач по модерации контента возрос в связи с бумом социальных сетей. С огромным увеличением числа пользователей и UGC компаниям потребовалось значительно больше сотрудников для модерации контента. В конце 1980-х и начале 1990-х годов технологические компании начали передавать рабочие места в зарубежные страны, располагающие образованной рабочей силой, но готовые работать за низкую плату. С 2010 года сотрудники выполняют работу, просматривая, оценивая и удаляя шокирующий контент. В 2014 году Wired сообщила о возможности нанесения психологического вреда. В 2017 году Guardian сообщила о возникновении вторичной травмы с симптомами, схожими с посттравматическим стрессовым расстройством (ПТСР). Некоторые крупные компании, такие как Facebook, предоставляют психологическую поддержку. В 2019 году NPR назвала это профессиональным риском.

Фейсбук

Facebook решил создать совет по надзору, который будет решать, какой контент останется, а какой будет удален. Эта идея была предложена в конце 2018 года. Этот "Верховный суд" в Facebook призван заменить принятие решений в порядке исключения. На крупной платформе с достаточно большой активной аудиторией это обычно работает эффективно, поскольку относительно небольшое число нарушителей отсеивается голосами остального сообщества. Модерация, осуществляемая пользователями, также может быть реактивной. Этот тип модерации предполагает, что пользователи платформы или сайта сообщают о контенте, который они считают неуместным или нарушающим стандарты сообщества. В этом процессе, когда пользователи сталкиваются с изображением или видео, которое они считают неприемлемым, они могут нажать кнопку "Сообщить". Жалоба регистрируется и помещается в очередь для рассмотрения модераторами.