Кіріспе
Қажетсіз жазбаларды сұрыптау жүйесі
Интернетте пайдаланушыларды пікір қалдыруға шақыратын сайттарда мазмұнды модерациялау – пайдалы немесе ақпаратты жазбалардан өзгеше, мағынасыз, ұятты, заңға қайшы, зиянды немесе қорлаушы жазбаларды анықтау процесі. Бұл көбінесе цензура немесе қарсы пікірлерді жою мақсатымен жасалады. Мазмұнды модерациялаудың мақсаты – проблемалық мазмұнды жою немесе ескерту белгісі қою, сондай-ақ пайдаланушыларға мазмұнды өздері бұғаттап, сүзуге мүмкіндік беру. Кейбір сайттар мазмұнын жарнамаларға ыңғайлы етуі керек. 2021 жылы Фрэнсис Хаугеннің мәлімдемесіне сәйкес, Facebook-та мазмұнды модерациялауға жауапты қызметкерлердің саны өте аз болған. Егер сізде Facebook-та жаңа парақшаңыз болса, келесі модерация параметрлерін басқара аласыз:
Пікірлерді реттеу: Ашық жазбаларыңыздағы ең маңызды пікірлерді бірінші болып көріңіз. Науқан сөздерді сүзгілеу: Парақшаңыздағы ұятты сөздерді блоктауға бола ма және қаншалықты блоктауға болатынын таңдаңыз. Facebook қоғамдық пікір бойынша ұятты деп белгіленген, ең көп хабарланған сөздер мен тіркестерді пайдаланып, қандай сөздерді блоктау керектігін анықтайды. Елдік шектеулер: Парақшаңызды белгілі бір елдердегі адамдарға көрсетуді немесе басқа елдердегі адамдардан жасыруды таңдаңыз. Егер елдер тізімде болмаса, парақшаңыз барлығына көрінеді. Жас шектеулері: Парақшаңызға жас шектеуін қойсаңыз, одан кіші жастағы адамдар парақшаңызды немесе оның мазмұнын көре алмайды. Кілт сөздерді блоктау тізімі: Уақыт желісіңіздегі белгілі бір сөздерді қамтитын пікірлерді жасыру. Тегтерді қарау: Тегтер Facebook-та пайда болғанға дейін жазбаларыңызға қосылған тегтерді қарау. Блоктау: Біреуді блоктасаңыз, ол сіздің уақыт желісіңіздегі жазбаларыңызды көре алмайды, парақшаңызды тегтей алмайды, парақшаңызды іс-шараларға немесе топтарға шақыра алмайды немесе парақшаңызбен әңгіме бастай алмайды. Хабарламалар бөліміндегі пікірлерді басқару: Meta Business Suite-тен хабарламалар бөліміндегі пікірлерді басқару.
Твиттер
Twitter әлеуметтік желісінің аккаунттарды тоқтату саясаты бар. 2015 жылдың тамызынан 2017 жылдың желтоқсанына дейін аралықта «Ислам мемлекеті» тобымен байланысты контентті және оның таралуын азайту мақсатында террористік мазмұнға байланысты 1,2 миллионнан астам аккаунт тоқтатылды. 2022 жылдың қазанында Илон Маск Twitter-ді сатып алғаннан кейін, сөз бостандығын басымдыққа қою үшін платформадағы контент ережелері жеңілдетілді. Дегенмен, бұл шараның нәтижелері күмәнді.
Коммерциялық мазмұнды модерациялау
Коммерциялық контентті модерациялау – Сара Т. Робертс әлеуметтік желілердің барлық түрлері үшін пайдаланушы жасаған контентті (UGC) заңдық және нормативтік талаптарға, сайт/қоғамдық ережелерге, пайдаланушылық келісімдерге сәйкес келеді және сол сайттың мәдени контекстіндегі талғам мен қабылдану нормаларына сай екенін қамтамасыз ету мақсатында бақылау және тексеру практикасын сипаттау үшін қолданған термин. Бұрын бұл жұмыс онлайн қоғамдастықтағы еріктілермен жасалса, коммерциялық веб-сайттар үшін бұл көбінесе мамандандырылған компанияларға аутсорсинг арқылы жүзеге асырылады, көбінесе Үндістан және Филиппин сияқты жалақысы төмен аймақтарда. Әлеуметтік желілердің өркендеуі контентті модерациялау жұмыстарын аутсорсингке беруге ықпал етті. Пайдаланушылар мен UGC-нің үлкен өсуі компанияларға контентті модерациялау үшін көптеген қызметкерлерді қажет етті. 1980-жылдардың соңы мен 1990-жылдардың басында технологиялық компаниялар білімді жұмыс күшіне ие, бірақ арзан бағаға жұмыс істеуге дайын шетелдік елдерге жұмыс орындарын аутсорсингке беруді бастады. 2010 жылдан бері қызметкерлер мазасыздық тудыратын контентті қарап, бағалап, жою арқылы жұмыс істейді. 2014 жылы Wired журналы олардың психологиялық зардап шегуі мүмкін екенін хабарлады. 2017 жылы Guardian журналы екіншілік жарақаттардың, ПТСР-ге ұқсас белгілермен пайда болуы мүмкін екенін жариялады. Кейбір ірі компаниялар, мысалы Facebook, психологиялық қолдау ұсынады. 2019 жылы NPR бұл жұмыстың қаупі екенін мәлімдеді.
Facebook желісі
Facebook қандай мазмұн сақталады және қандай мазмұн жойылады деп шешетін бақылау кеңесін құруға шешім қабылдады. Бұл идея 2018 жылдың соңында ұсынылған. Facebook-тағы "Жоғарғы сот" уақытша шешімдер қабылдаудың орнына жүйелі тәртіппен жұмыс істеуге арналған. Көптеген белсенді пайдаланушылары бар ірі сайттарда мұндай жүйе жақсы жұмыс істейді, себебі қоғамның көп бөлігінің дауысымен тәртіпсіздік тудырушылардың аз ғана саны анықталады. Пайдаланушылардың модерациясы реактивті модерация түрімен сипатталады. Бұл модерация түрі платформа немесе сайттың пайдаланушыларына қоғамдық стандарттарға қайшы келетін және қолайсыз мазмұнды хабарлауға мүмкіндік береді. Осы процесте пайдаланушыларға ұнамайтын сурет немесе бейнеге тап болғанда, олар шағымдану батырмасын басады. Шағым тіркеліп, модераторлардың қарауына жіберіледі.