Кога Фејсбук одредува што смеете да пишувате

Во конференциската сала, во своите простории во Калифорнија, Фејсбук се занимава со омразата и дезинформациите ширум светот и тоа – објава по објава. Оваа компанија ја обвинуваат дека ја поткопува декократијата и предизвикува крвопролевања. Но, за Фејсбук тоа е и деловен проблем.

Компанијата која заработува по пет милијарди долари секои три месеци во годината мора да докаже дека сериозно ја сфатила задачата за отстранување на опасните содржини. Исто така, треба да привлече уште повеќе корисници од што повеќе земји. Како Фејсбук успева да ги надгледува милијардите објави дневно на повеќе од 100 јазици, а тоа да не го попречува ширењето на компанијата? Решението е мрежа на работници која користи PowerPoint слајдови на кои е истакнато што е забрането.

Секој втор вторник наутро, неколку десетици вработени во Фејсбук се собираат да разгледаат што ќе им кажат на корисниците дека им е дозволено. А корисници имаат над две милијарди. Потоа упатствата ги испраќаат до модераторите ширум светот.

Тајните правила се обемни и поради нив компанијата е далеку помоќен арбитер во глобалниот дискурс, отколку што признава и самата. „Њујорк тајмс“ дошол до 1400 страници од правилникот на вработените. Во тие документи има бројни пропусти и грешки. Во некои држави, вработените дозволиле екстемистички говор, додека во други, цензурирале мејнстрим говор.

На модераторите во една прилика им било кажано да ги отстранат молбите со кои се бара собирање на парична помош за жртвите на вулканот во Индонезија, бидејќи еден од спонзорите на кампањата се наоѓал на списокот на забранети организации во Фејсбук. Во Мјанмар, грешка во документите овозможила со месеци да остане на платформата екстремистичка група обвинета за заговарање на геноцид. На модераторите во Индија, по грешка им било речено да отстранат коментари кои ја критикуваат религијата.

Вработените кои ги одредуваат насоките, главно млади инжинери и адвокати, се обидуваат комплексните прашања да ги сведат на едноставни правила. Потоа, компанијата ангажира аутсорс организации да управуваат со содржините, а тие најчесто вработуваат недоволно обучени работници. Тие модератори, од секунда во секунда, применуваат безброј правила на стотици постови.

Модераторите ги фрустрираат правилата закои велат дека се бесмислени, а кои понекогаш бараат од нив да не ги чепкаат објавите кои би можеле да предизвикаат насилство. „Се чувствувате како да сте убиле некого затоа што не сте реагирале“, вели еден од вработените.

Официјалните претставници на Фејсбук велат дека работат на ослободување на платформата од опасни објави. Моника Бикерт, директорка на менаџментот во Фејсбук вели дека целта е да се спречи штетата и дека компанијата доесга била повеќе од успешна во остварувањето на таа цел. „Совршенството не е можно“, истакнува таа.

„Станува збор за милијарди објави секој ден и постојано преку нашите технички системи, утврдуваме сè повеќе и повеќе потенцијални кршења на правилата. Дури и да се 99 отсто точни, ќе направите мноштво грешки“, објаснува Бикерт.

Насоките се сочинети од десетици PowerPoint презентации и табели во Exel. Насоките за утврдување на говор на омраза имаат 200 страници. Модераторите мора напамет да ги знаат списоците како оној за шесте „дехуманизирачки споредувања“, меѓу кои се наоѓа и споредбата на Евреите со стаорци.

Улога во јавната политика

Компанијата сè повеќе се занимава со регулирање на политичкиот говор. Во САД, Фејсбук ги забрани „Гордите момчиња“, десничарска протрамповска организација.
„Улогата на Фејсбук стана хегемонистичка и монополистичка, во толкава мера што стана сила сам по себе“, вели Јасмина Мујановиќ, експерт за Балкан. „Ниту еден ентитет, особено не компанија каква што е Фејсбук не би смеел да има толкава моќ во обликувањето на јавниот дискурс и политиката“.

Во Индија, Чимнаји Арун, стрчњак за право, пронашол грешки. Еден слајд наведува дека индиските закони забрануваат повикување за независнот на Кашмир, но пак некои други правници сметаат дека не е така.
Слајдот им кажува на модераторите дека треба да обрнат внимание на фразата „Слободен Кашмир“, иако всушност таа фраза е легална. Фејсбук објаснува дека неговите модератори ги бришат постовите со таа реченица. Но дури и ова би можело да го обесхрабри активизмот.

„Работите експлодираат многу брзо“

А бидејќи ниту една влада или некое меѓународно тело сè уште не ги утврдило стандрадите, Фејсбук експериментира сам. „Многу работи би биле полесни кога трето лице би ни дало одговор“, вели Брајан Фишмен, експерт за антитероризам кој работи за Фејсбук. „Понекогаш работите експлодираат многу брзо и ние мора да одлучиме каква ќе биде нашата реакција, а немаме време за ОН“.

Резултатите честопати не се доследни што е очиглено по примерот на насоките за Балкан, каде засилувањето на национализмот се заканува да предизвика насилство. Документот со насоките за Балкан не е дополнет уште од 2016 година, а содржи и грешки. Ратко Младиќ, воен злосторник е означен како бегалец, иако беше уапсен уште во 2011 година.

Очигледно, слајдовите се пишувани за тие што зборуваат англиски, но се потпираат на Гугл преведувањето што покажува дека на Фејсбук му недостасуваат модератори кои зборуваат локален јазик и подобро го познаваат концептот на непожелен говор во дадената земја.

Список на забранети групи и поединци

Документот кој носи најмногу политички последици можеби е табелата на која се наведени сите групи или поединци што ги забранила компанијата. Модераторите се должни да ги отстранат сите објави кои го поддржуваат или претставуваа кој било од тој список.

Антон Шековтсов, експерт за десничарски организации вели дека бил „збунет од методологијата“. Компанијата забранила цела редица организации во Америка или Велика Британија, додека во државите во кои десницата може да биде далеку понасилна, како Русија или Украина, забранети се само неколку групи.

Се чини дека Фејсбук многу повеќе внимание обрнува на земјите во кои се соочува со притисок од владите. Во Германија се блокирани десетици десничарски групи, а во соседна Австрија само една.

Повлекување на вакви потези за една технолошка компанија е „екстремно проблематично“, вели Џонас Кајзер, експерт за онлјан екстремизам од Харвард. „Социјалните мрежи се наоѓаат во позиција да одлучуваат за работи за кои традиционално одлучуваат судовите“.

Поглед од паркот Менло

Политиката на Фејсбук во дело ја спроведуваат модератори во канцелариите на далечни локации како Мароко или Филипини. Модераторите наведуваат дека се под притисок да прегледаат илјадници објави дневно. Тоа значи дека во просек имаат по 10 секунди за една објава, а малку подолго кога станува збор за прегледување на видео содржини.
На некои модератори платата им зависи од тоа колку се брзи и точни. Многумина работат само по неколку месеци.

Еден од модераторите го спомнува правилото да се одобри секоја објава напишана на јазик кој никој не го разбира. Можно е тоа да допринело за насилството во Шри Ланка и Мјанмар, кадешто не се бришеле објавите кои повикувале на етничко чистење.

Она што би можело да придонесува за ширење на непожелна содржина на Фејсбук би можела да биде и самата социјална мрежа; платформата се потпира на алгоритам кој ја промовира најпровокативната содржина.
Дури и некои директори во компанијатане се сигурни како да одговорат на прашањето дали компанијата ја пронашла вистинската формула.

Нема одговор ниту на најфундаменталното прашање: која и каква содржина води директно кон насилство? Кога платформата ги влошува општествените тензии?

Роза Бирч, која го води кризниот тим вели дека се чувствува напредок, но дека компанијата никогаш нема да има дефинитивни одговори на овие прашања.
Во меѓувреме, компанијата успева да стигне до сè поголем број корисници.

Извор: The New York Times