От президентските избори през 2016 г. Facebook е под обстрел заради лекотата, с която дезинформацията се разпространява в нейната платформа. Неотдавнашно разследване на „Ню Йорк Таймс“ хвърли светлина върху това как ръководството на компанията отклонява, отрича и тайно контраатакува критици, тъй като се стреми да прикрие степента на фалшивите новини, смущаването на изборите и тормоза, зараждащи нейната платформа.

Техническият гигант е в режим на контрол на щетите, откакто историята се счупи. След като отрече някои от обвиненията в разследването, Марк Зукърбърг заяви, че Facebook ще създаде „независим орган“, който да помогне за вземане на решения за модериране на съдържанието.

Зукърбърг и неговата компания трябва да разрешат истински парадокс: калибриране на нужното количество цензура на платформа, рекламирана като дигитално пространство на свободно изразяване и комуникация. Един от начините за решаване на тази дилема е да се възприеме различен подход към модерирането на съдържанието, който може да е плуване нагоре по течението спрямо долната линия на компанията.

Докато технологичните компании твърдят, че техните платформи за социални медии са отворени и неутрални, икономическите стимули за получаване на гледни точки, харесвания и споделяния често им пречат да виждат как се увеличават негативните страни на обществото в техните платформи. Дигиталните пространства могат да бъдат бастиони на свободата на словото, място за приятелите и семейството да поддържат връзка, но те също могат да бъдат играни за разпространение на дезинформация и политическа пропаганда.

Независимите органи, създадени в Силиконовата долина, често се фокусират прекалено много върху кода и не са достатъчни за ефективна умереност. Това, от което се нуждае от Facebook, са по-малко инженери, дизайнери и адвокати и повече мислители, които знаят как социалната динамика играе в дигиталния свят. Има нужда от хора, които изучават неща като раса, пол, лингвистика, култура в социалните медии и исторически движения.

Facebook трябва да постави редица учени на този независим орган.

Стипендията не е панацея за това как социалните медии раздуват политическите разделения и сътресения, но би помогнала на технологичните иноватори да вземат по-добри решения за това как да проектират своите платформи, за да възпрепятстват злоупотребите.

Може би Facebook би могъл да се бори с фалшиви профили, ако имаше хора, които разбират речевите модели. Ако компанията се консултира с експерти по културата на видеоигрите или груповата идентичност в чат стаи, може би това може да смекчи функцията за сортиране на племената и да възмути усилването на социалните медии. Може би Facebook би могъл да предвиди, че Русия ще използва съществуващия расизъм и мизогиния на нашето общество, ако хората с произход от афро-американски изследвания или джендър изследвания са били част от екипа за модериране.

Фейсбук трябва да говори с учени като Сара Т. Робъртс или Тарлетон Джилеспи, които изучават как модерирането на съдържанието оформя социалните медии. Safiya Noble ще им покаже как социалните неравенства и пристрастия се кодират в цифрови инструменти. Рамеш Шринивасан или Рената Авила биха могли да обяснят как културните пристрастия на Силиконовата долина влияят на света. Уитни Филипс би могла да даде представа как тролингът промени културата на интернет - и дори политиката. Изследванията на Джой Буоламини биха могли да помогнат на компанията да култивира култура на „алгоритмична отчетност“. И макар че би било горчиво лекарство за преглъщане, консултирането на критици като Jaron Lanier или Siva Vaidhyanathan може да бъде огромна стъпка към промяна на токсичния цикъл за обратна връзка, който платформата стимулира.

Към този списък биха могли да бъдат добавени много повече имена, но въпросът е, че Facebook трябва да гледа извън компютърните науки, за да се справи с належащите си проблеми.

Критиката на идеята академиците да подобрят Facebook главно произтича от бизнес модела на компанията, който се основава на увеличаване на ангажираността и свързване на потребителите с рекламодателите. За да заимстваме аналогия от Лание и бившия етичен дизайнер на Google Тристан Харис, можем да мислим за Facebook като за казино. Да, казината създават общителна атмосфера (ярки цветове, забавления на живо, храна и напитки, удобни мебели, богато украсени декори, редица игри и машини и т.н.), където хората могат да дойдат да се забавляват добре. Но не бива да забравяме, че казината са създадени така, че да улеснят една цел: да накарат хората да залагат пари. Въпреки че Зукърбърг твърди, че е „воден от чувството за цел да свързва хората и да ни сближава“, целта на Facebook като бизнес е да поддържа хората във Facebook. Възможно е наемането на преподаватели да не промени нищо.

Facebook има повече от 2,2 милиарда потребители - повече от населението на която и да е държава на планетата, но съществените решения за модериране се възлагат на външни изпълнители. Това, което виждат потребителите, се посредничи от онези, които вероятно нямат всеобхватно, културно специфично знание и аналитично обучение, за да направят този избор.

Независимо дали Facebook или която и да е друга социална медия е „неутрална платформа“ пропуска смисъла, защото светът, в който живеем, е всичко друго, но неутрален.

Facebook е бизнес и следователно по-тоталитарен в своята управленска структура, но правенето на модериране на съдържанието по-демократично може да помогне на Зукърбърг да вземе по-информирани решения. Независимо дали Facebook или която и да е друга социална медия е „неутрална платформа“ пропуска смисъла, защото светът, в който живеем, е всичко друго, но неутрален. Създаването на независим орган, който обединява експерти от различни среди, би помогнал на Facebook да се справи с дисонанса на предполагаемите ценности на своя основател и реалността как се използва платформата във все по-сложен свят.

Стипендията не е панацея за това как социалните медии раздуват политическите разделения и сътресения, но би помогнала на технологичните иноватори да вземат по-добри решения за това как да проектират своите платформи, за да възпрепятстват злоупотребите. Проблемите, предизвикани от технологията, не могат да бъдат решени само от технолозите. Facebook се нуждае от хора с подходяща експертиза, за да забелязват лица и правителства, които искат да злоупотребяват с неговата платформа. Академиците притежават уменията да забелязват определени социални модели, които A.I., алгоритмите и възложените на работа служители не могат.

Facebook не е единственият технологичен гигант, изправен пред критики. Платформи като Twitter са събрали собствения си дял от контрол. По същия начин, по който технологичните компании черпят от най-добрите технологични програми в света, решението на много от наболелите им проблеми може да дойде от наемането на хора, които разбират пресечните точки между човешкото социално поведение и технологии.