Социалната видео мрежа TikTok съзнателно е ограничавала разпространението на видеоклипове от хора с увреждания, показват вътрешни правила за модериране, до които е получил достъп германският сайт Netzpolitik.org. Според документите TikTok и хората с увреждания са попаднали в категорията на потребителите, „силно уязвими на кибертормоз“, а видеата им са били скривани от широката публика. Компанията признава, че е прилагала такава политика, но твърди, че тя е била временна мярка срещу тормоза и отдавна е заменена.
Какво разкриват изтеклите правила на TikTok
Разследването на Netzpolitik.org, публикувано на 2 декември 2019 г., се основава на изтекли насоки за модераторите и на разговори с източник в компанията. Правилата са в раздел, озаглавен „Изображения на човек, силно уязвим на кибертормоз“. Като примери са посочени хора с обезобразяване на лицето, аутизъм и синдром на Даун – тоест потребители, които модераторите е трябвало да разпознаят само по това как изглеждат във видеото. Според източника за всеки клип модераторите са разполагали с около половин минута, за да преценят дали авторът му попада в тази група.
Как работят ограниченията „Risk 4“ и „Auto R“
Видеата, отбелязани с „Risk 4“, са били видими само в страната, в която са качени. Така потребител, който иначе има шанс да достигне до глобална аудитория, на практика остава затворен в локалния сегмент на приложението. Вторият маркер, наречен „Auto R“, засяга клипове, които вече са събрали между около 6000 и 10 000 гледания. След този праг те спират да се препоръчват в емисията „За теб“ (For You) – основния механизъм, чрез който съдържанието в TikTok става вирусно.
Особено проблематичен е отделен списък със „специални потребители“. Според документите в него са били включени 24 профила, сред които хора с наднормено тегло, които уверено се показват пред камерата, както и ЛГБТ потребители – например такива с дъгово знаме в биографията си. За тях ограничението е било прилагано по подразбиране, независимо от съдържанието на конкретното видео. Документите показват, че правилата са били в сила поне до септември 2019 г.
TikTok и хората с увреждания: защита или дискриминация
Обявената цел на политиката е била да предпази уязвимите потребители от подигравки и тормоз в коментарите. На практика обаче ефектът е обратен: вместо да бъдат санкционирани хората, които тормозят, „наказани“ са били вероятните жертви, чиито видеа просто не достигат до публика. Критиците посочват и друг проблем – увреждането или сексуалната ориентация трудно може да се определи коректно по кратък клип или профил, което оставя широко поле за грешки и предразсъдъци. Според източника на Netzpolitik.org служители са изразявали несъгласие с правилата, но решенията са били вземани основно от ръководството в Пекин.
Модерацията за европейския пазар по това време е била разпределена между екипи в Берлин, Барселона и Пекин. Случаят показва колко непрозрачен остава алгоритъмът на TikTok, който решава какво да види всеки потребител, и колко сериозни последици могат да имат човешките решения зад него за хората, които създават съдържание.
Какво отговаря TikTok
Говорител на компанията заявява пред Netzpolitik.org, че правилата са въведени в ранен етап в отговор на увеличения тормоз в приложението и „никога не са били предназначени да бъдат дългосрочно решение“. „В началото приложихме груба и временна политика. Макар намерението да беше добро, подходът беше погрешен“, казва говорителят пред американски медии, като уточнява, че по-ранната политика отдавна е заменена с по-нюансирани правила срещу тормоза и с допълнителни инструменти за защита в приложението. TikTok обаче не отговаря на въпросите кога точно правилата са спрени и дали при създаването им са били консултирани организации на хора с увреждания.
Поредна критика към модерацията в TikTok
Това не е първият случай през 2019 г., в който правилата за модериране на TikTok попадат под обстрел. През септември The Guardian публикува изтекли насоки, според които платформата е ограничавала съдържание по теми, неудобни за Пекин, като площад Тянанмън и независимостта на Тибет. Компанията тогава също заяви, че става дума за стари правила, които вече не се прилагат. Приложението е собственост на китайската ByteDance и вече е обект на засилено внимание от страна на американски законодатели, а през февруари 2019 г. Федералната търговска комисия на САЩ наложи глоба от 5,7 млн. долара заради събиране на данни на деца чрез предшественика му Musical.ly.
За потребителите историята е напомняне, че видимостта в социалните мрежи не зависи само от качеството на съдържанието, а и от правила, които обикновено остават скрити. Повече новини за социалните мрежи следете в рубриката Социални платформи, а за друга важна промяна при големите платформи прочетете как Facebook започва да прехвърля снимки директно в Google Photos.
Тази статия е публикувана първоначално в СмартМакс на 3 декември 2019 г. и е възстановена от архива на сайта. Информацията отразява известното към датата на публикуване.
