По ряду причин соцсеть "Фейсбук" оказалась неспособной быстро удалять разжигающие ненависть посты на бирманском языке.
Теперь международные организации напрямую обвиняют ее в разжигании ненависти к мусульманам-рохинджа, что впоследствии привело к их изгнанию из Мьянмы.
"Боюсь, что "Фейсбук" теперь превратился в чудовище, хоть изначально компания совсем этого не хотела", - заметил специальный докладчик ООН по правам человека в Мьянме Янги Ли.
Компания Facebook признает неудачи и перешла к решению проблем. Но как ее мечта о том, чтобы построить более открытое и единое общество, провалилась в одной конкретной южноазиатской стране?
...И пришёл "Фейсбук"
"Сейчас все пользуются интернетом", - говорит Тет Свей Вин, директор организации Synergy, целью работы которой является гармонизация отношений между различными этническими группами в Мьянме.
Еще пять лет назад в стране все было иначе.
Внешнее влияние было сведено к минимуму в течение более чем 20 лет, пока у власти находились военные.
Когда в прошлом опальная правозащитница Аун Сан Су Чжи стала де-факто лидером Мьянмы, в стране многое изменилось: правительство начало либерализацию бизнеса, в том числе - сектора телекоммуникаций.
По словам Элизабет Марнс из благотворительного фонда при Би-би-си, перемены удивили своей скоростью.
"SIM-карта стоила около 200 долларов, - говорит Марнс. - Когда в 2013 году власти открыли рынок для международных телекоммуникационных компаний, SIM-карты упали в цене до 2 долларов. Все стало невероятно доступным".
[caption id="attachment_155427" align="aligncenter" width="624"]
В Мьянме "Фейсбук" стал для многих синонимом интернета[/caption]
После того, как люди стали массово покупать недорогие телефоны и дешевые симки, бирманцам резко понадобилось одно приложение - "Фейсбук".
Почему? Дело в том, что Google и некоторые другие крупные интернет-порталы не поддерживали бирманский алфавит, а у "Фейсбука" с этим проблем с самого начала не было.
"Покупая смартфоны с доступом в интернет, бирманцы выходят из салонов связи уже с фейсбучным приложением в телефоне", - отмечает Марнс.
Как говорит Тет Свей Вин, у не привыкших к цифровым технологиям жителей страны не было иммунитета к дезинформации и навыков безопасного пользования интернетом.
Межэтнические столкновения
Из 50 млн населения около 18 млн бирманцев являются постоянными пользователями "Фейсбука".
Но эта соцсеть и телекоммуникационные компании, которые открыли гражданам Мьянмы окно в мир, не учитывали сложную межэтническую и межконфессиональную обстановку в стране - по крайней мере, на первых порах.
Например, мусульмане-рохинджа не имеют бирманского гражданства, и многие представители буддийского правящего класса намеренно называют их бенгальцами.
Прошлогодняя военная операция в северо-западном штате Ракхайн, по словам правительства, была направлена на борьбу с боевиками.
Это привело к тому, что более 700 тысяч человек бежали в соседнюю Бангладеш: согласно ООН, это самый быстрорастущий кризис в мире.
В докладе ООН сказано, что генералитет бирманской армии должен быть привлечен к ответственности за преступления против человечности в Ракхайне. Но правительство Мьянмы отвергает все обвинения.
"Facebook как оружие"
Сочетание этнической напряженности и быстро развивающихся социальных сетей оказалось взрывным.
Тет Свей Вин пришел в ужас от постов, в которых он видел призывы к насилию над рохинджа.
В августе расследование Рейтер нашло более тысячи бирманских постов, комментариев и даже порнороликов, пронизанных ненавистью к рохинджа.
"Честно говоря, я думал, мы найдём не более пары сотен картинок", - говорит репортер Рейтер Стив Стеклоу, который работал над этой темой с бирманскими коллегами.
По словам Стеклоу, некоторые из материалов были чрезвычайно жестокими, и он даже спрашивал у других журналистов, не хотят ли они прервать работу над материалом.
"Когда я отправил материал в компанию Facebook, я написал предупреждение по электронной почте, что это очень тревожные вещи, которые следовало бы удалить", - говорит журналист.
В некоторых из собранных Рейтер постах о рохинджа говорилось как о собаках и свиньях.
"Это дегуманизация людей, - приходит в ужас Стеклоу. - Это путь к геноциду, некоторые из комментаторов мусульман за людей не держат".
Нехватка персонала
Все примеры, собранные агентством Рейтер, явно противоречат правилам соцсети "Фейсбук".
Все эти сообщения были удалены после расследования, хотя Би-би-си с тех пор удалось обнаружить другой подобный контент.
Так почему же в социальной сети не сразу поняли, что она используется для разжигания вражды?
Одна из причин, по мнению Марнса, Стеклоу и других, заключалась в том, что компания испытывала трудности с толкованием определенных слов.
[caption id="attachment_155432" align="aligncenter" width="624"]
Некоторые из ненавистников рохинджа мечтали, чтобы те утонули в море.[/caption]
Например, одно конкретное расистское оскорбление - "калар" - может быть весьма уничижительным термином, используемым в отношении мусульман, или же иметь другое, невинное значение.
В 2017 году корпорация внесла этот термин в список обсценной лексики, подлежащей удалению, но позже отозвала запрет из-за двойного значения слова.
Были также проблемы с программным обеспечением: многим пользователям мобильных телефонов в Мьянме непросто было отправить в компанию жалобу на оскорбительный контент.
Но была и гораздо более фундаментальная проблема - отсутствие модераторов, знающих бирманский язык.
Согласно Рейтеру, в 2014 году у компании был только один такой сотрудник, через год их стало четыре.
В настоящее время у компания уже 60 модераторов, а к концу этого года их число должно увеличиться до 100.
Тревожные звонки
После резкого роста бирманского сегмента "Фейсбука" компания получила несколько предупреждений от пользователей о том, что платформа используется для разжигания ненависти к рохинджа.
В 2013 году австралийский режиссер и автор документальных фильмов Эла Кэллан подняла вопрос на встрече с топ-менеджером Facebook.
В следующем году докторант Мэтт Шисслер также общался с сотрудниками компании, в результате чего некоторые посты были удалены.
А в 2015 году предприниматель Дэвид Мэдден отправился в штаб-квартиру Facebook в Калифорнии, чтобы рассказать руководству о разжигании ненависти в Мьянме.
"Их предупреждали много раз, - сказал Мэдден в беседе с Рейтер. - Это звучало яснее некуда, но они не предприняли необходимых шагов".
Удаление аккаунтов
Facebook не ответил на запросы Би-би-си, но с прошлого года компания предприняла некоторые меры.
В августе соцсеть удалила 18 учетных записей бирманских чиновников. Также была закрыта одна учетная запись в "Инстаграме".
[caption id="attachment_155433" align="aligncenter" width="624"]
Радикальные буддистские монахи тоже были заблокированы "Фейсбуком".[/caption]
Компания тогда сообщила об обнаружении доказательств того, что многие из этих лиц и организаций совершили серьезные нарушения прав человека в стране или потворствовали им.
На заблокированные страницы в общей сложности были подписаны почти 12 миллионов человек.
В январе был удален аккаунт радикального буддистского монаха-исламофоба Ашина Вирату.
"Слишком медленно"
Руководство компании Facebook признало, что в бирманском секторе соцсеть слишком медленно предотвращала дезинформацию и ненависть.
Тема разжигания ненависти на платформе снова стала актуальной в начале сентября, когда главный исполнительный директор корпорации Шерил Сандберг предстала перед сенатом США.
"Ненависть противоречит нашей политике, и мы принимаем решительные меры для ее устранения. Мы очень заботимся о гражданских правах", - утверждала она.
Когда в апреле перед конгрессом выступал основатель компании Facebook Марк Цукерберг, его спросили о событиях в Мьянме.
Он ответил, что помимо найма большего количества бирманских модераторов компания также работает с местными интернет-активистами для определения "конкретных показателей борьбы с ненавистью" на будущее.
Элизабет Марнс, считает, что, хотя "Фейсбук" в Мьянме сейчас находится под пристальным вниманием общественности, это лишь часть гораздо более широкой проблемы.
"Мы живём в мире, в котором контент в социальных сетях напрямую влияет на реальную жизнь людей. Это влияет на то, как люди голосуют. Это влияет на то, как люди ведут себя по отношению друг к другу, и это может порождать насилие и конфликты", - говорит она.
"Международное сообщество сейчас понимает, что необходимо просчитывать последствия применения технологий и понимать, что и как происходит в социальных сетях в разных странах", - резюмировала Марнс.
Российская служба BBC News