Как фейковая сеть продвигает прокитайскую пропаганду

Согласно новому исследованию, разрастающаяся сеть из более чем 350 фальшивых профилей в социальных сетях продвигает прокитайские нарративы и пытается дискредитировать тех, кого считают противниками правительства Китая.
Цель состоит в том, чтобы делегитимизировать Запад и повысить влияние и имидж Китая за рубежом, говорится в отчете Центра информационной устойчивости (CIR).
Исследование, опубликованное BBC, показало, что сеть фальшивых профилей распространяла яркие карикатуры, изображающие, среди прочего, изгнанного китайского магната Го Вэнгуя, откровенного критика Китая.
Среди других спорных фигур, изображенных в карикатурах, были ученый-разоблачитель Ли-Мэн Янь и Стив Бэннон, бывший политтехнолог Дональда Трампа.
Каждый из этих людей был обвинен в распространении дезинформации, в том числе ложной информации о Covid-19.
Некоторые из учетных записей — распространенные через Twitter, Facebook, Instagram и YouTube — используют поддельные изображения профиля, созданные искусственным интеллектом, в то время как другие, похоже, были взломаны после предварительной публикации на других языках.
Нет никаких конкретных доказательств того, что сеть связана с правительством Китая, но, согласно CIR, некоммерческой группе, которая работает над противодействием дезинформации, она напоминает прокитайские сети, ранее подавленные Twitter и Facebook.
Эти сети усиливали прокитайские нарративы, подобные тем, которые продвигают китайские государственные представители и государственные СМИ.
Большая часть контента, распространяемого в сети, сосредоточена на США и, в частности, на вызывающих разногласия вопросах, таких как законы об оружии и расовая политика.
В одном из рассказов, продвигаемых сетью, говорится, что в США плохо с соблюдением прав человека. В сообщениях фейковых аккаунтов в качестве примеров приводится убийство Джорджа Флойда, а также дискриминация азиатов.
Некоторые источники неоднократно отрицают нарушения прав человека в регионе Синьцзян, где, по словам экспертов, Китай задержал не менее миллиона мусульман против их воли, называя эти обвинения «ложью, сфабрикованной Соединенными Штатами и Западом».
«Цель сети, похоже, состоит в том, чтобы делегитимизировать Запад путем усиления прокитайских нарративов», — сказал Бенджамин Стрик, автор отчета CIR.
Есть сильное сходство между этой сетью и так называемой пропагандистской сетью «Дракон спамуфляжа», выявленной компанией Graphika, занимающейся социальной аналитикой.
Комментируя новое исследование, Ира Хуберт, старший аналитик Graphika, сказала: «Отчет показывает, что на американских платформах в первые месяцы правления Байдена не было «медового месяца».
«Сеть постоянно смешивала антиамериканский контент, например, приветствуя «поражение» США перед их уходом из Афганистана и изображая США плохим союзником, чья помощь Индии была недостаточной в течение некоторых из худших месяцев борьбы с Covid».
Как была обнаружена сеть?
CIR сопоставил хэштеги, одобренные ранее идентифицированными сетями, обнаружив больше учетных записей, которые показали признаки участия в операции влияния.
Контрольные признаки включали высокий уровень активности, продвигающий пропагандистские нарративы, и неоднократное использование одних и тех же хэштегов. Вновь созданные учетные записи, учетные записи с именами пользователей, которые, казалось, были сгенерированы случайным образом, и учетные записи с очень небольшим количеством подписчиков также вызвали тревогу.
Некоторые профили были созданы для публикации оригинального контента, в то время как другие делились, лайкали и комментировали эти оригинальные публикации, чтобы помочь им охватить более широкую аудиторию.
Этот вид деятельности часто называют «астротурфингом», потому что он призван создать видимость кампании на низовом уровне.
Во многих фальшивых профилях использовались фотографии, созданные искусственным интеллектом — относительно новое явление, которое позволяет компьютерам создавать реалистичные изображения людей, которых не существует. В отличие от украденных изображений профилей реальных людей, изображения, сгенерированные ИИ, которые создаются с помощью типа фреймворка машинного обучения под названием StyleGAN, не могут быть отслежены с помощью обратного поиска изображений.
Использование поддельных изображений профиля в кампаниях по дезинформации становится все более распространенным, поскольку пользователи и платформы все больше опасаются подозрительных учетных записей.
CIR использовала различные методы для выявления поддельных изображений профиля в сети. Синтетические изображения всегда помещают глаза в одно и то же место, поэтому объединение их всех может помочь идентифицировать коллекцию поддельных изображений профиля.
Обычно случайный набор изображений профиля отображает гораздо больше разнообразия в кадрировании и выравнивании глаз.
Другие признаки включают размытые края вокруг волос, зубы под странным углом и размытые объекты вокруг лица.
Многие учетные записи Facebook, которые, как считается, были частью сети, имели турецкие имена. Эти учетные записи, возможно, когда-то принадлежали реальным людям, но позже были похищены или проданы, и им были предоставлены новые изображения профиля.
Взломанные аккаунты также распространяют прокитайские нарративы сети на YouTube. Аккаунты, которые ранее публиковались на английском или немецком языке, а затем бездействовали в течение многих лет, внезапно начали публиковать контент на китайском языке от официальных китайских государственных телеканалов.
CIR поделился своим исследованием с вовлеченными платформами социальных сетей.
Facebook удалил учетные записи на своей платформе, указанные в исследовании.
Представитель Facebook сказал: «В сентябре 2019 года мы удалили сеть рассылки спама, в которой публиковались образы жизни и политические кликбейты, в основном на китайском языке. Эта сеть почти не использовала нашу платформу, и мы продолжаем работать с исследователями и коллегами по отрасли, чтобы обнаруживать и блокировать их попытки вернуться, как аккаунты, упомянутые в этом отчете».
YouTube также заблокировал аккаунты в сети за нарушение принципов сообщества YouTube.
Twitter заявил, что теперь он удалил почти все учетные записи, идентифицированные CIR, а также ряд других, которые вели подобное поведение. Он сказал, что его расследование все еще продолжается.
«Когда мы идентифицируем информационные кампании, которые мы можем достоверно отнести к деятельности, связанной с государством — как внутри страны, так и из-за рубежа, — мы раскрываем их в нашем публичном архиве».
За последнее десятилетие миллиарды долларов были потрачены на финансирование роста присутствия Китая на международных площадках.
Но из-за того, что Facebook, Twitter и YouTube заблокированы на материке и доступны только через VPN, страна изо всех сил пытается добиться признания таких платформ жизнеспособными конкурентами западным гигантам. Чтобы показать, что страна «прибыла», нужны были не только голоса китайцев, но и голоса других стран.
Возникла «дипломатия воинов-волков», когда официальные лица используют аккаунты в Твиттере, чтобы поднять знамя риторики коммунистической партии. Китай хочет изобразить себя другом мира, а не репрессивным авторитарным государством, как его воспринимают западные страны.
Имея более одного миллиарда интернет-пользователей, Китай, безусловно, имеет возможность организовать крупномасштабные кампании в социальных сетях и нацелить на то, что он считает антикитайскими голосами, множество противоположных мнений.
Но поскольку в Китае уровень владения английским языком ограничен, часто появляются неуклюжие контрольные признаки того, что за такими аккаунтами стоит китайский тролль. Многие полагаются на программное обеспечение автоматического перевода, чтобы преобразовать китайские сообщения на английский, то есть такие сообщения пронизаны опечатками или содержат неуклюжие грамматические структуры.
А поскольку многие западные торговые точки недоступны для них в Китае, пользователи, как правило, очень мало знают о том, на кого они должны нацеливаться, поэтому они просто совмещают ответы других из той же сети.