The Insider: ФБР объявило об уничтожении российской ботофермы в Twitter. Ее координировали офицеры ФСБ

Минюст США сообщил об операции, в ходе которой правоохранительные органы США раскрыли ботоферму, распространяющую дезинформацию. В ходе нее были изъяты два доменных имени и 968 аккаунтов в Twitter. Аккаунты использовались для распространения пропагандистских фейков, по формулировке американского Минюста, «соответствующих целям российского правительства», в США, Польше, Германии, Нидерландах, Испании, Украине и Израиле. Для их создания использовались инструменты «искусственного интеллекта»: текст постов и приложенные изображения генерировались с помощью нейросетей. За схемой стояли неназванные сотрудники Russia Today и ФСБ. ФБР удалось установить их личности благодаря тому, что организаторы и координаторы ботофермы не озаботились анонимностью и выдали свои настоящие номера телефонов, IP-адреса и адреса электронной почты.
Фото: Marten Bjork / Unsplash

Читать оригинал

Заслуженные мелиораторы «России сегодня»

В ФБР в ходе расследования пришли к выводу, что руководитель департамента цифровых медиа телеканала Russia Today (его имя не называется в показаниях, которые агент ФБР дал в суде) предложил в начале 2022 года организовать ботоферму, которая рассматривалась как новый канал распространения информации RT. Вероятно, это решение было связано с блокировками ресурсов RT в Европейском союзе и США в феврале–марте того года после начала полномасштабного вторжения России в Украину. Указанный топ-менеджер RT вызвался руководить разработкой программного обеспечения для создания ботофермы и наполнения ее аккаунтов контентом. Разработка программы для нее велась непосредственно в департаменте цифровых медиа RT. Программа получила название «Мелиоратор».

С помощью «Мелиоратора» его операторы («бригадиры» в терминологии программы) могли:

• создавать огромное количество фейковых аккаунтов в социальных сетях, причем эти аккаунты выглядели как аутентичные пользователи;
• публиковать контент, неотличимый от контента настоящих пользователей;
• распространять фейки, которые были ранее опубликованы другими ботами;
• увеличивать охват уже существующих фейков, чтобы усиливать их вредоносное влияние;
• автоматически создавать сообщения, основываясь на теме и фейковой «персоне» бота.

Ботов внутри программы назвали «душами», а идеи, которые они распространяли, — «мыслями». ФБР приводит фрагменты кода, который использовался для автоматизации ботофермы. В нем, в частности, показано, как именно осуществлялся вход в социальную сеть и публиковались посты от имени «мертвых душ».

Посты, юзерпики и иллюстрации в профилях ботов были сгенерированы с помощью библиотеки Faker. Обычно эта библиотека используется, когда разработчикам приложений или сайтов нужно сгенерировать искусственные данные для тестирования программного обеспечения.

ФБР указывает, что, хотя «Мелиоратор» применялся, по всей видимости, только для распространения фейков в Twitter, теоретически у него были возможности и для распространения дезинформации в других социальных сетях.

Для работы «Мелиоратора» был приобретен домен mlrtr.com. На нем, в частности, разместили панель управления для «бригадиров». Человек, на которого был зарегистрирован домен, представился жителем Литвы Миланом Блохиным, однако это имя, скорее всего, выдуманное. Он пытался всячески скрыть, что находится в России, но агенту ФБР удалось его вычислить. Дело в том, что, покупая доменное имя, он указал свежесозданную почту на платформе Gmail. Создавая почту и покупая доменное имя, он пользовался литовским VPN, однако логинился в свою почту и без VPN, со своего московского оператора связи.

Корпорация Google передала информацию об этом агенту ФБР, а также сообщила, что при регистрации человек вводил свое имя кириллицей. Для восстановления аккаунтов предполагаемый сотрудник RT указал почту на сервисе Yandex и российский номер телефона, а в качестве платежной информации — аккаунт в сервисе Qiwi, зарегистрированный в России. Этот номер телефона и почта на Yandex позволили ФБР более точно установить личность этого человека, так как они существовали и использовались давно. Имя человека ФБР не раскрывает, так как следствие продолжается.

В дело вступает ФСБ

Согласно информации ФБР, в начале 2023 года сотрудник ФСБ с одобрения Администрации президента России создал «частную расследовательскую организацию» и получил от нее финансирование. В ней работали руководитель департамента цифровых медиа телеканала Russia Today, другие сотрудники его департамента и иные сотрудники ФСБ. Созданная офицером ФСБ компания стала «оказывать расследовательские услуги» телеканалу Russia Today, однако это было лишь прикрытием для их совместной работы над ботофермой. По мнению американских спецслужб, в ходе этого сотрудничества создатели ботофермы получали от ФСБ указания о том, какие именно кампании по дезинформации проводить. Их целью было «посеять раздор в США», считает агент ФБР.

В частности, американские правоохранительные органы полагают, что по наводке из ФСБ боты стали публиковать видео, которые оправдывали российское вторжение в Украину, цитировали Владимира Путина и критиковали американскую политику в отношении Украины и Израиля. При этом они, как правило, притворялись жителями США.

ФБР установило, что в операции по распространению фейков были задействованы как минимум 968 Twitter-аккаунтов, зарегистрированных с июня 2022 года по март 2024-го. Установить эти аккаунты оказалось несложно: агент ФБР направил в управляющую Twitter компанию X Corp запрос об адресах регистрации нескольких аккаунтов, распространявших фейки в соцсети, и оказалось, что все они зарегистрированы на почтовые адреса на одном и том же домене — mlrtr.com. На тот момент агент уже знал, что домен был зарегистрирован из Москвы сотрудником Russia Today.

В итоге ФБР выписало ордер на предоставление данных о других аккаунтах, зарегистрированных на почтовые адреса на том же домене, а также на домене otanmail.com, который был куплен тем же человеком, якобы находящимся в Литве (а на самом деле — в Москве). Американское ведомство опубликовало все почтовые адреса, которые были связаны с сетью ботов, даты их регистрации, а также постановило, что X Corp обязана заморозить эти аккаунты и предоставить ФБР сведения об их владельцах.

Илон Маск против ботов

Все Twitter-аккаунты, в отношении которых ведется расследование, были зарегистрированы на однотипные адреса. Несмотря на это, в соцсети, по всей видимости, не считали, что аккаунтами оперирует ботоферма. Американский бизнесмен Илон Маск, купивший Twitter в апреле 2022 года, назвал борьбу с ботами своей главной целью. Однако, по данным исследователей, за полтора года фейковых аккаунтов на платформе стало только больше. Опрошенные The Insider эксперты также сошлись во мнении, что в первый же год управления компанией Илоном Маском ботов и дезинформации в соцсети стало больше, чем за всю историю наблюдений.

В заявлении Совместной рабочей группы по кибербезопасности, в которую входят ФБР, спецслужбы Канады, Нидерландов и других стран, приводится фрагмент кода «Мелиоратора», позволяющий обходить процедуру верификации пользователей Twitter (он занимает всего несколько строк). Таким образом координаторам ботофермы удавалось регистрировать сотни аккаунтов и управлять ими. Совместная рабочая группа призвала социальные сети противостоять подобным атакам — в частности, прикладывать больше усилий для верификации и модерации пользователей.

В апреле 2024 года X Corp опубликовала очередной отчет о прозрачности. В нем она сообщила, что с октября 2023 года по 31 марта 2024-го платформа удалила 115 и приостановила 26,5 тысячи аккаунтов с «фейковыми идентичностями».

В декабре 2023 года Евросоюз начал проверку X Corp в связи с распространением дезинформации, однако о каких-либо результатах этой проверки до сих пор неизвестно. В мае 2024 года компанию попросили уточнить подробности процедур модерации на платформе.

The Insider уже рассказывал о связанной с Кремлем сети ботов Doppelgänger, использующей Twitter в качестве основной площадки для распространения фейков на разных языках. Аналитики проекта «Блокировщик Ботов / antibot4navalny» подсчитали, что ее охват на начало июня составлял более 1,6 млн пользователей в сутки.

В мае компания OpenAI (разработчик самых популярных нейросетей для генерации текстового контента) сообщила о «срыве тайных операций влияния», за которыми стоят Россия и ряд других стран. Пользователи Twitter неоднократно замечали, что кремлевские боты пользуются ChatGPT, продуктом OpenAI, для генерации контента. Это становится известно, когда на их аккаунтах заканчиваются оплаченные запросы и вместо фразы якобы настоящего человека аккаунт публикует автоматизированное сообщение о необходимости пополнить счет. Впрочем, организация NewsGuard, специализирующаяся на борьбе с дезинформацией, установила, что российские боты пользуются всеми популярными сервисами для генерации текстов и изображений. В частности, это Grok (разработка компании Илона Маска), Copilot (Microsoft), Meta AI, Gemini и другие.

«Информационная война — можно и повеселиться»

Результаты опубликованного ФБР расследования подтверждают техническую связь Russia Today с ботофермой в Twitter. Однако главный редактор RT Маргарита Симоньян и не скрывала, что сотрудники ее телеканала занимаются созданием ботов. По всей видимости, именно вскрытую ФБР схему она описала в передаче «Жизнь и судьба» на канале «Россия» в феврале 2024 года:

«Мы создаем большое количество информационных источников, которые не связаны с нами. И пока ЦРУ докапывается, что они связаны с нами, у них [этих источников] уже огромная аудитория. Иногда докапываются, схлопывают. Бывает, просыпаешься утром — у тебя 600 каналов сразу закрыты. Но пока они их закрывают, мы уже новые сделали. Вот такая у нас беготня продолжается друг за другом все это время — это даже весело. Война — это не весело, а вот информационная война — можно и повеселиться».

В этом же интервью пропагандистка упомянула, что американские спецслужбы в 2017 году пришли к выводу об участии ее и телеканала RT в российском вмешательстве в выборы в США и что с тех пор она «отдыхает только дома, никуда не ездит на всякий пожарный».

Оригинал