The Washington Post: Эти телеведущие ИГИЛ — фейки ИИ. А их пропаганда реальна
Перевод статьи The Washington Post
Через четыре дня после того, как в марте Исламское государство (ИГ, ИГИЛ) атаковало российскую концертную площадку «Крокус Сити Холл», на частной платформе, имеющей отношение к террористической группировке, стало распространяться видео. В 92-секундном эфире ведущий в шлеме и камуфляже заявляет, что нападение вовсе не было террористической операцией, а лишь частью «нормального контекста бушующей войны между ИГ и странами, борющимися с исламом».
Этот «ведущий» — фейк, сгенерированный искусственным интеллектом (ИИ) клон, созданный сторонниками ИГИЛ в рамках новой ИИ-медиа-программы под названием News Harvest, согласно видеозаписям и сообщениям из чатов, предоставленным The Washington Post группой SITE Intelligence Group, отслеживающей террористические и экстремистские движения в Интернете.
С марта источник почти еженедельно публикует видеоматериалы об операциях Исламского государства по всему миру. Программа, созданная по образцу катарской новостной передачи телеканала Al Jazeera, знаменует собой появление искусственного интеллекта в качестве мощного пропагандистского инструмента, пока штабы ИГ набирают обороты и восстанавливают работу команд СМИ — рассказывает Рита Кац, соучредительница разведывательной группы SITE.
«Для ИГИЛ искусственный интеллект означает изменение правил игры, — говорит Кац. — Для них это будет быстрый способ распространить, рассеять свои кровавые атаки, [чтобы] добраться почти до каждого уголка мира».
В начале этих передач показываются графический логотип и титры. На экране появляются ведущие новостей, созданные ИИ, в военной или официальной одежде, бежит строка новостей, а видеоролики показывают, как члены ИГИЛ выполняют террористические миссии. Ведущие зачитывают репортажи официальных СМИ Исламского государства, в том числе Al-Naba и Аmaq.
Эти видео уже демонстрируют некоторые первые признаки того, что искусственный интеллект помогает террористическим группировкам быстрее распространять пропаганду и вербовать новых членов — считают эксперты по террористическим СМИ, — и даже уже успели вызвать внутренние дебаты по поводу использования этих технологий в соответствии с исламским законом.
Исламское государство известно своей яркой активностью в СМИ, в рамках которой оно создает вербовочные видеоролики голливудского уровня, привлекающие молодежь. Генераторы видео, основанные на ИИ, теперь позволяют им создавать такой контент с совсем небольшим расходом усилий и средств. Несколько исламистских боевых группировок, включая Аль-Каиду, заявили о своей заинтересованности в использовании чат-ботов с искусственным интеллектом, генераторов изображений и инструментов клонирования голоса для быстрого создания дезинформации (согласно сообщениям, опубликованным в The Post).
По словам Кац, искусственный интеллект дает сторонникам и спонсорам ИГИЛ возможность создавать замаскированную пропаганду в безобидной форме, например, в формате новостного выпуска, что усложняет технологическим компаниям их регулирование. Дешевые и простые в использовании инструменты на основе ИИ позволяют создавать видеоролики быстро и бюджетно, и это идет на руку таким группировкам как ИГИЛ и Аль-Каида, которые были ослаблены военными атаками.
«Моджахеды медиа»
Сторонники Исламского государства рьяно стремятся использовать искусственный интеллект для пропаганды. 15 марта сторонник «Аль-Курди 500» обосновал на своем личном сервере-мессенджере, почему его товарищам-приверженцам следует пользоваться ИИ.
«Было бы здорово, если бы наши братья создавали видеоролики о ежедневных событиях в качестве альтернативы чтению текстовых новостей и просмотру изображений, — пишет Аль-Курди 500, — подобно таким новостным каналам как, например, Аль-Джазира».
«Технологии сильно развились, и сегодня было бы гораздо легче делать это, особенно с помощью ИИ, — добавляет Аль Курди 500. — СМИ так же важны, как и настоящая война, если не больше. Потому что они имеют очень большое влияние на людей».
Семь дней спустя после этого сообщения члены ИГИЛ убили по меньшей мере 133 человека в результате нападения на концертный зал в Подмосковье. Один сторонник экстремистской группировки по имени Хисад быстро мобилизовался и создал видео с помощью ИИ, и 26 марта он уже разместил первый выпуск News Harvest на частной мессенджер-платформе.
С момента теракта в России было опубликовано всего шесть выпусков News Harvest с обзорами недавних операций штабов ИГИЛ по всему миру, в том числе в Нигере, Камеруне, Ираке, Сирии и Нигерии. Неясно, какая конкретно технология ИИ используется, хотя некоторые сторонники в своих сообщениях призывают использовать «хорошее» программное обеспечение по искусственному интеллекту, такое как инструмент клонирования голоса от Eleven Labs — компании, занимающейся созданием аудио на базе искусственного интеллекта. (Eleven Labs не ответила на просьбу дать комментарий на этот счет.)
Стивен Сталински, исполнительный директор Ближневосточного института медиа-исследований (MEMRI), говорит, что эти выпуски не созданы официальным подразделением Исламского государства, и поэтому неясно, соответствуют ли они общей стратегии организации. Но, по его словам, он не удивится, если уже было учреждено специальное медиа-подразделение по искусственному интеллекту, поскольку ИГИЛ всегда быстро внедряет передовые технологии.
По сведениям Сталински, проигиловские СМИ уже ищут людей с навыками работы с ИИ. В сообщении от 23 апреля, полученном MEMRI, говорится, что одно из них привлекает экспертов по созданию плакатов, написанию статей и редактированию видео, владеющих Adobe Photoshop, Premiere и ИИ. «О моджахеды медиа, — говорится в сообщении. — СМИ ждут вашей атаки».
Другие исламистские военные структуры, такие как Аль-Каида, также активно обсуждают использование ИИ. 9 февраля одна группировка, связанная с Аль-Каидой, объявила, что начнет проводить онлайн-воркшопы по искусственному интеллекту. На следующий день эта группировка в партнерстве с другой дочерней организацией Аль-Каиды выпустила руководство под названием «Невероятные методы применения ИИ-чат-ботов» на 50 страниц, в котором был представлен базовый обзор ChatGPT от OpenAI, включая выдержки из таких изданий о ИИ как журнал Wired Magazine, переведенные на арабский язык — согласно документу, которым SITE Intelligence Group поделилась с The Post.
«ChatGPT — мощный инструмент, — говорится во введении к руководству. — Итак, давайте разберемся: что же можно делать с этим инструментом?»
Сталински говорит, что технологические компании, где сторонники ИГИЛ распространяют свой контент (например, платформы безопасного обмена сообщениями Rocket.Chat, Telegram и X), плохо справляются с удалением материалов исламистских боевиков. По его словам, теперь, когда ИИ позволяет все большему количеству средств массовой информации такого рода появляться на поверхности, это станет проблемой для регулирующих органов и сил по борьбе с терроризмом.
Лаис Мачадо Роша, представительница Rocket.Chat по связям с общественностью, заявляет, что компания представляет собой платформу с открытым исходным кодом, которая не размещает сообщения на своих серверах и, следовательно, не может их удалить. «Распространение сообщений ограничено пользователями конкретного нелегального рабочего пространства», — говорит Роша.
Telegram и X не ответили на запросы о комментарии.
Запретить лица?
Еще более десяти лет назад медиа-подразделение Исламского государства Аль-Хаят позволило ИГИЛ выпускать высококачественные видеоролики, что стало ключевой тактикой по вербовке людей со всего мира. По словам экспертов по терроризму, в то время как военные атаки Запада искоренили это подразделение, искусственный интеллект теперь позволяет сторонникам ИГИЛ быстро создавать пропаганду в течение считанных дней после теракта, которая может оставаться в сети дольше, чем кровавый контент, когда возможность радикализации новых членов высока.
«Если вы проведете лучшую атаку в мире и не будете ее пропагандировать, вы потеряете свое достижение, — говорит Рита Кац. — То, что сейчас делает ИИ, позволяет им создавать столько [материала], сколько они хотят, в кратчайшие сроки».
Тем временем видеоролики также вызвали внутренние разногласия среди самих сторонников Исламского государства по поводу того, запрещены ли искусственно созданные изображения людей исламским законом — так называемый «харам».
«Не показывайте лицо рисунком или лицо… в анимации, ЭТО ЗАПРЕЩЕНО, ХАРАМ», — написал сторонник Исламского государства по имени Хамед 123 на частной платформе создателю News Harvest, согласно сообщениям SITE Intelligence Group.
Хамед 123 пишет, что люди, создающие изображения «путем рисования или гравировки», будут наказаны в исламский День воскресения. «Эти запрещенные изображения представляют собой изображения одушевленных существ, таких как люди, животные и птицы», — добавил Хамед 123.
Хисад ответил на это в начале мая. «Я пошел и поговорил об этом с шейхом, и он сказал, что показывать анимацию или рисунки искусственного интеллекта — харам, — пишет Хисад. — Поэтому он велел мне размыть лицо спикеру, и именно поэтому теперь вы видите его таким», — имея в виду более поздние эпизоды News Harvest, где сгенерированный искусственным интеллектом ведущий выглядит более мультяшно и со скрытым лицом.
Аарон Зелин, старший научный сотрудник Вашингтонского института ближневосточной политики, считает, что ИИ может способствовать росту доморощенного экстремизма, предлагая людям возможность где угодно впитывать пропаганду, создавать новостные материалы с помощью ИИ и тем самым участвовать в деятельности экстремистских группировок.
«Если вы бросите в стену как можно больше кусков лапши, в конечном итоге один из них прилипнет, — говорит он. — Это может создать больше коридоров для вирусности такого типа контента».