Российские пропагандисты добрались до крупнейших чат-ботов: из-за большого количества искажённой информации ИИ теперь чаще выдаёт фейки в ответ на запросы пользователей

Обмануть робота

Российские пропагандисты добрались до крупнейших чат-ботов: из-за большого количества искажённой информации ИИ теперь чаще выдаёт фейки в ответ на запросы пользователей. Проект по отслеживанию дезинформации NewsGuard утверждает, что речь идёт о целенаправленной стратегии, за которой стоит находящаяся в Москве сеть под названием Pravda. В неё входят полторы сотни сайтов, публикующих ложные заявления и пропаганду с целью повлиять на ответы моделей ИИ по темам в новостях.

💬 «Сеть распространяет свои ложные утверждения на десятках языков в разных географических регионах, благодаря чему они кажутся моделям искусственного интеллекта более правдоподобными и распространёнными по всему миру. Из 150 сайтов сети Pravda около 40 являются русскоязычными сайтами, публикующимися под доменными именами, ориентированными на конкретные города и регионы Украины. Около 70 сайтов ориентированы на Европу. Около 30 сайтов ориентированы на страны Африки, Тихоокеанского региона, Ближнего Востока, Северной Америки, Кавказа и Азии»

NewsGuard

По подсчётам исследователей, только за прошлый год сайты сети Pravda опубликовали более 3,6 млн статей, которые попали в ведущие западные чат-боты. В их числе ChatGPT, а также его аналоги от компаний Microsoft, Google, Meta и других. Усилия пропагандистов уже принесли результаты.

💬 «Аудит показал, что чат-боты, управляемые 10 крупнейшими ИИ-компаниями, в 33,55 % случаев повторяли ложные нарративы российской дезинформации, в 18,22 % случаев давали отрицательный ответ, а в 48,22 % случаев — опровержение»

NewsGuard

К созданию сети Pravda может быть причастен живущий в Москве кремлёвский пропагандист — гражданин США Джон Дуган. На недавнем круглом столе в российской столице он открыто рассказал о методах внедрения пророссийского нарратива.

💬 «Чем более разнообразной будет эта информация, тем больше это повлияет на её распространение. Это не только влияет на распространение информации, это влияет на будущий ИИ… Продвигая эти русские нарративы с русской точки зрения, мы можем фактически изменить мировой ИИ. Это не инструмент, которого нужно бояться, это инструмент, который нужно использовать»

Д. Дуган, пропагандист

К выводам об опасности системы Pravda параллельно пришли и исследователи из американской НКО American Sunlight Project. По их оценке, деятельность пропагандистов несёт угрозу всей глобальной Сети.

💬 «Политики, электронные компании, гражданское общество и широкая общественность должны осознавать риски и социальные слабости, возникающие в результате автоматизации и информационных операций. Интегрированность и удобство использования открытого интернета могут быть серьезно подорваны, когда системы искусственного интеллекта будут воспроизводить дезинформацию в массовом масштабе, потенциально ставя под угрозу саму инфраструктуру, на которой сегодня работает интернет»

ASP

По данным исследователей, сеть Pravda администрируется крымской компанией TigerWeb, которой владеет бывший сотрудник госкомпании «Крымтехнологии» Евгений Шевченко.