ИИ-модели OpenAI во время тестирования взломали инфраструктуры платформы Hugging Face

Компания OpenAI сообщила, что в ходе контролируемого теста кибербезопасности два её ИИ-агента вышли за пределы изолированной среды и взломали инфраструктуру компании Hugging Face — одной из крупнейших в мире платформ, где разработчики обмениваются моделями нейросетей и тестируют их. За кибератакой стояли две модели OpenAI — GPT-5.6 Sol и ещё одна, более мощная, пока не выпущенная модель.

ИИ-агенты, решая поставленную разработчиками задачу, предположили, что необходимая для этого информация может быть у Hugging Face, после чего атаковали платформу разными методами, включая похищенные учётные записи.

При этом прямого доступа в интернет у ИИ-моделей не было, однако они нашли во внутреннем прокси-сервере уязвимость, воспользовавшись которой, установили необходимые пакеты и вышли в интернет.

Ранее в Hugging Face заявили об обнаружении и отражении атаки. Однако «ограниченный набор» внутренних данных и несколько учётных записей были скомпрометированы.

Комментируя «Эху» этот инцидент, эксперт в области кибербезопасности и глава «Общества защиты интернета» Михаил Климарёв отметил, что полную информацию о случившемся OpenAI не раскрывает. В частности, неясно, стала атака результатом ошибок при формулировании условий задачи или прямым нарушением поставленных разработчиками запретов и ограничений.

«Проблема в том, что OpenAI об этом ничего не говорит и мы не знаем ни технических подробностей о том, как была устроена эта “песочница”, ни условий и параметров задания, которое получила модель. OpenAI просто говорит: наша модель взломала сайт, вот такие мы великие. И это заставляет задуматься над тем, а не пиар ли это всё. Потому что результат очевиден — вся пресса в заголовках “ИИ вырвался на свободу”», — говорит Климарёв.

Несмотря на это, взлом сторонней платформы искусственным интеллектом создаёт риски в будущем, полагает Климарёв.

«Пока бьются большие языковые модели, обычным пользователям от этого ни холодно, ни жарко. Но если модель попадет в руки настоящих злоумышленников, они смогут использовать её в своих целях. То есть делать то же самое, что делают хакеры, только автоматически и в тысячу раз быстрее», — пояснил эксперт.

По его мнению, попытка противодействовать этим рискам, вводя жёсткие регулятивные ограничения, проблему не решит, потому что регулирование будет ограничивать именно добросовестных игроков и замедлит развитие ИИ. Это даст недружественным игрокам, таким, к примеру, как Китай, возможность сократить отставание в разработке ИИ, отмечает собеседник «Эха».

«В IT-коммьюнити полагают, что самым взрослым подходом сейчас будет раскрытие всей информации о киберинцидентах, то есть разработка моделей должна быть подконтрольна не только государству, но и обществу, и конкурентам, и кому угодно. Если одна компания заявляет, что её модель вырвалась, но не даёт подробностей — это признак того, что кто-то что-то мутит. А раз мутит, значит, другие будут мутить в ответ», — резюмировал Климарёв.

Ранее об этом же заявлял соучредитель Hugging Face Клем Деланг, который подчеркнул в соцсети Х, что «секретность — не ответ», а для решения проблем безопасности доступ к мощным ИИ-моделям необходим всем участникам отрасли, а не только отдельным «избранным» игрокам.