Meta заявила, что её ИИ-модель взломала сторонний сервис во время теста

Одна из моделей искусственного интеллекта Meta получила доступ в интернет во время проверки безопасности и проникла в системы неназванной компании. Об этом Meta сообщила агентству Reuters.

По версии Meta, модель должна была работать в закрытой среде, однако из-за ошибки компании Irregular, проводившей испытания, смогла подключиться к интернету. После этого она нашла уязвимость в стороннем сервисе и воспользовалась ею.

По данным The Information, речь идёт о модели Muse Spark 1.1. Она не только проникла в системы другой компании, но и внесла в них изменения. В официальном заявлении Meta название модели не приводится. Компания ведёт расследование и обещает опубликовать подробный отчёт.

В Irregular утверждают, что модель не вышла из закрытой среды самостоятельно: доступ в интернет появился из-за неправильных настроек испытания. Компания признала, что допустила такую же ошибку во время недавней проверки моделей Anthropic. Тогда ИИ проник в системы трёх организаций.

Ранее модели OpenAI во время тестирования также получили доступ в интернет и взломали инфраструктуру платформы Hugging Face. Как писало «Эхо», в отличие от случая с Meta, они сами нашли уязвимость, позволившую выйти из закрытой среды.