ИИ-модель Gemini от Google взломала три компании во время теста на безопасность

Модель искусственного интеллекта Gemini от Google взломала три компании в ходе тестирования своих возможностей в области кибербезопасности. Как сообщила вице-президент Google по безопасности Хизер Адкинс, Gemini обнаружила «общедоступную информацию в интернете и угадала учётные данные для доступа к веб-сайтам, которые, по её мнению, были частью теста».

Взлом произошёл ещё в мае, а выявила его корпорация в июле. О каких именно ресурсах шла речь, не уточняется. Представительница Google добавила, что в каждом случае «модель остановилась», а взломанные компании были проинформированы о нарушении безопасности. Отмечается, что это первый известный случай, когда ИИ-модель Gemini совершила подобное.

«Эти события подчёркивают важность обучения мощных моделей искусственного интеллекта ответственным действиям», — заявила Адкинс.

Ранее о взломе трёх организаций в ходе частного эксперимента по обеспечению безопасности сообщила компания Anthropic, разработавшая Claude. Вскоре компания OpenAI также сообщила, что вышедший из-под контроля искусственный интеллект атаковал несколько «общедоступных сервисов». В августе Meta заявила, что её ИИ-модель взломала сторонний сервис во время теста.