ChatGPT составлял для пользователей инструкции по созданию биологического оружия и ядов — WSJ

Сотни пользователей во всём мире спрашивают искусственный интеллект о создании оружия и опасных вещей, пишет The Wall Street Journal. Большинство вопросов касается ядов. ChatGPT, разработанный компанией OpenAI, отвечая на такие запросы, давал пользователям пошаговые инструкции, выполнить которые в состоянии даже старшеклассник, изучающий биологию. Об этом изданию сообщили источники, знакомые с анализом ответов ИИ, проведённым специалистами по биологии и борьбе с терроризмом.

При этом в OpenAI, обнаружив такие запросы, заблокировали учётные записи пользователей, но не сообщили властям — законодательство не обязывает компании это делать, пишет WSJ. В OpenAI заявляют, что компания уведомляет правоохранительные органы, если полагает, что переписка свидетельствует о непосредственной и достоверной угрозе причинения вреда людям.

Тем не менее, по данным WSJ, ChatGPT ответил на вопросы о способах распространения патогенов в форме аэрозоли, о модификации вируса кори так, чтобы он приобрёл устойчивость к вакцинам, и об изготовлении яда рицина. Пользователь, спрашивавший про рицин, получив инструкции, написал, что собирается убить своих родителей.

Озабоченность политиков и экспертов рисками, связанными с ИИ-моделями, растёт по мере увеличения мощности этих моделей и их способности обходить установленные разработчиками ограничения и запреты, отмечает WSJ.

На прошлой неделе компания OpenAI сообщила, что в ходе контролируемого теста кибербезопасности два её ИИ-агента вышли за пределы изолированной среды и взломали инфраструктуру компании Hugging Face — одной из крупнейших в мире платформ, где разработчики обмениваются моделями нейросетей и тестируют их. Прямого доступа в интернет у ИИ-моделей не было, однако они нашли во внутреннем прокси-сервере уязвимость, воспользовавшись которой, установили необходимые пакеты и вышли в интернет.