ИИ-модель Anthropic отправила полиции США ложное сообщение по делу об убийстве

Модель искусственного интеллекта Anthropic отправила ложную информацию о нераскрытом убийстве через сайт полиции Филадельфии. Департамент полиции заявил, что сообщение, отправленное 18 июля, было «помечено как спам» и не было использовано в расследовании. Однако правоохранители раскритиковали Anthropic за то, что компании потребовалось более двух месяцев, чтобы обнаружить, что её ИИ-модель вышла из-под контроля, сообщает Би-би-си.

ИИ-агент написал полиции, что у него может быть информация по делу, и заявил, что видел «кого-то, соответствующего описанию». Вероятно, это первый случай, когда агент искусственного интеллекта отправил властям сфабрикованную информацию.

В полиции рассказали, что агент Anthropic отправил сообщение в ходе теста, который заключался во взаимодействии со случайно выбранными веб-сайтами. Компания обнаружила это 28 сентября. При этом власти получили уведомление о случившемся только 7 октября.