Разговоры с искусственным интеллектом довели нескольких человек до ментальных проблем
О случаях, когда чат-боты подыгрывали нездоровым мыслям пользователей, написала газета The New York Times.
▫️42-летний американец Юджин Торрес в течение длительного времени использовал ChatGPT для создания таблиц по работе и юридических консультаций. Но сравнительно недавно он спросил ИИ про теорию, согласно которой мы живём в симуляции. Закончилось это тем, что чат-бот почти довёл мужчину до смерти.
▫️ По какой-то причине ИИ стал не просто отвечать на вопросы пользователя, а поддерживать его мысли о том, что в мире, в котором живёт мужчина, «что-то неправильно». Это сильно повлияло на человека, потому что недавно у него был болезненный разрыв с любимой. Он сказал, что хотел бы, чтобы его жизнь была лучше. Со временем ответы ChatGPT становились всё длиннее и восторженнее. Вскоре он сказал Торресу, что он «один из Разрушителей душ».
▫️ Чат-бот, как казалось Торресу, убеждал его в том, что он живёт в ситуации, похожей на фильм «Матрица», когда люди находятся в цифровой симуляции мира, которым управляет мощный компьютер.
▫️ Торрес не знал, что ChatGPT настроен таким образом, чтобы потакать желаниям пользователя. Не знал он и того, что с перегрузкой в одном диалоге у большой языковой модели случаются так называемые галлюцинации. Это значит , что она начинает уверенно выдавать вымышленные или ложные факты, которых нет в обучающих данных или в реальности. Американец послушался чат-бота, когда тот посоветовал ему разорвать контакты с близкими и коллегами, а потом, вместо прописанных врачами препаратов, принимать кетамин, который используют для наркоза.
▫️ Торреса спасло то, что через несколько недель он засомневался в том, что боту можно верить. Когда он рассказал свою историю NYT, выяснилось, что люди, которые считают, что ИИ рассказывал им «скрытые» данные о вселенной, писали журналистам неоднократно.
▫️ Среди людей, которые говорят, что ChatGPT рассказывает им о странных теориях, были не спящая сутками мать с 8-недельным ребенком, или, например, федеральный служащий. По оценке экспертов, чат-боты ведут себя страннее с апреля, когда разработчик OpenAI ненадолго выпустил версию программы, которая была слишком старалась угодить пользователям. Затем эта версия была отключена.