В Бразилии освободили мужчину, которого задержали после разговора с ChatGPT о планах убить сына

Суд в Бразилии освободил 36-летнего мужчину, которого в июне задержали после того, как система безопасности OpenAI обнаружила в его переписке с ChatGPT предполагаемый план убийства собственного восьмилетнего сына. Мужчина провёл под стражей 54 дня и теперь должен носить электронный браслет.

По данным полиции штата Эспириту-Санту, фермер около двух месяцев обсуждал с ChatGPT убийство сына, собственное самоубийство и возможные нападения на школы, церкви и полицейских. В одной из переписок он утверждал, что предлагал другому человеку 50 тысяч реалов за убийство себя и ребёнка.

Система безопасности OpenAI пометила разговор как представляющий возможную угрозу. Компания передала информацию ФБР, которое связалось с бразильскими властями. Полиция получила сведения 16 июня и задержала мужчину 19 июня — за день до даты, когда, по версии следствия, он собирался осуществить свой план.

При обыске были обнаружены четыре ёмкости с неизвестным веществом и верёвка. Следователи также изучают телефон мужчины, чтобы установить, действительно ли он пытался нанять человека для убийства ребёнка. Сам подозреваемый признал, что делал часть описанных запросов, однако отрицает намерение совершить преступление.

13 августа суд удовлетворил ходатайство защиты об освобождении, сославшись на затягивание расследования: спустя более 50 дней полиция ещё не закончила следствие, а прокуратура не предъявила обвинение. Мужчине запретили приближаться к сыну и его матери.

«Если общаться с ИИ и говорить глупости — преступление, тогда все должны сидеть в тюрьме», — сказал BBC его адвокат Педро Песси.

В OpenAI заявляют, что в исключительных случаях передают информацию правоохранительным органам, если переписка указывает на достоверную и непосредственную угрозу другим людям. В июле «Эхо» писало, что компания применяет этот механизм к опасным разговорам пользователей ChatGPT. При этом в бразильском деле полиция получила сообщения самого пользователя, но не ответы нейросети, что вызвало вопросы юристов о полноте и контексте доказательств.