Исследование возможностей искусственного интеллекта по влиянию на мнения людей привело к крупному скандалу
Группа исследователей из Цюрихского университета на протяжении четырёх месяцев наблюдала за тем, как комментарии AI, опубликованные под видом реплик пользователей популярной площадки Reddit, меняют их точку зрения. Но затем, как пишет The Atlantic, события приняли неожиданный оборот.
▫️ Для того, чтобы оценить убедительность робота, учёные публиковали его сообщения от имени участников чата с названием r/changemyview. По его условиям, посетители присваивали баллы постам, которые заставили их изменить свою позицию. Более 1000 реплик AI касались агрессивности питбулей, жилищного кризиса, программ инклюзивности и других спорных тем. После окончания эксперимента его организаторы связались с администраторами сообщества и попросили рассказать о проекте невольным участникам исследования. И тут разразилась буря.
▫️ Модераторы Reddit потребовали от учёных извинений за обман пользователей, что застало сотрудников университета врасплох. По словам одного из администраторов площадки, исследователи «были очень удивлены, что у нас была такая негативная реакция на эксперимент». На требование не публиковать работу последовал отказ. Модераторы выложили сообщение о происходящем. За этим последовало крайнее возмущение пользователей, которые сочли себя обманутыми. В адрес учёных стали раздаваться угрозы.
▫️ Некоторые участники научного сообщества также осудили эксперимент. Профессор Технологического института Джорджии Эми Брукман, изучающая онлайн-сообщество более 20 лет, сказала, что это «худшее нарушение этики интернет-исследований, которое я когда-либо видела». Главной проблемой стало то, что обман участников был изначально заложен в условия эксперимента. В итоге Цюрихский университет отказался от публикации статьи с итогами работы и объявил о внутреннем расследовании.
▫️ Вне зависимости от спора вокруг этики, результаты этого исследования, похоже, подтверждают представления других учёных. Научный сотрудник Техасского университета в Остине Кристиан Тарсни резюмирует: «вывод о том, что ИИ может находиться на верхнем пределе человеческой убедительности, то есть быть более убедительным, чем большинство людей, соответствует тому, что обнаружили лабораторные эксперименты». Возможно, это стало одной из глубинных причин скандала — людей испугало, что машина лучше них знает, как ими манипулировать.