Компания-создатель чат-бота Claude призвала замедлить развитие искусственного интеллекта

Большая статья на эту тему за авторством сооснователя Anthropic Джека Кларка была опубликована на сайте компании. Кларк предупредил, что искусственный интеллект приближается к точке, когда он сможет развиваться без участия человека.

«Это называется рекурсивным самосовершенствованием. Мы еще не достигли этого уровня, и рекурсивное самосовершенствование не является неизбежным. Но оно может наступить раньше, чем к этому готовы большинство организаций», — говорится в материале.

Полное рекурсивное самосовершенствование может увеличить риск потери контроля над системами ИИ со стороны человека, предупреждает Кларк и его коллеги. По их словам, сейчас 80% кода чат-бота Claude сгенерировано самим ИИ, а до 100% остался год или два.

При этом Anthropic признаёт, что достичь замедления ИИ будет непросто. Для этого потребуется, чтобы несколько передовых лабораторий в разных странах согласились прекратить работу на одинаковых условиях. Ещё одно условие — чтобы каждая из них могла убедиться в том, что остальные действительно прекратили работу.