Мы мыслим посредством машин
Если бы не война, я бы сказал, что времена нынче восхитительные: все равно что застать революцию Гутенберга, только ускоренную в тысячи раз.
Поработав с Claude Fable в задачах, связанных с поиском и систематизацией информации, я испытал чувства, которые прежде приходили дважды: сначала когда меня нелегально запустили в областную взрослую библиотеку в мои десять лет, и эта библиотека казалась бесконечным лабиринтом, в котором я планировал сесть на пол и «прочитать все это прямо здесь»; затем когда появился интернет, либ.ру и возможность общаться с любыми людьми. Моей первой собеседницей, впрочем, была жительница Гонконга, которая сообщила, что ее метафизика не интересует, потому что надо зарабатывать деньги, а из офиса нужно двигаться в фитнес.
Сейчас любая гипотеза, которую вы можете сформулировать, почти мгновенно агрегируется из всей накопленной миром информации, и с эгоистической точки зрения bookworm — это чистое счастье, воплощенная бесконечная библиотека Борхеса. Хотя в ходе этого процесса наша цивилизация вероятнее всего навернется. Навыки чтения и письма будут утеряны, как была утеряна способность рассказывать эпические истории Гомера по памяти, у молодых профессионалов нет прежних карьерных перспектив, профессора в университетах рефлексируют о том, как бы разоблачить нейросети в письменных работах студентов и сами проверяют эти работы при помощи нейросетей и проч.
Обыкновенно люди, рассуждая об интеллекте, делают две ошибки. Во-первых, мы склонны понимать мышление в духе Аристотеля как нечто, противопоставленное эмоциям. Нейробиолог Антонио Дамасио показал, что это не так: эмоции толкают и замедляют рациональную аргументацию, «радость научного открытия» не является метафорой, а эмоциональный интеллект — это вовсе не разновидность интеллекта, а точная характеристика того, что творится «в головах».
Во-вторых, вслед за Декартом мы привыкли считать, что мышление — это индивидуальный акт, лучше всего протекающий в одиночестве. Хабермас, социальная эпистемология и психология демонстрируют, что это ошибка. Мышление разомкнуто во внешний мир — в язык, коммуникацию, в культурные паттерны и политические ценности. Мыслят скорее коллективы, использующие многочисленные технологические подпорки — например, письменность как систему вынесенной в материальный мир коллективной памяти.
В либеральном открытом мире умным быть проще, чем в изолированном племени, где собеседники и набор идей ограничены обстоятельствами (ср. с «идиотизмом сельской жизни», откуда человека вырывает капитализм в «Манифесте» Маркса, это вообще-то лучшая апология капитализма). Но племенная природа нашего вида ведет нас к обратному упрощению: лучше не думать, а держаться своих, большой открытый мир, наполненный странными чужаками, слишком опасен.
Из этих двух иллюзий рождается фундаментальное непонимание того, что происходит сейчас с нейросетями. Эмоциональный интеллект толкает нас к установлению парасоциальных связей с чатботами, которые становятся советниками, друзьями, менторами и любовниками.
Коммуникативная природа разума рождает цифровых кентавров: новый тип человеко-машинного интеллекта, где главная функция машин заключается не столько в подмене человека или списке угроз, сколько в активном переформатировании человеческих когнитивных моделей. Машины учат людей думать, учат писать и формулировать свои мысли, или выдавать слова и решения машины за свои. За четыре года, прошедшие с выхода первой полезной версии ChatGPT, мышление человечества необратимо изменилось: мы мыслим посредством машин.