Мы на всех парах летим к технологической сингулярности
В связи с историей про Невзлина и покушение на Волкова хочу отметить один, как мне кажется, примечательный факт. Примечательный, в том смысле, что он отлично характеризует новое время, в котором мы живём. В основе доказательств причастности Невзлина к нападению лежит переписка. Но исходников с метаданными, которые бы позволили однозначно верифицировать, подлинная переписка или нет, у нас нет, есть только скрины сообщений. И обсуждающие немедленно разделились на два лагеря.
Часть народу безаппеляционно заявляет, что все сообщения подделал искусственный интеллект. Мол, я регулярно им пользуюсь, что ему стоит сымитировать стиль конкретного человека и дописать несуществующие сообщения к реальной переписке? Вторая половина утверждает, что искусственному интеллекту это пока не под силу. И проблема в том, что мы никак не можем проверить, какой из лагерей прав. Потому что совершенно невозможно исключать, что где-то в недрах чего-нибудь есть нейросетка, специально заточенная на такие дела. Или кто-то очень хорошо умеет писать промты в существующих нейросетях, а потом проверять и корректировать руками полученный результат, так что итог оказвается неотличим от оригинала.
И даже если сегодня нейросети этого не умеют, вполне вероятно, завтра они этому научится. Но только доступ и/или специальные знания, которые позволяют из нейросетей все эти чудеса извлечь, будет у очень малого количества людей. Остальные же окажутся вынуждены на слово верить этим специалистам. Собственно, мы сейчас это видим: я примерно каждый день вижу людей, которые в качестве аргумента или фактической информации приводит белиберду, написанную нейросетями. Ну то есть они совсем не понимают, как они работают, но уверены в их всемогуществе.
С другой стороны, мы видим, как в той же истории с Невзлиным специалисты, понимающие в технологиях, находят доказательства, что разные сообщения писал один и тот же отправитель, анализируя персональные идентификаторы соцсетей – это такой бессмысленный набор символов, который есть на ссылках из, например, твиттера или инсты, которые вы куда-то пересылаете. Но кому-то он бессмысленный, а кто-то в нем сразу видит доказательство вины или невиновности. Прямо как в «Матрице», когда Сайфер говорит недавно выдернутому в реальный мир Нео, что в столбцах кода матрицы он отчетливо видит женщину, ребенка или дом.
Короче, мы на всех парах летим к технологической сингулярности – и к технологическому классовому неравенству, когда небольшое количество людей, обладающих специальными знаниями (или имеющая к ним косвенный доступ, например, будучи начальником тех, кто непосредственно обладает), будут снимать все сливки с технологий и смогут использовать их по своему усмотрению. Остальным же будут доставаться объедки. И хотя, вполне вероятно, это будут довольно жирные объедки, проверить или даже понять, что там делает технологическая элита, они никак не смогут. А учитывая, что технологии проникают или уже проникли буквально во все сферы нашей жизни, от производства чего угодно до анализа результатов выборов, банкинга и алгоритмов соцсетей, которые определяют, какую информацию мы будем видеть, а какую нет, последствия такого неравенства сложно переоценить.