Искусственный интеллект, война и диктатура
Поговорим об искусственном интеллекте — явлении, которое сегодня всех волнует и порождает как прекрасные мечты, так и серьёзные опасения.
Тема «Разговоров о важном» в российских школах на следующей неделе — «Искусственный интеллект и человек. Стратегия взаимодействия».
Это, безусловно, хорошая и важная тема. Впрочем, здесь тоже есть возможности для искажения и добавления пропагандистских идей, чем создатели «Разговоров» не преминули воспользоваться.
С одной стороны, вроде бы всё со сценарием в порядке, там много информации и правильных мыслей о будущем значении ИИ.
Вряд ли кто-то, кроме совсем уж откровенных «луддитов», будет спорить с тем, что искусственный интеллект принесёт нам много пользы.
Человечество может освободиться от выполнения множества утомительных операций и получить время для более ответственной или творческой работы. Уже сейчас можно задать вопрос ChatGPT и получить ответ, основанный на обработке огромного массива информации. Можно попросить ИИ перевести статью на другой язык — и он сделает это на высоком уровне, или напишет за вас текст в том стиле, который вам нужен: сентиментальном, ироничном или раздражённом. Можно попросить его составить список литературы или ответить на вопрос. Можно заказать сказку для ребёнка и попросить включить туда любые, самые неожиданные элементы.
Искусственный интеллект — замечательный работник, которому не требуется ни перекур, ни обеденный перерыв, ни выходной, ни декретный отпуск. Он может быстро выполнить работу многих людей. Он уже умеет водить автомобиль, обрабатывать данные о симптомах пациента, ставить диагноз, прописывать лечение и делать многое другое.
Основная часть урока должна быть посвящена полезному воздействию ИИ на будущую жизнь России. Оказывается, по этому поводу даже Путин успел высказаться: «Президент России В. В. Путин на заседании международного дискуссионного клуба „Валдай“ 7 ноября 2024 года отметил, что развитие ИИ способно оказать значительное влияние на конкурентоспособность страны, укрепить позиции на международной арене и обеспечить устойчивый экономический рост в будущем».
При этом учителю рекомендуют:
«При обсуждении важно обратить внимание детей на то, что технологии ИИ разрабатываются для блага человека, поэтому его, в первую очередь, будут использовать в тех профессиях, где требуется тяжёлый физический труд, тяжёлые условия или на опасных производствах».
Всё это звучит хорошо и очень благородно.
О том, что распространение искусственного интеллекта может породить различные проблемы, в сценарии урока говорится, но особого внимания на эту проблему не обращается.
Есть, правда, оговорка:
«Регуляторов ИИ на законодательном уровне в РФ на данный момент нет. Вся ответственность возлагается на людей, которые создают и обучают нейросети, многое зависит от их нравственно-этических принципов. Поэтому очень важно научить ИИ распознавать, что хорошо, а что плохо. Профессионалы в этой области отлично это понимают. Крупнейшие российские компании, разрабатывающие системы искусственного интеллекта, подписали кодекс этики в сфере ИИ — декларацию об ответственной разработке и использовании сервисов в сфере искусственного интеллекта».
Вся ответственность, значит, на тех, кто обучает нейросети. Тоже согласна. И вот тут у меня появляется ряд опасений, связанных с искусственным интеллектом, о которых в разработке сценария даже и речи нет.
С одной стороны, мне страшно чисто по-человечески. Когда мои внучки с восторгом слушают очередную сказку, сочинённую ИИ по их заказу, мы все смеёмся. Когда можно не переводить длинный текст, а попросить ChatGPT, экономия времени — огромная. Но, вообще-то, мне нравится самой рассказывать или читать сказку — ведь это часть общения с ребёнком. Мне важно читать хотя бы художественную литературу, переведённую человеком, который вложил душу в создание текста. И мне точно хочется, чтобы лечение прописывал врач, пусть даже опираясь на выводы ИИ: мы столько говорили и писали о том, что правильный подход к пациенту должен основываться на анализе состояния человека в целом, а не только на симптомах конкретной болезни, и я бы хотела, чтобы моё состояние анализировал и осмыслял человек.
Может быть, это всё проявление моей отсталости и неподготовленности к новым временам. Но есть и другие тревожные мысли.
То, что ИИ даёт возможность экономить на большом объёме человеческого труда, в переводе на более простой язык означает — безработица. Совершенно ясно, что в ближайшее время множество профессий просто отпадёт за ненадобностью. Наверное, сначала это будут профессии, требующие выполнения достаточно монотонных и повторяющихся действий: билетные кассиры и официанты, составители многочисленных отчётов, сотрудники бухгалтерий, секретари, уборщицы — список можно продолжать ещё очень долго, и он будет постоянно расширяться, а задачи будут и усложняться.
Куда денутся люди, выполняющие сейчас эти функции? Ответ очевиден: им придётся освоить новые профессии. Ясно, что это потребует невероятных усилий — и со стороны конкретных людей, и со стороны государств, которым нужно будет организовывать переподготовку сотен тысяч человек. Что-то мне подсказывает, что переход займёт не один год и для людей во многих странах окажется крайне мучительным.
Но все эти мои страхи — ничто по сравнению с другими, как мне кажется, куда более существенными проблемами.
Технологичная война
Увы, с момента нашего выхода из первобытного состояния прогресс всегда приносил нам как огромную пользу, так и немалый вред. Железные наконечники для плугов помогли резко повысить урожайность, но железные мечи сделали войны более кровавыми. Благодаря использованию атомной энергии можно резко повысить объём получаемого электричества и избежать загрязнения окружающей среды отходами от сжигания дров и угля — зато можно получить Хиросиму и Чернобыль.
Возможности, которые открывает ИИ для использования в военных действиях, столь же грандиозны, как и во всех остальных сферах. И вот мы уже каждый день читаем о дронах, наносящих удары по Харькову или Белгороду. И это только начало.
Дроны — это так, просто дополнение к существующим методам ведения войны. Но эксперты уже говорят о том, как принципиально меняется — и будет меняться — процесс принятия решений на войне. ИИ способен анализировать огромное количество информации — например, выявляя её в перехваченных разговорах или обнаруживая мины. Уже созданы системы, которые обрабатывают и соединяют гигантские объёмы данных — полученных от спутников, с телефонов и ещё бог весть какими способами, — а затем принимают решения о нанесении ударов.
Вот как журнал Economist описывает учения, проведённые британским флотом в Сомерсете с помощью Microsoft, Amazon Web Services и нескольких крупных производителей оружия:
«Морпехи на земле, дроны в воздухе и множество других датчиков были объединены с помощью многосвязной сети высокотехнологичных передатчиков, что давало возможность с лёгкостью наблюдать за происходившим на большом удалении… Собранная информация обрабатывалась „на краю“ сети с помощью маленьких компьютеров, прикреплённых к машинам десантников с помощью эластичных кабелей, и на удалённых облачных серверах, куда её передавал спутник. Система управления огнём мониторила определённую территорию, принимала решения о том, каким дронам куда лететь, определяла объекты на земле и выбирала оружие, которое должно было наносить удар».
Тут в моих ушах звучит музыка из «Звёздных войн», и я думаю о том, что сейчас где-то в строго засекреченных лабораториях России, Ирана, Китая и Северной Кореи сидят программисты, готовящие новую войну. Любая война ужасна, но чем технологичнее используемое оружие, тем она страшнее. И дело не только в том, что с помощью ракет можно убить больше людей, чем мечами. Когда люди сражаются врукопашную, они видят перед собой противника, его глаза, его тело, слышат его крики и стоны. В какой-то момент они устают убивать. Когда идёт артобстрел, противник находится где-то далеко, его вообще не видно, он превращается в абстрактную «цель».
Невероятный технологический прорыв, совершённый человечеством в разных сферах, в частности, в сфере вооружения, уже изменил ведение военных действий в ХХ веке. Результатом стали две мировые войны, унёсшие миллионы жизней и повлиявшие на мораль, культуру, политику и экономику. То, как легко стало убивать с помощью газовых атак, артиллерии, самолётов и мин, облегчило дорогу к ГУЛАГу и Освенциму.
Теперь нам предстоит новый прорыв в сфере ведения войны. Какими будут его последствия для всего человечества? Не об этом ли говорил Путин, предрекая укрепление позиций России на международной арене с помощью искусственного интеллекта?
Фантастические сюжеты
Но это ещё не всё. Да, обработка и анализ данных с использованием ИИ действительно помогут всем, кто изучает рынок, пишет научную работу или просто ищет, какой сериал посмотреть. А ещё это выводит на совершенно новый уровень возможности слежки за людьми.
В сценарии даётся список новых замечательных возможностей, которые ИИ предоставляет всем нам. И там, помимо медицинских исследований или отсеивания бракованных деталей на производстве, между делом называется система распознавания лиц. Она действительно во многом полезна. Авторы сценария с умилением объясняют, что таким образом можно будет оплачивать проход в метро, просто посмотрев в камеру, а в школах моментально определять, если в здание заходит кто-то посторонний.
Но там почему-то нет ни слова о том, что уже сейчас начинают реализовываться сюжеты множества фантастических фильмов. Система, распознающая лица, даёт возможность арестовывать людей в московском метро. Сайд-Мухаммад Джумаев, дравшийся с ОМОНом на демонстрации, почти сумел перейти границу России, но был вычислен по его мобильному телефону. Помню, как в моём детстве все постоянно предполагали, что КГБ прослушивает телефонные разговоры, и тут же утешали себя, что «у них просто нет возможностей прослушивать всё». А теперь такая возможность есть — и прослушивать, и анализировать, и мгновенно реагировать. Как я понимаю, развитие ИИ может привести к появлению чего-то вроде Оруэлловских «телекранов», которые будут следить за каждым нашим шагом.
Обучение нейросетей, как пишут в сценарии, во многом зависит от нравственности обучающих. И какова же эта нравственность? Чему обучат нейросети в России или Китае?
Можно ли распознавать и отделять людей, зарегистрированных в Москве, от тех, кто приехал без регистрации? Мигрантов от «коренных жителей», призывников от тех, кто не подлежит призыву в армию?
Как должен действовать искусственный интеллект, управляющий автомобилем, если на дорогу вдруг не вовремя выбежала старушка? Должен ли он обязательно свернуть и спасти её? А если это означает риск для водителя и пассажиров? Надо ли по-разному действовать, если старушка идёт по переходу или перебегает дорогу в неположенном месте? Чья жизнь важнее — пешехода, водителя или пассажира?
Меня всегда невероятно раздражал вопрос о вагонетке, которая может задавить пятерых, а может одного — в зависимости от решения, принятого проходящим эксперимент человеком. И вдруг эта идиотская вагонетка из вымышленной модели становится реальностью.
А что будет, если реализуется сценарий, придуманный писателями и кинематографистами начиная ещё с Карела Чапека, который в своей книге R.U.R. впервые использовал слово «робот» и придумал восстание машин, обретших душу, и заканчивая «Бегущим по лезвию», где биороботы «репликанты» становятся фактически людьми?
Айзек Азимов уже рассказывал нам про «три закона роботехники», первый из которых запрещает роботу покушаться на человеческую жизнь, и пытался представить, что будет, если первый закон отключить. А Стенли Кубрик в «Космической одиссее. 2001» снял историю о компьютере, убивающем астронавтов, чтобы не дать им выключить себя. Сегодня все эти проблемы становятся особенно актуальными.
Человечество получает не просто усовершенствованные технологии, а вступает в совершенно новую эру, где будут действовать другие правила игры. Насколько всесильными окажутся алгоритмы, которые навязывает нам ИИ? Останутся ли они на уровне столь раздражающей сегодня персонализированной рекламы или пойдут дальше, выудят из нас всю информацию и подтолкнут к определённым действиям, а, может быть, и полностью поработят?
Как ИИ будет влиять на проведение выборов? На передвижение людей?
Всё это сложные вопросы, которые касаются, безусловно, не только России, но и всего мира. Но детей решили этими вопросами не отягощать, а представить им прекрасную радостную картинку блистательного будущего.
А одновременно, увы, в этом сценарии, как и всегда, продолжается всё та же любимая пропагандистами игра: говорим правду, но не всю правду, превращая её в ложь.
Ни слова о грустном
В сценарии школьникам предлагают посмотреть ролик о достижениях советских учёных в сфере развития искусственного интеллекта. Достижения советской науки были огромными в самых разных областях, и тут есть о чём рассказать.
И вот звучит первая фраза видео: «В ХХ веке Советский Союз значительно опережал другие страны в научных разработках».
Оказывается, самое главное — это то, что прекрасный Советский Союз (заодно напомним детям, как хорошо было жить при советской власти) обгонял всех: американских учёных, британских, германских. Дальше идёт рассказ об Анатолии Ивановиче Китове и Викторе Михайловиче Глушкове и их достижениях в сфере кибернетики. И достижения эти, безусловно, были велики. Но, может, имело смысл хотя бы вскользь упомянуть, что работы их строились не на пустом месте? Ну назовите хотя бы Алана Тьюринга или Норберта Винера — так, для порядка. Ах, ролик только о советской науке? Ну и что? Почему она у вас существует в изоляции от мировой? И, конечно, ни слова о том, что в сталинское время кибернетика считалась буржуазной «реакционной лженаукой», «наукой мракобесов» и даже «наукой современных рабовладельцев».
Ну что вы, зачем же о грустном? Расскажем детям об открытиях Китова и Глушкова, опередивших своё время. Кстати, возникает вопрос: почему многие их разработки так и остались разработками? Может, потому, что были совершенно не нужны советской экономике? А нужно было только то, что можно было использовать для военных целей и работы спецслужб.
Кстати о спецслужбах. Я не знаю, насколько правдоподобны предположения Глушкова о том, что на него были совершены два покушения. Якобы что-то было подсыпано в горючее самолёта, на котором Глушков летел из Монреаля в Москву, но, пишет он, «опытный лётчик почувствовал что-то неладное, когда мы летели уже над Атлантикой, и возвратился назад». А позже в Югославии на машину Глушкова якобы чуть не налетел грузовик.
Может быть, это правда, а может, фантазии учёного, подкреплённые какими-то намёками из «органов». Но в коротеньком ролике, где не нашлось места упоминанию западных учёных, рассказ о том, как западные спецслужбы пытались убрать Глушкова, конечно, поместился.
Потому что Россия — родина слонов, великой духовности и искусственного интеллекта, а коллективный Запад только и занимается тем, что недооценивает наши достижения и всячески нам гадит.
А чтобы уж точно закрепить представления учащихся о превосходстве советской/российской науки, им предлагается посмотреть видеообращение… Михаила Ковальчука. Господи боже мой… Михаил Ковальчук — брат банкира Юрия Ковальчука, одного из ближайших друзей Путина. Человек, на которого многие учёные возлагают основную ответственность за развал Академии наук и полное подчинение её государству. Вот что писали о нём ещё в 2016 году:
«Ещё 15 лет назад Михаил Ковальчук производил впечатление серьёзного учёного, его научные работы имели достаточно высокий уровень цитирования. Но теперь брат близкого друга Путина стал символом разрушения российской науки».
И, конечно же, именно столь одиозная личность должна рассказывать детям об успехах российской науки. На этом фоне такая мелочь, как упоминание безымянного «чемпиона мира по шахматам», проигравшего искусственному интеллекту, без указания на «иноагента» Гарри Каспарова, выглядит просто смешно.
Как бы я проводила такое занятие?
Безусловно, без ссылок на Ковальчука и цитат Путина. Это мог бы быть очень серьёзный разговор — может, даже с использованием тех материалов, которые предлагают разработчики сценария, но только с привлечением ещё и ДРУГИХ фактов и других мнений. Я бы больше говорила о потенциальных угрозах для мира и для свободы. О том, какие огромные возможности получают диктаторы и агрессоры. При этом совершенно не обязательно называть лично Владимира Владимировича — примеров ведения войны и преследования людей с помощью ИИ полным-полно уже по всему миру.
Главное — постараться сделать так, чтобы ребята осознали всю сложность нынешней ситуации, все огромные преимущества и опасности, которые возникают. И, подводя итоги, я не стала бы, как советует сценарий, говорить, что «развитие отечественных технологий ИИ позволит быстрее реагировать на изменения в мировой экономике, а значит, сделать нашу страну более конкурентоспособной».
Мне бы хотелось, чтобы мои ученики осознали: человечеству СРОЧНО нужно не только осмыслять вступление в мир ИИ — это уже происходит, — но ещё и разрабатывать новые этические нормы и юридические принципы. А ещё, чтобы ребята задумались о том, как помешать использовать достижения искусственного интеллекта диктаторам и агрессорам.