«Прямо сейчас» с Михаилом Климарёвым
С одной стороны, звучит круто, удобно, но как-то небезопасненько. Было такое уже, баловались с этим, когда просто по телевизору кричали «Алиса, включи музыку», и во всех домах музыка какая-то включалась, потому что Алиса услышала приказ из телевизора. Сейчас, наверное, это не работает. Там все-таки научились делать определение голоса, биометрию по голосу научились делать вроде более-менее надежно. Я бы не сказал, что это тема, которой надо сильно бояться, но на месте людей, которые используют эту Алису… Ее надо использовать только на отдельном телефоне, и я бы поостерегся давать ей банковский счет…
Поддержите «Эхо», если вы не в России
Подписаться на канал «Эхо»
Д. МАНЖУРА: Всем привет! Меня зовут Даша Манжура, и мы в программе «Прямо сейчас». Сегодня у нас в студии исполнительный директор «Общества защиты интернета» Михаил Климарев. Михаил, здравствуйте!
М. КЛИМАРЕВ: Да, здравствуйте. И прямо сейчас мы поговорим об интернете, наверное, да?
Д. МАНЖУРА: Да.
М. КЛИМАРЕВ: Хорошо, что меня позвали. Спасибо.
Д. МАНЖУРА: В начале августа власти устроили крупнейшую блокировку VPN-сервисов. Что нас ждет?
М. КЛИМАРЕВ: Нас ждет продолжение этой самой политики блокировки VPN-ов. То, о чем я говорю уже, наверное, с весны — о том, что нашли новые способы детектирования, то есть выявления, этих самых VPN-ов, и накапливают информацию, постепенно ее применяют, и постепенно будут блокировать все больше и больше. VPN-ы станут менее доступны. Уже сейчас, вот прямо вчера, была очередная атака, опять легло там несколько крупных сервисов.
Они восстанавливаются, они обходят, но поймите правильно: всегда вот такое восстановление от таких блокировок — это стоит денег. Поэтому цены на VPN будут только расти, и я не вижу другого способа, кроме того, чтобы больше ресурсов в это вкладывать. Как это делается? Ну, наверное, целая история, потому что надо понять вообще, как работает VPN. Давайте попробую очень коротко, потому что, ну правда, мало информации о том, как это вообще все работает.
Если от печки, то весь интернет — он устроен следующим образом: есть какие-то компьютеры, где-то разбросанные по всему миру, и они связаны между собой какими-то проводами. Для того, чтобы отличить один компьютер от другого компьютера, у каждого компьютера есть свой что?
Д. МАНЖУРА: IP-адрес.
М. КЛИМАРЕВ: Правильно, адрес. Ну, IP-адрес — поскольку это не люди, а компьютеры, для них это числа какие-то, вот этот IP-адрес. Они там нескольких версий есть, но неважно. И как блокировки устроены? Если цензор знает, к какому компьютеру вы подключаетесь, то есть знает его адрес — он может быть как в виде IP-адреса, так может быть в виде домена, — то он его блокирует. То есть все пакеты, которые туда идут… Это как конверт: на конверте написан адрес, куда этот пакет летит. И вот он, зная этот адрес, это все блокирует. Если он не знает, по какому адресу — ну, точнее, он знает, по какому адресу летит, но не входит в этот так называемый «черный список», — этот пакет пропускается. Довольно просто все, да?
Как получить доступ, не знаю, к той же там… К чему? К Ютубу. Вы запрашиваете не напрямую, а подключаетесь. Ютуб, потому что он будет заблокирован, цензор уже знает. Увидит на конверте, что вы обращаетесь к Ютубу, и этот пакет, буквально вот это письмо — он его не пропустит. А вы обращаетесь к другому, к третьему компьютеру, который в этот список не входит. И он уже, как бы работая курьером, сбегает в Ютуб, возьмет там пакет и потом его вам вернет. То есть вот так это работает, вот этот принцип обхода блокировок. Если этот сервер не находится в этих самых блэк-листах, то вполне себе VPN работает.
Что надо делать Роскомнадзору? Надо ему находить вот эти самые IP-адреса. Вот он научился как раз делать эффективно — довольно эффективно по отношению к тому, как это было раньше, — научился довольно эффективно находить эти адреса.
Как он это делает? Он заставил работать директоров колхозов. Ну, в смысле, Роскомнадзор. В смысле, даже не Роскомнадзор, а точнее, прямо фамилию можно называть — это Шадаев, вот лично. Он вызвал руководителей крупнейших организаций, крупнейших IT-компаний России, там 20-25 их было… Ну, сумма не важна, но там входили все Озоны, Wildberries, Яндекс, VК, естественно — вот эти все компании. И он им сказал: типа, если вы не будете ограничивать доступ к вашим ресурсам через VPN… А мы будем контролировать это. То есть мы возьмем, купим VPN и попробуем подключиться к Яндексу. И вот если мы сможем это сделать, то мы вас выкинем из списка аккредитованных IT-компаний. А это что означает? Это означает, что все мужское население вот этой самой компании идет на СВО. Буквально. То есть это буквально под страхом смерти сделано было.
Ну и, соответственно, эти компании начали эти выходы блокировать. А поскольку им надо тоже задетектировать этот самый VPN, у них есть возможность это делать технически, у них есть инженерные кадры для того, чтобы это сделать, они это начали делать довольно эффективно. И начали собирать дату, то есть откуда, с каких адресов к ним приходят пользователи не из России.
Самый простой способ это сделать, выявить, что это VPN — если у вас есть приложение. Ну, например, те же самые Яндекс.Карты или тот же самый МАХ. Почему мы говорим, что не надо пользоваться приложениями российской разработки? Вот именно поэтому. Смотрите, те же Яндекс.Карты — у них есть доступ к геопозиционированию. Ну а иначе смысл пропадает вообще в этом приложении. Яндекс.Карты видят, что вы находитесь, не знаю где, — в Мытищах. А IP-адрес почему-то приходит из Нидерландов. Какой из этого вывод делается? Что вы, скорее всего, пользуетесь VPN. И все.
И как защититься от этого, я не знаю. Ну то есть нет такого способа. Ну, кроме того, что не пользоваться VPN-ом, когда вы подключаетесь к каким-то ресурсам. Но люди забывают это сделать. Сотни — ну, не сотни, но десятки миллионов людей уже используют VPN, и они, естественно, забывают. Вот мы сейчас работали с VPN-ом, и тут же открываем там условный этот, не знаю, МАХ. А МАХ уже точно совершенно коллекционирует, коллектит — как это сказать? собирает, вот слово, — собирает все эти IP-адреса. Естественно, он их складывает в базу данных соответствующую, а база данных уходит уже в Роскомнадзор, который уже включает вот этот свой рубильник, блокируя вот эти самые IP-адреса, те компьютеры, к которым вы обращаетесь как к VPN-у.
Поэтому из всех таких советов на сегодняшний день самым таким, мне кажется, адекватным является то, что у обычного пользователя должно быть два телефона: один телефон для того, чтобы использовать VPN, для всего того, что вы там любите использовать, а второй – для советских (российских) сервисов. Не знаю, то, что вам нужно — банк, не знаю, те же карты какие-то и так далее. То есть вот такой вариант мне кажется наиболее адекватным.
Там есть еще варианты. Там всякое используют программное обеспечение, но это не работает. Просто, опять же, люди будут забывать что-то, включать-выключать, там какие-то шелтеры, еще много чего есть. Это просто плохо работает для неквалифицированных людей. То есть им не надо знать об этом ни о чем, голову не забивайте себе, что называется. А те, кто разбираются — там уж ваше дело, вы там на свой страх и риск используйте все эти технологии. Ну и поскольку вот эти данные постоянно накапливаются… Они, видимо, копят-копят их, и раз в неделю… Обычно это происходит где-то по вторникам — есть уже паттерны такие поведения.
Д. МАНЖУРА: Как пятница с иноагентами.
М. КЛИМАРЕВ: Да, как пятница с иноагентами. Обычно по вторникам включают вот эту машинку на полную катушку, блокируют довольно много VPN-ов. Но вот обратите внимание, следующий вторник, условно, посмотрите — в этот вторник было, в прошлый было. На будущий вторник если повторится — это называется метод математической индукции, N+1, — если на следующий вторник повторится, то, наверное, это какой-то паттерн уже поведенческий.
В общем, дело плохо на самом деле с этими со всеми VPN-ами и как обходить эти все блокировки. Самое-то главное, тоже чтобы вы понимали, вы можете вести себя совершенно адекватно. У вас есть максофон — название даже ему придумали, — у вас есть максофон, но у вашего соседа нет максофона, а вы пользуетесь одним и тем же VPN-ом. И вот он его спалил. То есть не вы спалите его, а ваш сосед его спалит, или кто-то купил еще. И в этом проблема большая. Используя таким образом все эти вещи, вы таким образом помогаете Роскомнадзору и делаете себе же хуже.
То есть вы делаете себе хуже, потому что цены на VPN-ы растут. Потому что VPN-провайдеру нужно будет вот эти IP-адреса, которые зашли в блок — их надо поменять. Это все стоит денег, и немаленьких, надо сказать. То есть там счет идет на сотни, на тысячи долларов, использование этих всех IP-адресов, блоков IP-адресов. Их невозможно менять: типа, сегодня один, завтра другой. Это довольно дорого. Там все равно какой-то цикл, есть определенные смены ротаций этих всех IP-адресов. В общем, на самом деле ситуация не очень хорошая. Кроме того, там Роскомнадзор с этими всеми DPI, то, что они называют ТСПУ — они их продолжают…
Д. МАНЖУРА: Расшифруйте, пожалуйста.
М. КЛИМАРЕВ: Технические средства противодействия угрозам. Это российский такой бюрократизм. В инженерной науке это называется DPI, Deep Packet Inspection — оборудование глубокой проверки пакетов. Но это второй способ блокировок: помимо того, что вы можете заблокировать адрес, вы еще можете заблокировать транспорт, то есть то, каким образом эти пакеты передаются.
Тоже, наверное, надо рассказывать, что такое пакет — давайте я пока это отпущу. Но надо сказать, что все в интернете работает по протоколам. Протокол – это набор правил, так назовем это, то есть то, каким образом один компьютер понимает другого компьютера. Они должны общаться на одном языке. А раз эти компьютеры знают между собой вот этот язык, соответственно, его знает и цензор. И раз он знает его, он может его блокировать именно по протоколам.
Вот эти все VPN-протоколы, такие модные, очень эффективные, такие, как WireGuard, OpenVPN, Hypesec — вот те, которые не скрываются, которые прямо показывают, что это вот мы, VPN-протоколы, — они были заблокированы еще в 2023 году. Те протоколы, которые сейчас существуют — в основном это разработки китайских товарищей, но они просто раньше начинали эти протоколы обходить. У российских тоже появляются протоколы. Они как бы мимикрируют под другие протоколы. То есть с точки зрения цензора это выглядит, что какой-то сайт в интернете, и вы с ним ведете какой-то такой очень интенсивный обмен. Что это может быть? Это может быть игра какая-нибудь, например, похожая, может быть видеопоток какой-то, может быть, вы общаетесь через видеосвязь какую-то. И это все очень похоже. Если все такие же протоколы блокировать, то перестанут работать многие сервисы. Поэтому они мимикрируют под обычные протоколы, которые довольно широко используются в интернете.
Но они при этом, конечно, теряют эффективность в том смысле, что вам же нужно один пакет, который у приложения конкретного существует, переделать, перепаковать и положить его в другой пакет. На это уходит машинное время, электроэнергия на это уходит, поэтому батарейки у телефонов быстрее садятся, если вы используете VPN…. Ну, такие банальные совершенно вещи. И самое-то главное, современные вот эти протоколы, которые могут мимикрировать под другие протоколы — они требуют вычислительных ресурсов, которых просто не было у старых устройств. Например, с какими-нибудь iPhone 7 многие VPN-приложения уже отказываются работать. Там все равно начинается с каких-то более серьезных. Не знаю, под Windows XP, например, там уже почти нет приложений, которые смогут именно обрабатывать вот этот современный трафик. Поэтому там придется еще и компьютеры менять, еще что-то делать.
В общем, блокирует это, конечно, Роскомнадзор, но платят за это обычные граждане. Я как раз сейчас тут заканчиваю работу: оценка моя в деньгах, сколько чего обходится. До 2030 года — это утечка какая-то была, кто-то публиковал об этом информацию, — должны потратить порядка 1,2 млрд. долларов на систему блокировок. Это только на закупку оборудования, которое там заложено в бюджетах. Эту цифру надо, наверное, умножить на 3. Ну, потому что оборудование, его надо завести и привезти, электричество, обслуживание…
Вся вот эта кодла, которая работает в этом самом Роскомнадзоре, ЦМУ ССОП, ГРЧЦ, во всех этих министерствах, все эти невозможные чиновники — их там на круг… Я не знаю точную информацию — опять же, никто ее не знает, но их на круг в районе 20 тысяч человек. Сколько 20 тысяч человек в год потребляют? У них зарплата хорошая, это же чиновники. Больше, чем у учителей, зарплата у них. Я не хотел сказать, что они все миллиардеры — начальство-то конечно же, но, тем не менее, это не люди, которые просрочку у «Пятерочки» собирают.
В общем, эту цифру, наверное, надо умножить на 3. То есть, грубо говоря, стоимость — только из бюджетных денег на это все, на это все веселье тратится порядка 3 миллиардов долларов. Но это не за год, это получается с 2026 по 2030 год, за 5 лет. Вот порядок цен примерно такой, порядок цифр примерно такой.
Сколько несет потерь экономика? Я думаю, что смело можно умножать эту цифру на 10. Вот смело. А может быть, даже и больше. Сколько это конкретно, мне трудно очень сказать, потому что никто таких исследований не делал. Как их делать, не очень понятно, у нас нет статистики какой-то. Но вы же понимаете, что недополученная прибыль – это не совсем то, что прямые потери, сколько прямо потратили. Но порядок примерно такой, то есть там плечо 1 к 10. Это вполне себе, мне кажется, актуальная штука.
Это не считая потерь от прямого отключения интернета. Он гораздо больше, он уже в процентах от ВВП считается. Там тоже есть определенные формулы, по которым это все считается. Самое большое исследование на эту тему было сделано Институтом Брукингса в Америке, но оно было давненько сделано, вот мы его потихонечку обновляем. Там коэффициенты вовлечения в цифровую экономику, количество этих всех компьютеров на руках у населения — это все в одну упаковочку есть.
На сайте «Общества защиты интернета» есть калькулятор шатдаунов, интернет-шатдаунов. Вы можете посчитать по каждому региону, во сколько обходится отключение интернета от часа до суток. 10 суток, 20 суток — все это можно посчитать. Прямо зайдите, посчитайте, сколько стоит в вашем регионе отключение интернета. Опять же, это цифры, которые потери от экономики. То есть это не точные цифры, но это порядок примерно такой: по-моему, 42 миллиарда рублей, то есть полмиллиарда долларов примерно, получается, стоят сутки полного отключения России от интернета. Мы еще не там, у нас все-таки типа отключения только на мобильных сетях происходят, но, в общем-то, приближается уже к этому. И вот можно посчитать, сколько обойдется экономике отключение от интернета.
Причем эти цифры уже, то, что в Институте Брукингса было посчитано… Я забыл, как зовут автора, память плохая у меня на фамилии, простите. Нет, не вспомню, ладно, напрягаться даже не буду. Эти цифры подтверждаются в том числе иранским вариантом, когда у них больше двух месяцев не было интернета вообще в стране, и вот эти потери экономики. Но, опять же, мы их не можем сейчас как-то подтвердить, потому что там тоже нет никакой статистики, и тоже они ничего не публикуют толком. Но люди, которые там за этим всем следят, утверждают, что там с экономикой прямо очень плохое состояние, прямо очень все плохо. Может быть, люди голодать не будут. Все-таки XXI век, и туда какую-то еду привезут, и стоимость калорий настолько низка сейчас, что, наверное, как-то голодать не будут. Но что они там хорошо живут, я тоже, наверное, не буду утверждать от слова «совсем» — простите тоже за этот оборот.
Д. МАНЖУРА: В Минцифры обсуждают расширение прав для Алисы в том числе доступа к другим приложениям устройств — например, банковским приложениям. Как это может работать?
М. КЛИМАРЕВ: Я не успел посмотреть эту новость — она сегодняшняя, только что буквально, свежая и так далее. Я не знаю пока, как это все выглядит. Но звучит так, как будто бы приложение «Алиса» должно получить доступ к банковским счетам. Это звучит примерно так. У меня только один вопрос здесь возникает: а банки-то об этом знают? Ну то есть, не знаю, какой-нибудь там Сбербанк. У вас стоит приложение Сбербанк — и что получается, Алиса должна получить доступ, возможность управлять вашим Сбербанком? Я что-то как-то сомневаюсь, что это именно так. Скорее всего, речь идет о том, чтобы, грубо говоря, вы с помощью Алисы могли оплачивать какие-то услуги. Ну там, не знаю, «Алиса, закажи пиццу», что-нибудь такое вот. Алиса там находит какую-то пиццу, говорит вам: «Вот, я нашла такие-то варианты — да, нет?». Вы говорите «Да» — и все, оплата прошла, пиццу привезли, вы даже телефон не доставали.
С одной стороны, звучит круто, удобно, но как-то небезопасненько. Потому что это же было такое уже, баловались с этим, когда просто по телевизору там кричали «Алиса, включи музыку», и во всех домах музыка какая-то включалась, потому что Алиса услышала приказ из телевизора. Сейчас, наверное, это не работает. Там все-таки научились делать определение голоса, биометрию по голосу научились делать вроде более-менее надежно. Может быть, с этим все связано.
Я бы не сказал, что это тема, которой надо сильно бояться, но на месте людей, которые используют эту Алису… Я повторю, ее надо использовать только на отдельном телефоне, и я бы что-то поостерегся давать ей банковский счет.
Д. МАНЖУРА: Звучит очень разумно. Есть еще одна новость про искусственный интеллект. Российские хакеры использовали ИИ и для атаки на несколько структур Европы и США. Как вообще это могло получиться? Что это может значить для безопасности Европы и США?
М. КЛИМАРЕВ: Да ничего не значит, потому что использовался-то не российский же искусственный интеллект. Использовался… Это даже не взлом. У этого есть специальное название. Это когда вот эти языковые модели уговаривают что-то сделать не мытьем, так катаньем. Ну, просто уболтали, что называется.
Я, опять же, очень поверхностно успел прочитать эту новость, она тоже довольно свежая. Речь идет о том, что взяли курсор, агентский софт… Как бы объяснить-то, как это работает? У этого программного обеспечения есть возможность отдавать команды в интернет. Ну вот как обычный человек пишет текст. То есть вы подключаетесь к какому-то серверу и пишете текст. Какие-то команды подаете ему, какие-то пакеты разворачиваются, сворачиваются, что-то там происходит, выводится на экран, либо куда-то в другое место. И, собственно, все взаимодействие с удаленными компьютерами выглядит примерно вот так.
Это сложная работа, там специально учатся этому… Ну, неважно. Так вот, создали такой инструмент. В общем-то, большая лингвистическая модель — она, в принципе, так и работает: она генерит текст. Она может генерить эти команды. И вот курсор, собственно, вот этот агентский софт — он подключается к интернету, и ему какая-то модель… Я не знаю, какая, не успел прочитать, не увидел конкретно, какая языковая модель. Скорее всего, Grok, потому что курсор как раз принадлежит вот этой компании xAI, или как она сейчас называется — короче, Илону Маску. И они купили этот курсор за какие-то очень большие деньги и, скорее всего, Grok уговорили что-то там взломать.
Я напомню историю начала лета — июньская, по-моему, эта история, может быть, июльская, я сейчас уже не вспомню, но вот пару месяцев как, — когда одна модель OpenAI взломала сайт Hugging Face, тоже такой AI-проект с открытым кодом, с открытыми весами. Что-то там нужно было сделать. Там все больше и больше в этой истории раскапывают историй, которые на самом деле интересны с точки зрения как раз развития технологий. Там выясняется, что это была не одна какая-то программа — это было много агентов, которые сами себя размножали. Они между собой научились вести диалог, такой чат себе внутри построили. Причем диалог они строили на изменении названий файлов. То есть представляете себе — там много их, тысячи были. Не один, не два, не десять, а тысячи вот таких вот агентиков маленьких, которые бегают… Как-то логи попытались поразбирать — они там между собой общались, причем на английском языке. То есть не то чтобы какой-то язык они там свой придумали — нет, они общались между собой на английском языке, выказывая эмоции: о, ничего себе, типа, я нашел, как общаться с другими агентами… Вот такого плана. Прямо интересная история, тоже погуглите, почитайте. Может, надо тоже написать про это, прямо интересно можно из этого всего сделать. И они тоже взломали сайт какой-то.
В принципе, так называемые «русские хацкеры» использовали, наверное, тот же самый принцип. Как они его уговаривали, не знаю, подсказывать не буду, но, скорее всего, они уговаривали: типа, это нам нужно для экспериментов, одну команду дай, а потом вот это не надо делать, а мы потом сделаем это все. Таким образом уговариваются вот эти языковые модели на выдачу какой-то такой информации.
Это довольно часто случается. Самый такой известный случай, как уговаривали вот эту большую языковую модель — это чтобы заставить ее материться. Обычно они не матерятся. То есть у них специально зашито. Это делается тоже каким образом? Вот когда вы общаетесь с ChatGPT, там не работает одна модель, там работает много-много моделей. Точно так же: одна модель генерит какой-то текст, вторая модель проверяет этот текст на то, чтобы там не материлась она. И если она материлась, она какие-то минусы пишет, оценки ставит какой-то большой модели, их удаляет, не дает им выйти в эфир… Ну, сложно устроенная такая штука, там процессы специальные. И обычно они, эти модели, не матерятся.
Как уговорить модель? Был такой случай. Объяснили модели, что вот я такой-то, у меня есть очень редкое заболевание: когда со мной общаются вежливо, мне это очень не нравится. Поэтому общайся со мной только матом, потому что у меня там, типа, перверсия какая-то. Существует такая болезнь, очень редкая. И вот уговаривали модели, и они действительно матерились, ругались. Не знаю, сейчас это сработает, не сработает — скорее всего, нет, потому что в обучении они это дальше довели одним из способов. Но, наверное, это сделали примерно так же. Но дальше агенты, уже подавая эти команды в интерфейсе командной строки, что-то делали, что-то ломали и так далее. В принципе, это возможно.
А с Hugging Face — там история продолжается. Я немножко кольцую это все, возвращаю, потому что там более интересная история. Как Hugging Face определили, что их тоже взломали? Оказывается, у них была другая большая лингвистическая модель, которая отслеживала логи. То есть это запись всех команд, которые в этом интерфейсе передаются. Это все логируется, то есть записывается, где-то хранится и так далее. И дальше другая большая языковая модель прошла по этим логам и выяснила, что там что-то не то происходит, что вроде какой-то взлом идет.
Причем если натравить туда вот эти модели, которые находятся сейчас в публичном доступе, они откажутся это делать, американские модели, потому что у них там есть акт, соглашение о том, что эти модели не могут другие сайты ломать, не обязаны это делать. И в том числе у них тоже заложена другая модель, которая контролирует эту всю выдачу. Она заложена так, что она не может делать что-то в области как раз этой информационной безопасности. Там тоже подходят к этому по-разному разные модели, но общее место примерно такое.
Так вот, Hugging Face использовали китайскую модель, у которой это не было заложено. И отсюда встает довольно интересный такой, философский, я бы даже сказал, вопрос. Вопрос на самом деле глобального масштаба. Это по поводу вооружения, то есть можно ли использовать большие языковые модели как оружие. Выясняется, что можно, поскольку с этой моделью можно сломать, например, какую-то информационную систему. Если одна страна, допустим, регулирует использование модели как оружия…
Д. МАНЖУРА: Например, Евросоюз.
М. КЛИМАРЕВ: Например, Евросоюз. А другая страна не регулирует это… Ну, Евросоюз из этой гонки AI выпал как субъект такой. Причем надо отметить, что в Европе находится довольно много исследовательских институтов, которые занимаются в том числе ИИ, которые работают на американские IT-компании. У тех же, не знаю, OpenAI, у Anthropic и так далее, у Google тем более, лаборатории по всему Евросоюзу. Вот у нас в Берлине несколько этих лабораторий. У Google здесь огромный офис в Берлине находится.
То есть я бы скорее говорил, что западный блок, Европа и США — и Канада туда же, в Канаде довольно много лабораторий находится… Какая разница, где ты находишься, если ты все равно через интернет общаешься? И, наверное, китайская модель. Вот две конкурирующие сейчас в мире.
Китайские модели пока этого не регулируют, но они сделали упор на модели так называемые «с открытыми весами». Это с экономикой связано, тоже отдельная история. Поскольку у них есть дефицит вычислительных мощностей, они решили, что они пойдут таким путем, что вроде мы модель подготовили, а вы можете сами использовать для своих целей — у нас нет возможности вам давать вычислительные ресурсы для вычисления, для работы подготовленной модели. Но у них нет вот этого сложного регулирования, как в западной модели. Поэтому они более лояльны, наверное, эти модели, научены уже обращаться в том числе к использованию их как оружия.
Там тоже есть свои ограничения — например, связанные с китайским правительством, с цензурой. Там есть вот эти ограничения, но они сосредоточились именно на них. Им главное, чтобы вот эти китайские модели Си Цзиньпина Винни-Пухом не называли. А американским моделям, западным моделям, на это наплевать. Но с точки зрения как раз каких-то таких вещей… А там довольно много таких. Помимо того, что использовать как оружие, для хакинга какого-то, для компьютерного взлома, их можно использовать для синтезирования, например, каких-то веществ, для составления рецептов как раз синтеза ядов, например, каких-нибудь, или какого-то оружия.
То есть, по сути дела, сейчас все упирается в знание какое-то. Оружие можно напечатать на 3D-принтере, уже много есть таких. Но это вам надо модель составить, а модель вы на чем — вы на компьютере делаете. А компьютер – понятное дело, что это сейчас гораздо проще уже не самому сидеть… Можно и самому сидеть, но это вы там много-много часов на это потратите. А с помощью ИИ можно гораздо быстрее эту модель сделать — напечатать на принтере, и у вас получается какой-нибудь пулемет. Ну, условно. То есть вот такая вот история, которая связана как раз с вепонизацией… Не знаю, как на русский это слово перевести, вепонизация.
Д. МАНЖУРА: Производство, наверное. Увеличение производства оружия, вооружения.
М. КЛИМАРЕВ: Нет, именно сделать из какого-то любого предмета оружие. Применимо к системам цензуры, вот этот подход к вепонизации, о том, что систему цензуры можно превратить в оружие — он тоже сейчас начался, этот тренд уже пошел. Мы в России это видели уже, как это выглядит.
Я не могу это рассказать на конкретике, на широкую публику, что называется, по принципу «не подсказывай». Но уже мы видели по крайней мере один такой случай, когда цензуру используют в качестве оружия, причем против самого цензора. Куда это выльется, мы пока не знаем, но с интересом наблюдаем, потому что это тоже, в общем-то, отдельная история. И к искусственному интеллекту эта тоже, наверное, вещь применима, потому что знание – это оружие сейчас. В таком мире мы живем.
Д. МАНЖУРА: Напоминаем, что вы можете присоединиться к нашему эфиру. Присылайте ваши вопросы в чат или по ссылке в описании трансляции. Мы их читаем и задаем нашим гостям. А если вы слушаете нас в приложении, то просто нажмите на стрелку на главном экране, и у вас появится ссылка для вопросов в Телеграм. И вот у нас есть в эту же тему вопрос от нашего зрителя. «Сейчас часто появляются сообщения о том, что нейросети находят уязвимости и используют их для атаки. Но сообщений о том, что они закрывают уязвимости, нет. Это оптика у пишущих такая, или нейросети пока не умеют устранять уязвимости?».
М. КЛИМАРЕВ: Ну, я уже начал об этом говорить. Вот тот же Hugging Face использовал как раз для защиты. Он анализировал эти логи и выявил атаку. Это уже фактически половина дела, что называется, когда вы выявили, что есть атака. Самое-то неприятное в кибервзломах — это то, что взломали… Ну вот Берлин, опять же, взять. Недавно тут у нас история: взломали местную мэрию, выволокли оттуда 4 терабайта данных. Если бы какой-то ИИ за этим делом смотрел, следил, они бы увидели, что идет какое-то скачивание каких-то невероятных объемов, и это могли бы пресечь. Унесли бы там, не знаю, один терабайт, а три-то осталось бы. То есть все равно эффект от ущерба был бы ниже, например.
Нет, почему это все прямо используется. Большинство существующих систем кибербезопасности используют нейросети. Но не вот эти вот, которые сейчас, фронтирные, но условные… Это даже раньше гораздо началось. Вот эти антивирусы, которые были — заметьте, они пропали куда-то, что-то раз, и вирусов не стало. Почему? Потому что система защиты, все эти антивирусы — они в том числе применяли так называемые эвристические алгоритмы для того, чтобы эти вирусы выявлять.
Д. МАНЖУРА: Расскажите, что такое эвристические алгоритмы.
М. КЛИМАРЕВ: Ну, это зачатки искусственного интеллекта, когда условный код… То есть как определить вирус в стародавние времена? Сейчас сложнее все гораздо. Как определить вирус в стародавние времена? Постоянно сканируется диск, постоянно он смотрится и сравнивается с так называемыми сигнатурами. Вирус – это все равно какой-то код. Код — он похожий на что-то. То есть представьте: это все один текст, и вот там какие-то команды в этом вирусе, какие-то конкретные команды. Мы их определяем как вирус. И, собственно, постоянно антивирус сканирует. Находит что-то такое, кладет этот файл, где он обнаружил этот самый вирус, в специальный загашник, откуда его запустить нельзя. Он просто удаляет его, этот объем памяти, переносит в какое-то место — карантин его называли, — где он не может запускаться, не может никак работать, но его можно посмотреть, поизучать, что-то с ним сделать. Например, ошибка какая-то была — его вернули.
Поэтому вирусы начали самомодифицироваться, то есть они начали вот этот код свой всяко изменять. Причем случайным образом, это тоже возможно — какой-то определенный алгоритм, который потом сам себя пересобирает. И этот алгоритм может быть разным. Это назвали стелс-вирусами, и появился другой алгоритм, который как раз эвристически подходил. То есть он как бы прикидывал, что будет, если вот этот код запустить, и он пересобирается во что-то… Короче, там довольно сложный алгоритм, который сейчас тоже…
Д. МАНЖУРА: Предсказывает.
М. КЛИМАРЕВ: Ну, с некоторой долей вероятности он говорит, что это тоже вирус. Он как бы детектирует его. Это давно используется, с точки зрения безопасности эти технологии используются довольно давно. Сейчас это еще сложнее стало. Сейчас это стало на уровне, не знаю, уже буквально пакетов. То есть специальные какие-то пакеты посылаются, которые могут принести вред какой-то системе, и это тоже сейчас все довольно широко используется для того, чтобы, опять же, детектировать DDoS-атаки, чтобы выявлять, откуда ядро. То есть, когда у вас много-много пакетов сыпется в одно место, вам нужно понять, кто является источником этих пакетов. Они там зеркалятся — вот, грубо говоря, все эти зеркала разбить. Для того, чтобы понять, откуда реальная атака происходит, тоже используются вот эти алгоритмы все. Но это не искусственный интеллект, наверное — все-таки больше, наверное, надо называть «машинное обучение». Хотя между этими терминами тоже сейчас уже понятия, наверное, размыты.
Д. МАНЖУРА: Есть еще один вопрос от зрителя: «Какой самый лучший искусственный интеллект и какими вообще лучше не пользоваться?»
М. КЛИМАРЕВ: Боже… В английском языке есть такое слово «it depends». Оно меня дико бесит, но на русский можно перевести «в зависимости от». Что вы хотите сделать? Для каждого занятия нужен свой инструмент. У каждого инструмента есть специализация, цена, ну и, наверное, степень, в которой вы этим инструментом владеете.
Специализация — имеется в виду, для того, чтобы выявлять, допустим, этот паразитный трафик, вам, наверное, надо какое-то специализированное машинное обучение. Потому что языковая модель до этого не подойдет, она слишком медленная будет. То есть она слишком много информации перерабатывает, чтобы сделать какой-то вывод, и она просто не будет это успевать. А вам желательно, чтобы это вообще на кремнии работало, чтобы вот этот алгоритм, который он находит, существовал вообще на уровне чипа, микропроцессора какого-то — самое крутое, самое быстрое, что вообще может быть, на сегодняшний день по крайней мере. Поэтому вот там нужен такой искусственный интеллект.
Для роботов он тоже желательно на кремнии, потому что он там в режиме реального времени, все это быстро используется и так далее. Какие-то вещи можно передавать, наверное, через интернет, но вы не успеете, опять же. Просто вот эти задержки — это же физика: скорость света конечна. А скорость света в среде — она меньше, чем скорость света в вакууме.
Д. МАНЖУРА: Ну а если, например, для личных целей? С точки зрения того, где безопаснее.
М. КЛИМАРЕВ: А чего вы делаете?
Д. МАНЖУРА: Чтобы мои данные никуда не утекли, например.
М. КЛИМАРЕВ: Какие данные?
Д. МАНЖУРА: Ну просто вот… Не знаю, вот я тексты пишу и не хочу, чтобы какая-то информация… Или, не знаю, для повседневной жизни использую — гуглю, в какие мне места пойти в Берлине. Чтобы вот эти данные случайно не оказались в публичном доступе.
М. КЛИМАРЕВ: Ну, насчет того, куда вы там ходите и что-то там делаете — это все равно в публичное попадут, потому что… Ну как попадут? Не в публичное попадут, а в тот же Google, потому что вы же по карте пойдете, а карта у вас, скорее всего, Google. Ну и любая другая. И тогда будет любая другая карта об этом знать. Вы же ввели. Вот эти все логи — они где-то сохранились.
Смысла как-то там от этого скрываться я большого не вижу, потому что за все надо платить. Вы когда заказываете любой товар какой-то, вы все равно говорите свой адрес, куда вам этот товар должен быть принесен. И по-другому вы не можете никак сделать. Почему? Потому что куда он будет приносить вам этот товар? Ну, то есть это глупо. Это как бы информация, которая неотъемлема от исполнения договора, так скажем.
Поэтому глупо от Гугла что-то скрывать, потому что, во-первых, он улучшится еще, он будет эффективнее вам выдавать и так далее. Даже с рекламой с той же самой. Это тоже классика жанра, когда алгоритмы рекомендаций, рекомендательные алгоритмы — они выдают… Тоже случай был — он довольно давний, сейчас не вспомню подробностей, но, по-моему, он был связан с Фейсбуком, — о том, что там какой-то девочке 15-летней начали выдавать рекомендации покупки детских вещей всяких разных — не знаю, подгузников, вот этого всего. И вроде на каком основании? А она беременная оказалась. Вот эти алгоритмы — они распознали гораздо раньше по каким-то признакам… Какие, там до сих пор непонятно. Ну, не знаю, что она там начала. Беременная женщина что там чаще всего вспоминает? Ну, как бы ищет где-то, гуглит или там, не знаю, какие-то тексты вводит. Вот каким-то образом она это определила.
И действительно, вот эти алгоритмы — они сейчас уже прямо невероятные на самом деле стали. С одной стороны, кажется, что это все неприятно, а с другой стороны, если перевернуть доску, в общем-то, на самом деле, удобно. Ну то есть это же хорошо, что если вы мужчина предпенсионного возраста, вам не рекламируют детские товары? Может, это и хорошо, потому что зачем вам детские товары? Вы их не купите, во-первых — ну зачем? А с другой стороны, хорошо, если вам, не знаю, напомнят шины поменять. Вот сезон наступает — здесь, в Германии, замена шин прямо обязательная, штрафы. Причем какие-то штрафы довольно высокие; там на сотни евро идет, если вы забыли просто поменять. День пропустили, и полицейский просто штраф наложит — и все, и никто спрашивать не будет. А вот если вам напомнят лишний раз о том, что надо поменять шины, так чего плохого-то в этом? Поэтому это все с разных сторон можно смотреть. А я вопрос забыл…
Д. МАНЖУРА: Какой самый лучший искусственный интеллект.
М. КЛИМАРЕВ: Какой самый лучший искусственный интеллект, да, далеко ушли. Заразмышляли, что называется. Ну, давайте я по себе, давайте попробую по себе просто рассказать. Я пользуюсь каждый день, много пользуюсь. У меня есть несколько моделей, которые любимые, которые что-то делают. Для программирования я использую Anthropic Fable в основном, но она дорогая. Надо понимать, что она там 15, по-моему, долларов за миллион токенов, какой-то вот такой расчет. Поэтому если там что-то большое, какой-то большой проект делать, я вначале делаю, планирую все на Fable со всей архитектурой, разметкой и так далее, а потом отдаю это более дешевым, какие-то компоненты собирать. Потом все это Fable опять обратно собирает уже в единую вещь.
Если что-то связано с поиском, то с этим лучше справляется Google, Gemini, который у него. Вот он прямо тоже это великолепно делает. То есть он с точки зрения поисковых каких-то вещей — «Я не помню какую-то фразу. Вот найди мне ссылки, которые подтверждают вот эти слова. Кто сказал, не помню», — и он прекрасно… Вот Google с этим лучше всех справляется, лучше Антропика. Какие-то вещи, которые связаны с обработкой звука текста — ну, речи…
Д. МАНЖУРА: Расшифровкой.
М. КЛИМАРЕВ: Расшифровкой и так далее — с этим справляется лучше ChatGPT. Вот это новая тоже у них модель. Там есть вот это тоже агентское — вот это сейчас новая тема, — агентское ПО, он называется Codex. Он очень хорошо раскладывает. На телефоне у меня стоит тоже — я просто иногда что-то диктую, и он это превращает в текст. Я забыл, как она называется, другая программка. Блин, она у меня просто установлена как… Whisper называется, Whisper Flow. Она устанавливается как клавиатура, только вместо клавиатуры там одна кнопка «Микрофон». Вы нажимаете, и очень удобно: вы просто надиктовали что-то… Долго же печатать, на ходу особенно. И программирование сейчас выглядит так: я вот с этим Whisper буквально на телефоне надиктовываю, ставлю какую-то задачу… Не знаю, пошел на прогулку или там побежал пробежку какую-то свою делать — вот пока бегу, он мне обрабатывает там несколько десятков минут. Там что-то шевелится — я прибегаю уже, прихожу, у меня уже все вот готово. Вот так эта работа сейчас выглядит.
Д. МАНЖУРА: Оптимизация.
М. КЛИМАРЕВ: Да, программиста. На самом деле за этим очень интересно наблюдать, потому что это правда, сейчас уже вот эти языковые модели — Anthropic, Codex, Claude, кто угодно… Gemini. DeepSeek, кстати, тоже неплохой, и еще одна какая-то китайская модель — тоже уже забыл, недавно появилась. Там цифры какие-то были, все вылетело из головы. Неважно. Они довольно неплохо программируют. И сейчас, если когда-то там нужно было собирать команду джунов — типа, как назвать? падаваны, юные падаваны, — те, которым просто поручали какую-то работу, которую надо было сделать механистически.
Ну, например, у программистов довольно много работы занимает работа с чужими системами — так называемый API, Application Program Interface. Это некий набор правил, опять же, как программа принимает или отдает какие-то данные. И там довольно большие документы. И вот вам нужно разобраться, как работает какой-то новый API. Это раньше выглядело так: садишься и начинаешь — вот мне надо такую-то задачу, а как эту задачу выполнить? И вот начинаешь по справочнику листать ее. Читаешь — нет, не подходит; нет, вот этот, следующий; нет, вот этот метод тут тоже как-то не очень хорошо… А вот этот подходит — пробуешь его, а он не работает. Ну и дальше начинаешь. Очень много времени на это уходило. Обычно поручали такую работу как раз джунам: вот, разбери такой-то API, не знаю, прорисуй интерфейсы… Тоже механистические какие-то штуки: надо было там нарисовать что-то там, переправить. Сейчас это делается в один запрос: разбери мне вот этот API и скажи, какой метод мне тут подходит. И раньше на это уходила неделя, не шучу — теперь на это уходят минуты. Вот настолько это время сжалось.
И получается, что один человек там производит кода на порядки — не на порядок даже, на порядки, то есть несколько нолей, — больше, чем это было до AI-эры. И прогноз стоит такой, что еще год, ну бог с ним, три года, и программировать руками уже никто не будет. Потому что они будут уже настолько хорошо делать, что не надо будет их контролировать, или там другой агент их контролирует. Но так и делается сейчас: один пишет код, второй проверяет его правильность, третий безопаску, четвертый пишет ревью какое-нибудь, пятый документацию — ну, чтобы потом это все можно было прочитать. Причем документацию сейчас отдельно пишут для людей и отдельно для ИИ, разную. И проектирование. Будет ли от этого меньше программистов? Тут тоже люди наверняка интересуются этим вопросом: типа, без работы оставят их всех? Нет, просто будет больше программ.
Д. МАНЖУРА: Объем работы будет больше.
М. КЛИМАРЕВ: Объем работы будет больше. Но это как с машинами. То есть когда-то было много лошадей. Потом появился автомобиль — и да, как бы лошади пропали. Но автомобилей-то стало больше, чем лошадей было до того! И самое-то главное, они же начали перевозить гораздо больше грузов. И более того, они же начали делать те вещи, которые раньше сделать было нельзя. Ну, с помощью лошадей вы не увезете… Ну сколько вам надо лошадей? Помните, у Исаакиевского собора в Петербурге вот эти колонны огромные? И в Исаакии, там есть картина, как эти колонны везут сколько-то лошадей. Кто в Питере живет, сходите, посчитайте количество этих лошадей, сколько надо было. Сейчас эту колонну уволокет, ну, один хороший трейлер. То есть раньше надо было десятки (сотни, наверное, даже) человек, которые за этими лошадями следят и так далее. Сейчас это увезет, не знаю, бригада, типа, человек пять, эту колонну утараканит куда угодно.
И то же самое с искусственным интеллектом. И за этим очень интересно наблюдать. Если не возвращаться, опять же, в Россию, где, конечно, с этим искусственным интеллектом все очень грустно. Россия — извините уж, я опять сбился на все это, но так получается, — перестала быть субъектна в этой гонке вообще всего. Спасибо Путину за это. А возможности были. И кадры были, и команды были, которые это сейчас делают. Сейчас одна из команд — это один из самых таких тоже известных стартапов, Nebius, который тоже занимается в том числе искусственным интеллектом. Гиперскейлер это называется — бизнес-модель, когда создают инфраструктуру для того, чтобы можно было обучать и использовать ИИ. Была возможность это сделать — к сожалению, сейчас нет.
Почему? Потому что вот эти все видеокарты, графические ускорители, вот это все, что надо для обучения ИИ, в России не продается. Поэтому нет оборудования, нет команд, нет продуктов, нет систем. Школа разбегается. Ну потому что чего сидеть-то, когда в мире вон что происходит? Скоро уже там, не знаю, какой-нибудь суперинтеллект действительно изобретут. Я уже в это на самом деле начинаю верить — что суперинтеллект появится на нашей жизни, на нашем веку точно. Я думаю, что лет 10 впереди до этого. Появится некий суперинтеллект, который будет на круг умнее всех нас вместе взятых. Хотя бы просто потому, что у него информации больше, он ее быстрее гораздо обрабатывает, и он ничего не забывает.
Это примерно такая же самая ситуация, как с шахматами. Я когда-то любил, увлекался шахматами, играл. Но после того, как Deep Blue выиграл, ну, не вчистую, но у чемпиона мира Каспарова тогда, я с тех пор за шахматы не берусь. Такое на меня впечатление это произвело… Ну, типа, смысл какой? Ну это, не знаю, как соревноваться в поднятии тяжести с самосвалом. Ну, типа, самосвал, конечно, победил. Ну, типа, в чем прикол тогда играть в шахматы, если машина какая-то все равно тебя победит? Ну, это такие детские, конечно, воспоминания. Но вот то, что мы сейчас тоже наблюдаем — за этим тоже гиперинтересно наблюдать. Особенно если ты находишься в среде, понимаешь, как это делается. Чего в России сейчас нет, к сожалению.
Д. МАНЖУРА: Михаил, спасибо большое! Я Даша Манжура. Это был эфир «Прямо сейчас» на «Эхе». С нами был исполнительный директор «Общества защиты интернета» Михаил Климарев. Спасибо, что слушали нас. Не переключайтесь, ждите следующей программы.