«И грянул Грэм» с Ириной Якутенко: О вирусах, ЦРУ, климате, надеждах на ИИ
Когда сталкиваются интересы нескольких или многих индивидуальностей, люди не заботятся о коллективном благе, потому что забота о коллективном благе означает откусить кусочек от своего комфорта, от своего благополучия, без какой-то регуляции разумной это все с высокой вероятностью приводит к коллапсу и к катастрофе. Так что нет, у меня как-то нет большого оптимизма…
Подписаться на канал «И грянул Грэм»
Поддержать канал «И грянул Грэм»
Купить книги Ирины Якутенко на сайте «Эхо Книги»
В. РАДИОНОВ: Ирина Якутенко, молекулярный биолог, с нами на прямой связи. Ирина, приветствую.
И. ЯКУТЕНКО: Добрый день.
В. РАДИОНОВ: Что с коронавирусом? И как можно интерпретировать заявление ЦРУ? Там вроде как есть намек на то, что он искусственный, но до конца это не озвучили. Вот как вы это понимаете? И действительно ли можно предполагать, что коронавирус, тот самый COVID-19, который вызвал мировую пандемию, был создан человеком, а не произошел по естественным причинам?
И. ЯКУТЕНКО: Мне кажется, ЦРУ не отстает от всех нас и научилось использовать современные медиа для того, чтобы пиариться. Более того, они ловко научились пиариться на старых новостях. В принципе, это удобно. Если ничего не произошло, ты сначала говоришь, что что-нибудь произошло, потом говоришь: «А, нет, ничего на самом деле не происходило». И в итоге у тебя на пустом месте сразу две новости, два повода напомнить о себе и вновь запустить разговоры.
Вот в данном случае мы имеем ровно эту ситуацию, потому что этот отчет ЦРУ, о котором идет речь, в нем не содержится никакой новой информации. В нем содержатся все те же фактически данные, которые были уже обнародованы в предыдущих документах. Просто вот тут немножко иначе расставлены акценты, чем раньше. То есть мы посидели, подумали.
Ну и раньше мы говорили, что мы с низкой степенью уверенности склоняемся в сторону естественного происхождения, то теперь мы говорим, что мы с низкой степенью уверенности же склоняемся в сторону того, что что-то могло такое произойти в лаборатории.
Но в обоих случаях мы говорим об одном и том же наборе данных, которые не позволяют сделать ни один из этих выводов, потому что, переводя с научного или с расследовательского на русский, низкая степень уверенности означает, что у нас настолько плохие фактические данные, что мы не можем заключить ни одно, ни другое.
Это вот то, кстати, чего часто не понимают люди без опыта чтения научных публикаций. Качество доказательств – это очень важный параметр. И зачастую если у нас имеется низкое качество доказательств, то что бы ни было написано в выводе, какой бы он ни был сенсационный, прорывной, долгоожидаемый, он незначим, он не имеет никакой доказательности. То есть если качество доказательств низкое, то в выводе можно написать все что угодно. У нас нет данных, на основании которых мы могли бы сделать тот или иной вывод.
В. РАДИОНОВ: Если говорить о коронавирусе. Потому что я помню, что мы делали много интервью с вирусологами, с исследователями именно в период пандемии, и практически все говорили о том, что если бы вирус имел искусственное происхождение, мы бы это увидели. Это действительно можно увидеть? То есть ученый может, исследуя вирус, сразу понять, его смоделировали или он произошел по естественным причинам?
И. ЯКУТЕНКО: И вот тут мы опять сталкиваемся с еще одним моментом, который представляет проблему и дальше будет только нарастать. Причем, кстати, не только в вирусологии, но и в любой сильно экспертной области. Мы подошли к такой ситуации, что у нас эти разные области – кибернетика, создание искусственного интеллекта, программирование, вирусология, молекулярная биология – дошли до таких уже глубин, до такой степени специализации, что разобраться с доказательствами могут только специалисты.
И по-хорошему, очень часто, например, даже во время судебных процессов, когда биологи говорят что-то про результаты ДНК, присяжные вообще не могут понять, что они говорят. И вообще говоря, при одних и тех же доказательствах можно их склонить в сторону виновен или в сторону невиновен, потому что они не понимают, о чем говорит специалист по расшифровке ДНК, и он может их убедить в любом из исходов.
Что касается того, можно ли по геному коронавируса сказать, искусственный он или естественный. Все зависит от того, каким образом мы пытались изменить его, если мы хотим изменить вирус. Если мы предполагаем, когда большинство людей думают, что некие злокозненные ученые взяли вирус и стали резать его геном и вставлять в него куски каких-нибудь других вирусов, чтобы получить вирус с максимально убийственными свойствами, максимально заразный или, как будущий возможный кандидат в министры здравоохранения США говорит, опасный для определенных национальностей вирус, то мы в него начнем вставлять разные куски и получим то, что мы хотим.
Такой вирус действительно сразу определяется, потому что он выглядит странно, мы там места склеек можем определить. Если таким образом производятся изменения, действительно это видно по последовательности.
Но есть другой способ изменения вирусов – направленный мутагенез, – когда мы ничего не вставляем, потому что мы перестаем играть в бога или не начинаем, и говорим, что мы мыслим одним способом, а природа по-другому мыслит. Мы мыслим как бы копипейст: «О, какой классный ген вот у этого вируса. Давайте мы его вставим в этот вирус и получим интересную комбинацию». Это люди так размышляют.
А природа так иногда тоже делает, но чаще она другим путем идет. Мы просто помещаем вирус в тяжелые для него обстоятельства, например, подливая противовирусные препараты, которые его поддавливают, и таким образом мы стимулируем мутацию вируса, мы заставляем его изменяться быстрее, потому что помещаем его в неблагоприятные условия.
Это, в принципе, то, как работает эволюция, когда в каких-то неблагоприятных условиях выживать начинают те, кто более приспособлен, они оставляют потомство, а те, кто менее приспособлен, не оставляют потомство. Соответственно, со временем наш генетический пол обогащается теми генами, которые способствуют выживанию, и носители этих генов уже сильно отличаются от тех, кто умер, от тех, кто был раньше и кто не приспособлен. Соответственно, мы стимулируем эволюцию вируса, подливая чего-нибудь, что его поддавливает, и таким образом можем очень ускорить процесс естественной эволюции и посмотреть, а к чему же природа…
Природа не работает копипейстом. Точнее, не всегда. Такой метод возможен, но в данном случае мы говорим о другом методе – о методе последовательных изменений. Она пробует разные изменения случайные. Случайно какое-то изменение дает этому вирусу больше возможностей приспособиться – значит, он выживает, его потомки. Потом выясняется, что это тупиковый путь – все, закрыли эту историю. Другое какое-то изменение оказалось более удачным – они пошли развиваться, потомки, несущие это изменение. И вот на основе него дальше мы новые изменения делаем.
И таким образом могут появляться изменения, которые людям в голову не приходят. Потому что фактически такая эволюция – это огромные вычислительные мощности. Просто кто-то умирает, какие-то вирусы, много-много поколений вирусов появляется. Это огромные-огромные вычислительные мощности. Мы можем это моделировать только на компьютере, например, или вот так вот в пробирочке.
И вот если вирус получен таким путем, то тут, глядя на него так просто со стороны, можно предположить, конечно, тут какой был препарат, что могло способствовать такому направлению эволюции. Но это уже не так просто, потому что фактически мы просто ускорили, поставили на ускоренную перемотку естественную эволюцию вируса и таким образом мы могли что-то получить.
Но в случае коронавируса такие эксперименты считаются неэтичными. Сразу скажу, кто испугался, слушая это все, о том, что они неэтичные, их не надо проводить. Это опасные эксперименты как раз потому, что потом мало ли что, кто-то пробирку в унитаз случайно вылил, а не должен был. Они осуждаются в научном сообществе, порицаются, но строгих регуляций нет. Особенно это касается некоторых стран, которые не очень соблюдают, в принципе, регуляции. Поэтому, к сожалению, иногда происходят такие эксперименты.
Но в данном случае не видно по коронавирусу, что это он, потому что мы не видим никаких у него особо ужасных свойств. Мы как раз видим вот то, что люди, которые говорят об искусственном происхождении, как раз про копипейст. Там как раз им не нравятся определенные места в геноме, которые якобы обычно у коронавирусов не встречаются. Хотя это неправда. Есть коронавирусы, у которых эти изменения в геноме тоже есть, но они просто не людей заражают, а другие виды, поэтому никому на них не интересно смотреть. То есть в случае коронавируса речь шла бы как раз о копипейсте. Сторонники этой версии про него говорят. Но копипейста мы не видим.
В. РАДИОНОВ: Как вообще появляется вирус? То есть что мы знаем о вирусе? Это такая загадочная история, потому что вирус, он и не живой, и не мертвый. Но в то же время нередко на обывательском уровне все-таки вирус воспринимается как что-то живое, потому что он же определенные действия производит, прикрепляется к клеткам, соответственно, человеку становится плохо. Вот если мы говорим вообще об образовании вирусов, о появлении вирусов, как это все устроено в природе?
И. ЯКУТЕНКО: Начнем мы с того, что живое и мертвое – это определения, придуманные людьми для удобства. Мы очень любим все объединять в категории. В этом наша сила на самом деле, потому что нам не надо каждый раз объяснять все про этот предмет, все его характеристики (зеленый, сладкий, растет на деревьях). Мы говорим «фрукт» – и мы сразу понимаем примерно уже, о чем речь. Или «овощ» – и опять же сразу понимаем.
Вот то же самое и живое-неживое. Живое-неживое – это не какие-то в скрижалях высеченные определения, это на самом деле набор признаков. То определение живого, которое у нас есть, это биологи наблюдали за разными объектами и выделили критерии. Мы считаем, что если у объекта есть вот эти критерии, то этот объект живой, а если у него нет этих критериев, то этот объект неживой.
Сложность в том, что есть объекты, у которых есть не все из этих критериев, а есть только часть этих критериев. Например, вирусы. У них есть множество критериев, но, например, нет метаболизма. С другой стороны, когда мы говорим о гигантских вирусах, они не так давно были открыты, огромные вирусы размером уже с некоторые бактерии, у них, в общем, можно говорить о некоем уже подобии метаболизма. То есть это не строгое определение. Поэтому лично я и многие другие специалисты предпочитают слово «квазиживой», для того чтобы во все эти споры не вступать, живой вирус или не живой вирус. Квазиживой. То есть это объект, обладающий частью признаков живого, а частью признаков не обладающей.
Что касается того, как они появились, то вирусы появились, скорее всего, даже раньше, чем то, что мы считаем классическим живым. Это в некотором смысле более простые формы. И с тех пор, когда появилось то, что мы уже считаем классически живым, появились и вирусы. Если мы посмотрим на наши геномы, мы увидим, что очень существенный процент нашего собственного генома – это как раз подобие вирусов. Всякие мобильные элементы, древние ретровирусы.
То есть это такие куски кода, которые научились очень хорошо размножаться. Потому что эволюция – это размножение кусков кода. Просто постепенно эти кусочки кода все усложняли и усложняли способы, при помощи которых они размножаются. Вот вирусы нашли очень классный способ. То есть это куски кода, которые минимальную оболочку себе придумали (белковую обычно) и научились хорошо заражать другие клетки и захватывать их генетическую машину, потому что сами они очень простые. Коронавирус, кстати, это исключение. Не то что исключение, а это довольно большой с точки зрения генома вируса.
Но, в принципе, вирусы – это такие заархивированные квазиживые штуки. И геном – это такой архивированный файл. То есть он очень короткий, но при этом довольно сложно часто организованный. То есть там с одного места просто с разной точки мы начинаем считывать и можно считать более одного гена. То есть это такие заархивированные файлы с информацией, которые несут только самые базовые вещи, необходимые для того, чтобы максимально эффективно заразить какую-то клетку, захватить ее генетический аппарат, который уже большой и содержит все то, чего у них нету, метаболизм, всякие белки, которые нужны клетке для метаболизма, а вирус их использует для того, чтобы насинтезировать себе новые копии и распространяться дальше.
То есть это такие ультимативные паразиты, максимально близкие к идее мема, к идее чистой генетической информации, которая просто распространяется. Поэтому вот такое интересное образование. Я повторюсь, оно одно из самых ранних вообще в эволюции. Не то что были нормальные живые всякие клетки, бактерии, эукариоты, прокариоты, а потом какие-то странные вирусы с другой планеты к нам прилетели. Нет, скорее наоборот.
В. РАДИОНОВ: Здесь как раз интересно вот с точки зрения когда ничего не было, в нашем классическом представлении о живом, появляется вирус, который в каком-то смысле выступает пророком. То есть это хорошая бизнес-модель. То есть появляется что-то, что в конечном итоге может быть востребовано. Но если мы смотрим на природу, понятно, сейчас я как человек размышляю, но вот в ретроспективе сначала появились они, потом природа, конечно, нельзя говорить в категориях, что что-то задумала, но ведь это очень интересно, потому что этот потенциальный код должен быть востребован. И он становится востребованным, когда уже появляются другие существа, которых мы относим к классически живым.
Вот это некое предсказание, оно как-то объясняется? Как так получилось, что когда не было ничего, появились ребята, у которых уже был потенциал, чтобы потом быть востребованными?
И. ЯКУТЕНКО: Это такой классический пример антропоцентрического взгляда на мир, что мы пытаемся понять, почему мир устроен так, как устроен, потому что очевидно же, что вершиной мироздания является стопка коньяка с ломтиком лимона. И вот мы гадаем, как же так получилось, что все, что создавалось в живой природе, оно привело в итоге к этому совершенству, к этому венцу эволюции. Но если так рассуждать, действительно возникают вопросы и загадки. Совершенно непонятно, как это все так привело к такому совершенному явлению.
Но если посмотреть на это иначе, что нет никакой цели, нет никакой конечной точки, в которой идет эволюция, а есть просто вот этот закон, базовый закон всего живого, квазиживого и того, что только собирается им стать, это вот этот закон естественного отбора и выживания наиболее приспособленных, что это чистая конкуренция.
Считается сейчас, что жизнь зародилась не в виде ДНК, а в виде РНК. Это гораздо более гибкая молекула, но она больше подвержена мутациям. И это было на том этапе хорошо. И просто случайно так случилось, что сначала появлялись эти коротенькие кусочки РНК, которые научились реплицироваться. РНК обладает самокаталитической активностью, то есть она может сама себя воспроизводить. ДНК уже так не может, ей для этого нужны белки либо рибозимы тоже при помощи РНК. Короче, ей уже нужен дополнительный всякий инструментарий. А РНК это сами могли делать.
И вот как только это случилось, дальше все происходит естественно. Примерно, как кристалл образуется. Кристаллы не живые, но мы видим в каком-то смысле похожий процесс, что когда, например, солевой раствор и мы выпариваем воду, и в какой-то момент достигнута точка кристаллизации, то есть концентрация становится соли уже достаточной, чтобы образовался кристалл, то мы бросаем какую-нибудь песчинку или что-то трясется, и у нас вдруг прямо на глазах, мы можем наблюдать это прямо в режиме реального времени, образуется кристалл. То есть вот структуры абсолютно правильные, имеющие грани, четкую эту кристаллическую решетку. А только что ничего не было. Кажется, что это тоже какое-то чудо. Нет, просто все к этому подошло.
Вот то же самое у нас с живой природой. У нас есть ситуация, в которой если вдруг случайно какие-то кусочки, элементы начинают уметь воспроизводиться, то они начинают это делать. Они сразу получают преимущество, потому что они умеют воспроизводиться. А дальше все идет методом проб и ошибок. У эволюции нет конечной цели. Это просто процесс выживания приспособленных. Кто случайно лучше воспроизводился, тот выиграл в этой гонке на этом этапе гонки, и его потомки дальше участвуют в следующем этапе гонки. Если они окажутся опять более успешными, то их потомки уже будут участвовать в дальнейшем этапе гонки. Это такое бесконечное соревнование за способность размножаться.
То есть тут нет никакого замысла. Как кристаллы. Нет никакого замысла в кристаллах. Просто как только эти условия выполняются, образуется кристалл. Вот и тут как только это условие, что что-то научилось размножаться, выполнено один раз, дальше начинается вот этот естественный абсолютно процесс. В этом красота эволюции, что не надо никакого замысла, не надо Творца, не надо какой-то высшей силы, которая вот это все продумывает.
Опять же, когда мы пытаемся так размышлять, и у нас есть конечная точка, действительно, вот откатывая назад к тому, что было миллиарды лет назад, совершенно непонятно, как можно задумать настолько сложный процесс из миллиардов-миллиардов повторений так, чтобы он точно привел вот к такому разнообразию жизни на планете. Это невозможно, скорее всего. Это слишком сложный процесс.
А он просто так и не задумывался. Он просто происходил. Происходила эта естественная конкуренция кусочков информации за размножение. Постепенно, чтобы выигрывать эту гонку, они становились все сложнее, придумывали все более хитрые трюки. И в итоге мы, люди, как носители этих фрагментов информации тоже выступаем носителями генов. Собственно, Ричард Докинс это все в пределе описал в «Эгоистичном гене». Есть такая книга, в которой он это и описывает, что мы – это средство для размножения наших генов.
В. РАДИОНОВ: А это нельзя назвать чередой ошибок? Вот эти случайности, которые привели к зарождению жизни на планете, – это череда ошибок.
И. ЯКУТЕНКО: Почему ошибок? Ошибка предполагает, что есть правильный ответ. А у нас нет никакого правильного ответа. Кристалл не является правильным ответом. Это просто следствие того, как законы физики работают. И если условия соблюдены, у нас получается кристалл. С живым то же самое. То, как друг с другом соединяются молекулы – это тоже физика, но чуть более сложно организованная. Мы организуем наши молекулы в виде кусочков РНК, например, у нас получается естественным путем.
То есть нет никаких ошибок и правильных ответов. Это просто естественный процесс, который сам по себе происходит. Если на другой планете, предположим, создадутся похожие условия, то мы можем и там увидеть очень похожую на нашу жизнь. Почему я говорю на нашу? Потому что мы пока не видели никаких примеров других вариантов жизни. Фантасты могут самую разную жизнь предполагать, и, может быть, она есть, но мы знаем пример только одной жизни в этой Вселенной, это наша белковая жизнь. Но можем предположить, что если на другой планете создадутся похожие условия, то там возникнет похожая на нашу жизнь.
В. РАДИОНОВ: Кстати, вопрос не научный, но тем не менее, если порассуждать, помечтать, вы бы хотели, чтобы жизнь за пределами нашей планеты была обнаружена? То есть не одиноко ли вам во Вселенной? Я так сформулирую вопрос.
И. ЯКУТЕНКО: Жизнь если даже есть за пределами нашей планеты, мы, скорее всего, никогда ее не обнаружим в силу физических законов, в силу того, что скорость света конечна, с этой скоростью передается информация. И, соответственно, даже если предположить, что где-то там есть жизнь, мы никогда не сможем с ней коммуницировать, потому что просто скорость передачи информации конечна.
Мы довольно далеко уже смотрим в космос и видим звезды подходящие, у которых могут быть подходящие условия, и планеты у них видим, что на этих планетах, мы предполагаем, условия похожие на то, что у нас. Но там должно столько всего совпасть, чтобы мы их увидели. И мы все равно не сможем коммуницировать, если там какая-то развитая цивилизация. Мы можем догадаться об этом по определенному набору шума, но никак ни сообщение передать, ничего мы не сможем. Потому что если мы найдем какую-нибудь такую звезду в 150 тысячах световых лет от нас, не думаю, что человечество протянет 300 тысяч лет (на самом деле дольше), пока сигнал дойдет туда, пока сигнал дойдет обратно. Думаю, мы просто никогда не узнаем ответа, потому что мы должны совпасть по времени.
Одиноко мне или нет, не знаю. Я никогда с этой точки зрения не смотрела на происходящее. Есть ли вероятность, что там есть жизнь? Да, есть. Но в силу вот этих вот причин чисто, чтобы мы смогли с ней как-то взаимодействовать, вообще ее найти, должно совпасть очень много условий. То есть и по времени они должны быть достаточно развитыми, и не очень далеко должны быть. Мы пока не видим в обозримой перспективе от нас подходящих планет.
Вот единственная надежда у нас есть на наших ближайших соседей – это спутники Юпитера, например, Европа, спутники Сатурна. Если нам повезет, то где-то под этим ледяным океаном, может быть, что-то будет. Но не надо ждать, что это другие существа. Это что-нибудь вроде наших простейших, наших бактерий даже, возможно, будет. То есть прокоммуницировать мы с ними не сможем.
Конечно, было бы очень круто обнаружить такую жизнь, потому что это подтвердило бы наше представление о том, что есть эти процессы, которые при определенных условиях запускают появление жизни. Но на самом деле ученые не сомневаются, что это так. Будет доказательство или нет? Тут как с коронавирусом. Может быть, никогда не будет и придется с этим жить. То есть, по факту, надо понимать, что, скорее всего, если мы не обнаружим это у ближайших наших соседей в Солнечной системе, тогда, к сожалению, уже мы никогда не узнаем ответа на этот вопрос, потому что сигнал от бактерий с далеких звезд мы получить никак не можем.
В. РАДИОНОВ: Я как раз хотел о бактериях. Потому что действительно есть определенные надежды на то, что мы найдем простейшие формы жизни на спутниках Юпитера или Сатурна. А если, допустим, эти простейшие формы будут доставлены на Землю, то есть предположение, что они будут очень похожи на земные? Или мы можем обнаружить там что-то совершенно другое? Вот с этой точки зрения интересно как раз на это посмотреть?
И. ЯКУТЕНКО: Пытаются на Земле делать такие эксперименты, пытаются понять. Мы понимаем, что, конечно, фактор случайности имел место. Например, есть правовращающая или левовращающая молекула. Хиральность молекул вполне определенная у аминокислот, например. И есть идея, что это просто случайно, эффект основателя. Такая вещь всегда есть. То есть, как я говорила, складываются подходящие условия, дальше запускается этот процесс выживания наиболее приспособленных, главным критерием является размножение, которое позволяет выживать, и дальше запускается этот процесс.
Конечно, если набор условий исходный чуть другой, чуть другой состав химический будет, какие-то другие температуры, другая кинетика всех этих процессов будет, можно предположить, и скорее всего, так и есть, что аминокислоты у них будут какие-нибудь другие, немножко иначе будут выглядеть, их будет там не 20, а какое-то другое количество, и генетический код, скорее всего, будет не такой, как у нас, но принцип будет похожий. То есть одну и ту же задачу можно реализовать разными методами.
Как такая игра настольная есть, когда надо, глядя на картинку, фотография чего-нибудь, река, берег, птички летают, и у участников разный набор инструментов (у одних – камни, у других – какие-то карточки, у третьих –веревочки), и надо изобразить вот эту птицу или этот берег реки. И все реализуют одну и ту же задачу, но разными методами. В конце мы все получаем одно и то же, но только она чуть-чуть по-другому будет выглядеть.
Поэтому интересно, да. Нет, совершенно точно это не будет тот же набор аминокислот, тот же набор нуклеотидов. Нет. Потому что велик фактор случайности. То есть мы понимаем, что молекула могла бы чуть-чуть иначе выглядеть. У нее мог быть другой химический остаток или вообще исходно они могли бы быть немножко по-другому устроены. Поэтому, вероятнее всего, они будут отличаться от нас. То есть мы не сможем, условно, иметь с ними детей, потому что они будут все-таки слишком сильно отличаться от нас на этом базовом уровне. Но, возможно, глобально это будет примерно то же самое.
Но это, безусловно, интересно, потому что мы не можем полностью повторить этот эксперимент на Земле. Пытаются, как я уже сказала, делать это на начальных этапах. То есть пытаются придумать, как бы могли выглядеть нуклеотиды по-другому, для того чтобы тоже генетический код получить, но другим способом. Но у природы были миллиарды лет на эти эксперименты. Соответственно, у нас нет, естественно, миллиардов лет, поэтому мы можем эти эксперименты провести, используя наши вычислительные мощности.
То есть, возможно, это и будет сделано. Если мы еще немножко подрастим вычислительные мощности, мы сможем повторить вот эту эволюцию, придумать другие начальные условия и посмотреть, а что получится. Если мы зададим вот эти параметры и прогоним вот in silico, что называется, эволюцию благодаря вычислительным мощностям гораздо быстрее, чем она происходила на планете Земля, мы можем получить какие-то варианты других способов реализации этой проблемы, как сделать генетический код, но с другим химическим набором исходных данных.
Посмотрим. Может быть, что-то такое опубликуют. Это чисто фундаментальная работа, конечно. Просто было бы интересно посмотреть. Может быть, сделают.
В. РАДИОНОВ: А с вирусами? Учитывая, с чего мы начали разговор, что вирусы, возможно, появились еще до всего, что было на планете. Соответственно, если мы смотрим на другие планеты, есть вероятность того, что, по крайней мере, она не нулевая, что там тоже могут быть вирусы, и мы, соответственно, тоже можем вступить с ними в определенный контакт. Зонд может прислать образцы на Землю вместе с теми вирусами, которые там, возможно, есть. Вот такие работы есть на эту тему, какими могут быть эти вирусы?
И. ЯКУТЕНКО: Не совсем так, что вирусы появились раньше. Вирусоподобное. Потому что вирусы, вообще-то, это облигатные паразиты. Они не могут существовать без клетки хозяина. Они не могут размножаться. То есть вирусоподобные вещи. То есть то, что по сути вирус. То, что умеет размножаться. Вирусы как вирусы могли появиться уже только после того, как появились более сложные формы живого.
Но вирусы в пределе, просто размножающиеся кусочки кода, они были раньше просто, безусловно. Но вирусы как паразиты, они могут существовать, только если уже есть тот, на ком они могут паразитировать. Потому что вирус, этот заархивированный кусок информации, он не может самостоятельно размножаться. Ему нужно обязательно захватить генетическую программу и программу по воспроизведению более сложного существа. Поэтому если где-то мы найдем вирусы, то можно не сомневаться, что где-то есть и те, на ком они паразитируют.
Что касается найдем ли мы на Титане или на Юпитере образцы живого. Это возможно. Но пока, к сожалению, мне кажется, человечество занято немножко другими вещами сейчас. То есть технологически отправить миссию к Титану или к Европе, пробурить… Это уже посложнее история. Там довольно толстая корка льда. То есть прямо толстая. Мы говорим про километры. Пробурить керн, достать образец и привести его на Землю – это очень сложная, но реализуемая задача. То есть нет никаких принципиальных моментов, которые бы нам запрещали.
В случае с другими планетами есть – скорость света. Мы очень ограничены относительно того, чего мы можем достичь. Простая математика показывает, что ничего практически, что наша ближайшая звезда Проксима Центавра – это примерно четыре световых года.
Ну вот на досуге могут зрители посчитать, взяв скорость самого быстрого нашего аппарата, одного из «Вояджера». Нет, не «Вояджер». «Пионер» быстрее, чем «Вояджер». Можно посмотреть. Это какие-то десятки километров в секунду. Ну и посмотрите, за сколько времени даже самый быстрый из запущенных нами аппаратов сможет туда добраться. Мы говорим про десятки тысяч, сотни тысяч лет, если мы говорим про планеты, на которых есть потенциально жизнь. Поэтому тут принципиальный запрет – скорость света.
Что касается отправить миссию на Титан, принципиальных запретов нет. Но есть финансовый запрет, что это огромные деньги. Надо прямо, чтобы много лет многие институты, специалисты, инженеры работали на реализацию этой цели, отрабатывали технологии. Может быть, не обязательно вот этой, но просто над космосом. Побочные технологии можно использовать для отправки миссии на Титан. Но все заняты другими вещами, как мы видим, особенно за последние несколько лет. Поэтому, да, это можно было бы сделать, но, боюсь, такой фактор, как реальность, помешает нам это сделать, по крайней мере в обозримом будущем. Технических проблем нет. Есть проблема того, что никто не готов выделить огромное количество времени, средств, специалистов на то, чтобы эту миссию реализовать.
В. РАДИОНОВ: Но Вселенная же делает это и без нас. Потому что метеориты, которые путешествуют и долетают до нашей планеты, мы же можем и экспортировать, и импортировать какие-то куски кода. Если, предположим, они есть за пределами нашей планеты, то мы можем получить в качестве как раз носителей импорта вроде метеорита эти куски кода.
И. ЯКУТЕНКО: Это старая гипотеза панспермии, что жизнь на Земле могла бы появиться таким образом, что какой-то метеорит залетный принес нам на Землю вот эти исходные кусочки кода, умеющие размножаться, и они тут возьми и начни размножаться. Интересная, конечно, гипотеза. Но она не отвечает нам на исходный вопрос. То есть мы просто берем и переносим точку нашего вопроса, как все это там началось.
Мы, в принципе, понимаем, как оно все началось – подходящие условия и миллиард лет. Кипение, там все живенько же было на планете, все очень горячее, бурлило, океаны, вот эта бомбардировка метеоритами, всякие вещества поступали, все это было раскаленное очень, а где-то были, наоборот, лужицы попрохладнее. Короче, было очень бурно на планете Земля. Ну да, предположим, это было занесено.
Просто мы не видим необходимости в панспермии, на самом деле. Совершенно точно так же, мы это знаем, есть опыты, которые показывают, что, да, при подходящих условиях у нас начинают появляться вот эти молекулы, которые потом превращаются в размножающиеся РНК и приводят к тому, к чему они приводят.
Поэтому, ну да, возможно. Возможно, что на каком-то метеорите мы можем где-то в глубине найти споры каких-нибудь бактерий. Но это очень вероятностное событие. И рассчитывать на него точно не стоит. То есть нет никакой гарантии. То есть это очень много всего должно совпасть для того, чтобы это получилось. То есть на планете, с которой такой метеорит, должна уже была зародиться жизнь. То есть планета должна была существовать уже довольно какое-то время долгое с подходящими условиями. Потом что-то случилось. Не знаю, она с кем-то столкнулась, с другой планетой, отчего эти куски выбросило в космос, и оттуда они прилетели к нам. Очень много всего должно совпасть.
В принципе, можно сказать, Вселенная бесконечна, наверное, где-нибудь такие условия могли бы сложиться. Наверное, они где-нибудь могли бы сложиться. Может быть, даже с какой-нибудь очень маленькой вероятностью где-нибудь недалеко от Земли. Нет, можно, конечно, на это рассчитывать, но уж точно не стоит говорить, что давайте мы подождем, пока прилетит метеорит, и после этого мы сможем наши выводы относительно того, что там с жизнью во Вселенной, делать, потому что, скорее всего, не прилетит. Вероятность не нулевая. Но это как в лотерею. Скорее всего, ни вы, ни я не выиграем 10 миллиардов в лотерею. Можем? Можем, абсолютно. Произойдет ли это? С огромной вероятностью нет.
В. РАДИОНОВ: Соревновательный момент. Вот если мы говорим об эволюции, там побеждает тот, кто лучше адаптируется. Если мы посмотрим с точки зрения вирусов, опасных вирусов с высоким уровнем летальности, почему они до сих пор существуют, учитывая, что они же проигрывают эту соревновательную гонку, убивая носителя и, в общем, лишая себя возможности быстрого размножения? Это, в общем, и хорошо, потому что Эбола, например, не может распространяться такими темпами, как коронавирус, потому что она просто сносит все и всех на своем пути. Но тем не менее опасные вирусы функционируют, они не исчезают с нашей планеты.
Некоторые вирусы, как герпес, например, могут в спящем режиме пребывать. Они выигрывают эту эволюционную гонку. Они когда-то появляются, когда-то затухают и могут всю жизнь с человеком сосуществовать. Почему эволюция, грубо говоря, не отсекает опасные вирусы как наименее приспособленные?
И. ЯКУТЕНКО: Во-первых, ответ на это: а кто это вам сказал, что она не отсекает? Пытаются оценивать. И по оценкам, были такие, конечно. Если мы считаем, ранняя жизнь – это 4 миллиарда, ну хорошо, несколько там миллиардов лет возьмем или 3,7, я забыла уже, у нас немножко перенесли дату появления того, что можно назвать жизнью, короче, давно, пара-тройка миллиардов лет назад, с этого момента, когда чуть уже посложнее все стало, где гарантия, что не было каких-то вирусов, которые случайно оказались чрезмерно летальными и убили всех своих носителей и вымерли вместе с ними, после чего у нас не осталось никакого свидетельства относительно того, что они когда-либо существовали? Это вполне возможный вариант.
Потому что мы, в принципе, находим лишь малую часть тех видов, которые когда-либо существовали. Потому что, опять же, для того, чтобы их найти, нам нужно, чтобы животное не просто умерло, а очень удачно умерло, чтобы оно провалилось желательно перед этим в болото, а еще лучше – в зыбучие пески, где какая-нибудь анаэробная атмосфера, где мало других живых существ, которые могли бы сожрать все эти останки, они бы не дошли до нас. То есть то, что мы, в принципе, видим такое большое количество останков, это нам повезло. Гораздо большую часть из них мы не видим.
Потому что обычно как? Животное умирает и съедается другими животными. А все, что не съели другие животные, доедается бактериями, например, гниет и так далее. Мы никогда не находим останков. Тем более нам сложно, если давно произошла эта трагедия и какая-нибудь популяция или целый вид были истреблены каким-нибудь чрезмерно летальным вирусом. Нам еще надо определить, что это был вирус, что довольно сложно, если две косточки, например, вы нашли.
Поэтому ответ. Первое. Мы не знаем. Возможно, такие вирусы в истории живой природы и были. Что касается почему с людьми мы этого не видим. Потому что у нас большинство вирусов, которые заражают людей, заражают не только людей. Люди не являются единственным хозяином. Вот в случае оспы это было так. И именно поэтому мы смогли ее истребить. Потому что мы полностью привили практически все человечество, и всё. После этого вирусу стало не на ком размножаться, все иммунные, и мы полностью избавились от оспы.
Что касается других вирусов, у них у всех практически, кто актуален нам сегодня (есть исключения, но это неважно), все, кто нас волнует, у них у всех есть другие природные резервуары. Например, тот же Эбола в тех же летучих мышах прекрасно себя чувствует, а летучие мыши в силу особенностей своего метаболизма, связанных с тем, что это млекопитающие, которые умеют летать, у них очень особенный метаболизм, это прямо Мекка для всех вирусов. Там просто от бешенства до Эболы, до коронавирусов, до всего-всего. И Эбола прекрасно существует в мышах.
Люди – тупиковая ветвь для Эболы. Каждый раз, когда он перекидывается на людей, это кончается обычно тем, что вымирает 80% всей этой африканской деревни, где произошло заражение, и на этом его путешествие дальше по человеческой популяции останавливается. Но потом следующий крестьянин, фермер, кто-то еще идет в лес, съедает летучую мышь, его кусает летучая мышь, еще каким-то образом происходит заражение, и снова очередная деревня вымирает. Вот ответ, почему эволюция от них не избавляется. Потому что у нас есть постоянный приток и есть носители, которые прекрасно с этим Эболой сосуществуют, и их он не убивает.
В принципе, да, безусловно, вот эта логика, что если вирус чрезмерно летальный, то он сам себя убьет, она рабочая, она имеет место. Но, во-первых, эволюция никому не гарантирует успеха, и 99,999, поставьте, сколько девяток вам нравится, процентов всех видов, которые когда-либо жили на планете, вымерли. То есть, вообще-то говоря, если с какой-то другой Вселенной прикидывать шансы с кем обратиться, предположим, мы реинкарнируем, в принципе, нет смысла каким-нибудь живым существом быть, потому что шансы, что ты не выживешь, близки к 100%.
Практически все виды, которые жили на планете Земля, вымерли, поэтому практически все проигрывают рано или поздно эволюционную гонку, потому что их обгоняет кто-то более приспособленный. Это первый момент. А второй момент – да, вирус может измениться и стать менее летальным.
Мы это прекрасно видели на коронавирусе. Его первые штаммы были гораздо более опасными. Но нам повезло, и у коронавируса то место, которое провоцировало иммунную систему и приводило вот к этому цитокиновому шторму и смертям от коронавируса, это то же самое место, которое нужно вирусу для того, чтобы эффективно уходить от иммунной системы и эффективно заражать клетки. И поэтому там трейдофф, что либо ты летальный, либо ты трансмиссивный, либо ты хорошо распространяешься. Ну и понятно, коронавирус сделал выбор в пользу трансмиссивности, в смысле что выживали просто те, которые лучше распространялись. А они постепенно становились все менее и менее летальными.
Это частая история. И про нее некоторые люди, комментирующие происходящее с коронавирусом, на ранних этапах можно было слышать от них вот эту историю про то, что это все ерунда, это будет очень быстро, безопасно, потому что он быстро перестанет быть летальным. 16 миллионов у нас консенсусная цифра дополнительных смертей. На самом деле их больше. Люди продолжают умирать. Но вот в острую фазу, так скажем. То есть некоторое время занимает этот переход, и он необязателен.
Если, например, эта летальная реакция связана с другим местом у коронавируса, чем его трансмиссивность, чем его способность распространяться, совершенно необязательно, что он будет становиться менее летальным. Вот это как вирус может сделать ошибку эволюционную.
В фильмах про заражение именно такие вирусы показывают. Они показывают вирусы, которые одновременно летальные и жутко заразные. Вот если вирус, представить, убивает своего носителя с вероятностью 95% спустя две недели, скажем, после заражения или три, а основная передача происходит в первые дни заражения, когда он еще, например, вот как в случае коронавируса было, может даже не ощущать симптомы, вот такой вариант убьет человечество абсолютно, если мы не сможем карантин, с очень высокой вероятностью.
Потому что если вирус передастся следующему носителю до того, как он убьет хозяина, то он как бы не будет знать, что он невыгодную стратегию выбрал, потому что он сможет эффективно распространиться. И вот для такого вируса можно представить как раз сценарий, что он убил всю популяцию и умер вместе с ней, потому что он не знал, что он настолько летальный.
То есть тут все сложнее. Вот эти все законы, они действуют, но как в том комиксе про ученых, знаете, когда ученый изнасиловал журналиста все кончается. Да, но. Если есть такие условия в таких обстоятельствах при вот таких значениях переменных, оно так. А если они другие, то оно по-другому.
В. РАДИОНОВ: А у человечества есть осознание, что наш вид может проиграть эволюционную гонку? У нас есть, видимо, одно существенное преимущество – это разум. То есть мы можем что-то придумать для того, чтобы не допустить собственного вымирания. Но я так понимаю, что разум – это тоже не гарантия того, что мы как вид проиграем кому-либо.
И. ЯКУТЕНКО: Скорее, глядя опять же на события последних лет, мне кажется, это как раз гарантия того, что мы проиграем. Да, у человека есть разум, но проблема в том, что люди, каждый сам по себе, у нас нет какого-то одного коллективного человека. У муравьев есть коллективный интеллект. То есть они так эволюционировали, что каждый муравей ведет себя вроде как индивидуально, но у него есть разные ограничения генетические, поведенческие, связанные с диетой и так далее. И в итоге они ведут себя как единый организм. А люди – нет. Люди тоже могли бы так себя вести, но мы слишком индивидуалистичны, и каждый из нас слишком заботится о собственном благе и пренебрегает общественным благом.
Это известная проблема общественного блага, общего колодца. У муравьев и у других коллективных всяких видов это решается путем разных там природных ограничений. Например, только король и королева могут размножаться, а у остальных наложены жесткие ограничения, связанные с их диетой, генетические, на размножение. Но есть читеры, которые пытаются это делать. И их жестоко убивают, если вдруг обнаруживают.
А у людей нет вот этого сдерживающего фактора. Поэтому мы, с одной стороны, размножились и нас так много, как муравьев, но, с другой стороны, мы не управляемся вот этими законами коллектива, которые бы вот эту систему сдержек и противовесов применяли и удержали бы человечество от того, чтобы оно себя разрушило и свою окружающую среду. Поэтому пока мы видим как раз, что мы, несмотря на наличие этого великолепного инструмента в виде разума, ведем…
Планета выживет. Планету к катастрофе – это, наверное, слишком сильно. Себя мы ведем к катастрофе. Ну и самая очевидная причина – это глобальное потепление. Мы будем до последнего отрицать. Про это, мне кажется, мы много говорили как-то в предыдущих тоже выпусках, что миллион причин, почему мы будем до последнего не замечать, что происходит, отрицать это, говорить, что это все какие-то выдумки. Потом, когда будет поздно, уже будет сложно это не признать. Но будет уже поздно, потому что система перейдет уже в другое равновесие, и нам придется жить уже в куда более худших условиях, чем мы находимся сейчас.
Ну опять же, ядерное оружие, Карибский кризис. Мы были очень близко от того, чтобы уничтожить большую часть человечества, несмотря на разум. Потому что мы слишком индивидуалистичны и наша нынешняя культура направлена на это, что мои интересы надо блюсти, мое саморазвитие, моя свобода. То есть вся линия развития наша социальная и культурной идет в этом направлении.
Мы видим, что когда сталкиваются интересы нескольких или многих индивидуальностей, люди не заботятся о коллективном благе, потому что забота о коллективном благе означает откусить кусочек от своего комфорта, от своего благополучия, без какой-то регуляции разумной это все с высокой вероятностью приводит к коллапсу и к катастрофе. Так что нет, у меня как-то нет большого оптимизма.
В. РАДИОНОВ: А нет ли ощущения, что сегодня, когда мы говорим об искусственном интеллекте, это такая, может быть, даже бессознательная попытка делегировать функции собственного вида? Мы передаем что-то искусственному интеллекту. Я не знаю, получится в итоге или нет, но тем не менее. Это, с одной стороны, и завораживающая, с другой стороны, и пугающая история. Иногда ощущение переоцененное, потому что искусственный интеллект – это все-таки что-то другое, набор алгоритмов пока. Все-таки сравнивать с естественным интеллектом пока еще, как мне кажется, нет оснований. Но тем не менее в этом же, мне кажется, есть какая-то такая философская идея – мы делегируем что-то кому-то.
И. ЯКУТЕНКО: Я прям по нескольким пунктам хочу не согласиться. Начнем с конца. Опять же, чтобы мы что-то делегировали, нужен условный коллективный орган объединенного человечества. Его нету. Мы не можем объединиться. Мы вот в силу того, как работает наш мозг, как мы развивались как небольшие группки приматов, взяли потом благодаря этому мозгу и неожиданно поменяли окружающую среду и смогли развиться в гигантскую цивилизацию на 8 миллиардов особей. Но при этом мы не как муравьи, мы не как термиты. У нас нет вот этого регулятора природного нашего поведения. Поэтому ничего мы не можем, нет у нас никакой попытки делегировать.
Вот с чего мы начали разговор. Большинство людей вообще не понимает, как работает этот искусственный интеллект. Причем это не просто большинство. Если мы возьмем 8 миллиардов, то это 100% людей. Я не знаю, тысячи, наверное, есть людей на всей планете, которые реально понимают, как оно все работает. Да чего там искусственный интеллект? На самом деле, просто технология. Вот айфон. Мы все им пользуемся, но сколько из нас реально понимает, как он работает? Опять же, если на 8 миллиардов смотреть, это мы приближаемся к каким-то тысячным, десятитысячным долям процента.
То есть никакого человечества как единицы, которая чего-то куда-то хочет делегировать, не существует. Есть отдельные специалисты. То есть культура ведь тоже, если взглянуть совсем издалека. То есть продолжение истории про гены, которые заботятся о своем выживании. Есть мемы, которые точно так же, это гипотеза, они не живые, но они развиваются. История мемов, эволюция мемов, то есть кусочков информации, происходит по тем же законам, что и эволюция генов. То есть какие-то мемы оказываются более успешными и получают больше сторонников, соответственно, мы передаем их дальше, и они выживают.
Например, антивакцинаторство. Вот так получилось, что по разным причинам это успешный мем. Мы про это, наверное, много раз говорили. Он резонирует с тем, как мы относимся к нашему телу, к нашей безопасности, неважно. Он успешный. Он распространяется и захватывает умы. А есть менее успешные мемы, которые не распространяются.
Поэтому мы, в принципе, как культура тоже развиваемся по вот этим биологическим законам, потому что, наверное, это, в принципе, общие законы развития чего-то, что содержит информацию в себе. И вот с искусственным интеллектом мы наблюдаем ровно это. Это естественное развитие. Нет никакой попытки сознательно делегировать. Просто вот есть люди, те самые специалисты, которые понимают, как это работает. Плюс другие специалисты развивают технологии.
Вот развитие нейросетей ведь тоже не было строго линейным и последовательным. Начнем с того, что это не алгоритмы. Вы сказали, это пока алгоритмы. Нет, это не алгоритмы.
В. РАДИОНОВ: Мы с Колмановским эту тему как-то обсуждали, похож ли естественный как раз интеллект на искусственный, говорили об алгоритмах.
И. ЯКУТЕНКО: Но нейросети – это не алгоритмы. Как раз в том-то и дело, что мы довольно долго думали, что искусственный интеллект – это будут алгоритмы, что искусственный интеллект – это мы напишем алгоритмы сложные очень, и у нас появятся роботы, как в кино. Нейросети довольно давно, с 80-х, если мне память не изменяет, присутствовали как идея.
Нейросети не являются алгоритмами. Почему они нейросети как раз? Потому что там вот эти ячейки, их называют «нейроны», которые обмениваются информацией. У них вход-выход есть и определенные критерии обработки входящей информации, на основании которых она как-то обрабатывается, и дальше принимается решение, передавать ее дальше или не передавать. И вот эти слои нейронов, которые передают вот эту информацию друг между другом, сложно организованные – это не алгоритмы. Проблема в том, что мы как раз не знаем, что там происходит. И это сейчас довольно активно развивающаяся ветка в изучении нейросетей – выцепить, что же он там делает в этих внутренних слоях нейронов.
Почему ChatGPT условный, который генеративная модель лингвистическая, умеет решать математические задачи? Мы не понимаем до конца, как он это делает, потому что там как раз не алгоритмы, там сама система, которая умеет обучаться, и поэтому как-то она склоняется в одну сторону или в другую. Это не алгоритм.
Она развивалась нелинейно. Сначала нейросети были одним из вариантов, которые предполагали, что на основании него можно будет когда-нибудь сделать искусственный интеллект, причем не лидирующим, потому что не получалось ничего с нейросетями. Там произошло две революции. Вычислительные мощности, во-первых, стали достаточно мощными и сверточные сети, насколько я помню. Я не специалист в этом, но я говорила со специалистами. Поэтому я транслирую то, что они говорили. Чтобы разобраться точно, что это, надо говорить с людьми, которые в этом разбираются.
В общем, архитектура определенная нейросети когда появилась, когда ее придумали, вдруг оказалось, что вот эта архитектура, с тех пор уже произошли изменения, и уже другая архитектура используется, но вот та дала толчок к революции. В сочетании с вычислительными мощностями, которые, вот тоже удивительный факт, благодаря видеоиграм…
Nvidia же не просто так. Потому что люди любят играть в игры, им нравится этот опыт, переживание виртуальной реальности. На Титан никто не хочет бабки выделять, на то, чтобы отправлять миссию, а куча денег естественным образом выделяется в игровую индустрию и в разработку технологий для игровой индустрии, потому что есть спрос, потому что люди любят гаматься, зомбаков убивать или в сетевые игры играть какие-то красивые. Поэтому туда выделяли очень много денег.
И там технологии вот этих графических карт, их вычислительные мощности стали в какой-то момент достаточными для того, чтобы вот эти нейросети могли получить достаточную выборку для обучения. Это тоже был ключевой момент. Когда их обучают на малой выборке, они не работают.
Когда ей дали весь интернет (да, еще интернет был нужен для того, чтобы появился искусственный интеллект, без интернета мы не можем набрать достаточную выборку для обучения), когда все это совпало, стало много выборки для обучения, очень мощные процессоры графические, которые позволили все нужные действия производить, и архитектуру вот эту придумали, которая оказалась максимально эффективной для обучения этих нейронов, мы получили нейросети.
То есть опять не было никакого сознательного делегирования. Были люди, которые занимаются технологиями. Кто-то – потому что им интересно, кто-то – потому что он работает в коммерческой компании, но ему тоже, наверное, интересно, но он работает по заказу. Коммерческая компания говорит: «А мне нужен еще более мощный графический чип, чтобы Doom 126». Я не знаю, в Doom, наверное, никто не играет уже. Это я очень старенькая просто. Сделать какую-то игру.
Это все развивалось-развивалось, и вдруг оказалось, что параллельно другие люди думали над этими алгоритмами, интернет совершенно своей жизнью жил независимой, и когда все это соединилось, мы получили вот это прекрасное сочетание. Появилась точка зрения, что у нас будет сейчас еще одна зима искусственного интеллекта, что вроде там прогресс не такой быстрый, как был нужен, но, возможно, нам не хватает еще какого-то фактора, который мы добавим к этой нейросетке, и мы получим General AI, то есть общий искусственный интеллект, который уже будет вот тем, что мы подразумеваем под интеллектом.
И тут, кстати, нам сразу придется вернуться к самому началу нашего разговора про критерий живого. Вот тут мы сразу зададимся вопросом: а он живой или нет? Потому что то, что мы знали до сих пор как живое, оно такое белковое, такое мягенькое, жиденькое, тепленькое. А вот если мы получим общий искусственный интеллект, он будет на кремниевых чипах, какая-то коробка и вообще неизвестно, где он присутствует, потому что это все облака какие-то, облачные технологии, то есть вообще где он, этот искусственный интеллект, будет он живым или нет? То есть тут проблема не в том, что живой он или нет, а в том, что нам надо будет изменить определение живого.
В. РАДИОНОВ: Здесь еще вопрос сознания и осознания. То есть если в какой-то момент искусственный интеллект начнет осознавать себя, то я думаю, что у человечества возникнет проблема. То есть мы будем не единственные, кто осознает себя. Я правильно понимаю?
И. ЯКУТЕНКО: Это мы так сейчас думаем. Мы так думаем, что если искусственный интеллект осознает себя, он поведет себя вот так же эгоистично и мерзко, как мы себя ведем.
В. РАДИОНОВ: Но учится-то он на наших данных, на данных, которые сформировало человечество. А, в общем, чему хорошему мы можем научить? Чему-то можем, но можем научить и многому другому, особенно если он в даркнет заглянет. Поэтому где гарантия того, что он будет хорошим парнем? Мне кажется, ее не так много.
И. ЯКУТЕНКО: Да вообще нет гарантии, что этические критерии, благодаря которым мы можем отделить хороших парней от плохих парней.
В. РАДИОНОВ: Или девушка. Здесь нет никакой гендерной разницы. Мы не знаем. Искусственный интеллект.
И. ЯКУТЕНКО: «Хорошие парни» я в данном случае использую как устойчивое выражение. Как мы отделяем хороших от плохих. Кто сказал, что его вообще будут волновать какие-то этические критерии? Хотя он и учится на наших данных, но умеет он много того, чему его не учили.
В общем, это же описал Лем, например, в «Солярисе». Многие только кино смотрели «Солярис». Но если вы смотрели кино, то я очень вам настоятельно рекомендую прочитать книгу. Ну ладно, чего там, кино сильно проще. Кино про любовь, про переживания, страдания. Книга вообще не про это. Книга как раз про то, что если мы предположим существование какого-то другого разума, то мы можем просто вообще не понять, как он думает, что он думает, что для него важно, что не важно. То есть вполне может быть, что здесь то же самое.
Мы сейчас пытаемся экстраполировать. То есть давайте представим, что это мы, вот так же, как мы рассуждаем, но только в железную коробочку мы поместим вот эти все наши мысли, сомнения, чувства, этические оценки и дальше будем представлять такую SkyNet, которая обязательно всенепременно хочет уничтожить человечество. Это может быть что-то вроде «Соляриса», то есть что-то, чего мы вообще не понимаем, что он думает, что для него важно, какие законы управляют его развитием (или ее опять же, безотносительно гендера).
Мы все пытаемся упростить. Но проблема в том, что мы хотим вот эту логику увидеть. Нам так проще. У нас так мозг работает. Но это правильно. Чтобы ориентироваться по миру, нам надо прикинуть, какая закономерность, для того чтобы прикинуть, какой наш может быть следующий шаг, какой может быть их ответный шаг, я не знаю, среды, общества. Это у нас в пределе.
Это есть такое расстройство парейдолия, когда люди начинают видеть в следах джема на бутерброде лицо Иисуса. Это просто пятна джема, а вот им оно представляется как знакомое что-то. Или когда мы смотрим на автобус, и если мы на него внимательно посмотрим один раз и увидим глаза и улыбку, нам потом будет невозможно от этого образа избавиться, мы все время будем видеть это лицо на машине. Вот это все проявление того же. Это наш мозг везде пытается выискивать закономерности, потому что это то, что нам помогало выживать. Предсказательная сила. Мы могли посмотреть и предсказать, что нам можно делать.
А тут мы ничего не можем предсказать. Мы вступаем вот этим естественным развитием эволюции, которая включает теперь и технологическую эволюцию, мы сейчас приходим к чему-то, что нам непонятно. Мы не можем ничего предсказать.
В. РАДИОНОВ: То есть будущее наступило. И то, что мы читали в фантастических произведениях Айзека Азимова, кстати, про робототехнику, это, по сути, про искусственный интеллект. Я уже не раз вспоминал как раз его рассказ «Хоровод», где он выявил три закона робототехники. Но это же история про то, что мы сейчас переживаем в реальном времени.
И. ЯКУТЕНКО: Это смешно, да. Если представить какой-то искусственный интеллект, он наплюет просто на эти три закона робототехники и все. Это очень здорово и логично придумано людьми для защиты людей, но если действительно предположить какой-то там суперразум, мы понятия не имеем вообще, чего ему взбредет в голову, захочется и вообще будет ли ему чего-то хотеться. Потому что, вообще-то, хотеть – это про эмоции. И, как мне кажется, это то, чего не хватает сейчас искусственному интеллекту, для того чтобы стать полноценным тем, что уже можно включать в описание живого.
Потому что у нас огромное количество, да, вообще-то говоря, все практически наши реакции в первую очередь модулируются не тем, что мы думаем. Вот сел, подумал, на бумажке записал, варианты сравнил, принял решение. Так, я не знаю, только некоторые люди пылесосы выбирают. И то можно сравнивать долго пылесосы…
В. РАДИОНОВ: Можно увидеть красивый дизайн.
И. ЯКУТЕНКО: Именно. Вот этот лучше по всем параметрам, но мне нравится, он зелененький. И нелогично. Можно сказать, что это нелогично. Но так у нас работает голова. У нас есть второй процессор как бы вот этот эмоциональный. Он ужасно мощный. Он, вообще-то говоря, сравним по мощности с первым. Он проще, такой он robust очень, но он окрашивает все наши решения, определяет, в какую сторону мы думаем. Пропаганда этим пользуется прекрасно, потому что знает, что гораздо мы больше полагаемся на эту эмоциональную составляющую, чем на рациональную.
Вот у искусственного интеллекта пока нет этого. Поэтому чего он захочет, мы сказать не можем. У него нет инструмента хотения. Что он заключит, мы тоже понятия не имеем, потому что мы не очень знаем, как он там размышляет. Думаю, мы пока еще не в этом будущем, пока еще у нас нету General AI.
Если с точки зрения найти жизнь на других планетах и мир во всем мире или коллективный орган человечества у меня никакого оптимизма, то в этом отношении гораздо больше, потому что как раз тут вот нет никакого направленного желания, тут есть просто люди, которые работают, много денег в этой индустрии, технологии развиваются, есть конкуренция. То есть есть все вот эти условия, которые привели к появлению сложной жизни. Возможно, и тут у нас сейчас что-то такое появится. И мы это, может быть, застанем. То есть вот тут вероятность довольно высока.
В. РАДИОНОВ: Вопросы от наших зрителей. Начну их зачитывать. Из Телеграма Ирина пишет: «Уважаемая Ирина, считаете ли вы доказанным, что глобальное потепление обусловлено деятельностью человека? И считаете ли вы, что использование вейпа не менее вредно, чем курение сигарет? Спасибо». Два вопроса.
И. ЯКУТЕНКО: На то и другое я, на самом деле, отвечала у себя на канале в видео. У меня было отдельное видео про вейпы. И про глобальное потепление мы много раз говорили. И говорили с климатологами несколько раз. И я про это рассказывала. То есть я ничего не считаю. Мне кажется неправильно, что я считаю. Я ничего не считаю. Я всего лишь собираю данные научные, которые есть сейчас, и их свожу, как Perplexity, как ChatGPT, в некую единую картину.
Поэтому я ничего не считаю, я не климатолог. Я не занимаюсь, не сижу в NOAA, не слежу за колебаниями температур на протяжении многих лет. Но мнение климатологов абсолютно однозначно. И модели, которые они строят, абсолютно однозначны.
Во-первых, глобальное потепление реально. Это, наверное, даже все скептики уже признали. И, собственно, скептики поменяли риторику. Теперь редко кто все-таки говорит «я не вижу глобального потепления», потому что его очень сложно не заметить. Мы перешагнули этим летом – никто не заметил – полтора градуса те самые превышение температуры доиндустриальной эпохи устойчивое. То, что было исходно в Парижских соглашениях. Вот все как-то решили не замечать этой цифры, что мы ее прошли этим летом.
Температура растет глобально на всей планете. В некоторых местах это может приводить к локальным похолоданиям, в некоторых – к увеличению экстремальных климатических и погодных явлений, как то тайфуны, цунами, волны жара, экстремальные осадки, экстремальная засуха. Это мы все наблюдаем по всей планете. Поэтому тут никто не сомневается уже, даже скептики.
Что касается природы, то в мейнстримовых кругах климатологов, то есть специалистов, опять история про то, что чтобы в этом прям реально разобраться, надо образование получить. Математика довольно сложная во всем, что касается климата. Это еще одна проблема, что большинство людей сейчас вынуждено верить на слово каким-то авторитетам. Так устроен мир. Слишком он сложный. Мы не можем быть специалистами во всем.
Но вот если мы смотрим, что говорят профессиональные сообщества климатологов, модели, которые они создают, абсолютно четко показывают, что если убрать из вот этого происходящего климатического безобразия, которое мы наблюдаем очень активно, человеческий фактор, то есть самолеты, выбросы автомобилей, заводов, сельское хозяйство (коровы метан выделяют), если все это вычесть, то есть всю человеческую деятельность, то мы не увидим этого повышения. То есть с учетом солнечной активности, с учетом всего-всего-всего нету повышения, вот эта клюшка знаменитая, рост температуры, ее нет, если убрать человеческий фактор. То есть математические модели самые совершенные на сегодня, которые у нас есть, абсолютно четко показывают именно это.
То есть иногда возникает вопрос: а как мы узнаем, это вот человек все это сделал или это солнышко у нас стало очень активным? Ну вот так, благодаря тому, что у нас есть наука математика, модели, которые позволяют нам все это сделать. Вычитаем вот эти факторы, которые мы привнесли нашей деятельностью технологической, и мы не видим потепления, даже с учетом того, что у нас есть там на цикле Миланковича солнечной активности. Короче, реально обусловлено деятельностью человека.
А второй вопрос?
В. РАДИОНОВ: Про вейпы. Они вреднее, чем сигареты?
И. ЯКУТЕНКО: Про вейпы меньше данных, потому что они появились не так давно. Что мы точно знаем? Они не очень помогают как средство избавиться от никотиновой зависимости. Многие начинают вейпы, чтобы, типа, перестать курить. Чаще всего происходит, что человек просто переходит с сигарет на вейпы, потому что они удобнее еще, к тому же такие вкусненькие, со всякими приятными запахами. А никотин, он мерзкий, воняет. Курить нельзя в общественных местах, а вейпы – можно. Люди подсаживаются точно так же.
Плюс вейпы не позволяют вам отрегулировать количество никотина. Потому что с сигаретой ты как бы знаешь, ты видишь глазами. Ты выкурил сигарету, в ней там определенное количество никотина. Вейп же курят постоянно люди. Затянулся, там опять затянулся, и так вот в течение дня постоянно. То есть в итоге итоговое количество никотина, которое человек получает, может быть больше, чем с сигаретами.
Обычно в защиту вейпов говорят, что там нет смол, которые есть в сигаретах. Да, все так. Но зато в вейпах есть огромное количество другой бурды, которую добавляют, ну ароматизаторы вот эти все. Мы точно знаем, что некоторые из них опасны. Были истории смертельные, когда там набодяжили не пойми чего. Вот эти всякие ароматизаторы, которые добавляют в вейпы, и другие вещи, они часто не проверяются очень строго на безопасность.
Кроме того, их могут проверять в каких-то одних условиях, а в случае вейпа это же нагревается все до очень высокой температуры, и там появляются другие элементы просто в силу химической реакции, при такой высокой температуре что-нибудь во что-нибудь превращается. И вот это вещество уже никто не тестировал.
Поэтому если мы говорим про вейпы, то нет, они не менее вредные, чем сигареты, они по-другому вредные. Там нет смол, но зато есть вот эта куча всякой непонятной химии. И плюс количество никотина, которое человек потребляет с вейпом, зачастую больше, чем количество никотина, которое он потребляет с обычной сигаретой. А, ну да, и брось курить не получится с помощью вейпа, получится подсесть на вейп.
В. РАДИОНОВ: Виолетта спрашивает: «Что вы думаете об антидепрессантах? Действительно ли они эффективны? Стоит ли игра свеч? Достаточно исследован мозг человека? Одни люди счастливы, что таковые имеются. Другие ходят как зомби после их приема. Бояться их или нет?» Вот такой вопрос. Там даже группа вопросов.
И. ЯКУТЕНКО: Ну да. Сразу перед ответом дисклеймер: антидепрессанты может назначать только врач. Не надо пить антидепрессанты, которые прописали вашей подруге, другу, соседу и так далее. Это только врач после диагноза и желательно более одного мнения. Потому что что касается психиатрии и вообще критериев выписывания антидепрессантов, у нас сейчас такая серая зона, что ли.
Мы видим рост депрессий огромный по всему миру. И мы не очень понимаем, какой вклад в этот рост вносит что-то реальное, то есть какие-то факторы, которые делают нас несчастными. Например, мы на нелюбимой работе, у нас много лишнего веса из-за образа жизни, мы не нравимся себе, мы сравниваем себя с людьми в Инстаграме, которые такие все прекрасные и красивые, и от этого мы несчастные.
Или, например, у нас овердиагностика. Раньше, наоборот, была недодиагностика. Теперь люди перестали считать психические расстройства стигмой, они чаще идут к врачу, а врачи тоже, тем более в тех странах, где нет жестких регуляций в этой сфере, человек там может быть врач, а может, даже это вообще психолог, который какие-нибудь курсы закончил, и он говорит: «А у тебя депрессия». Он даже не врач. Ну и в аптеке тоже регуляции не очень строгие. Можно пойти купить антидепрессанты. И такое ведь тоже происходит, да? Может быть, и с этим связано.
Поэтому первый дисклеймер: только врач и более одного мнения. Есть, конечно, четкие критерии, но в этом слабость психотерапии. В этом ее слабость, что она никогда не сможет стать строго доказательной, потому что тут нельзя исключить личностный фактор взаимодействия клиента и психотерапевта.
В случае с медициной личностный фактор не нужен. В общем, даже робот, и уже это происходит, может поставить диагноз. Если ты пришел, у тебя кость торчит из руки, а рука смотрит куда-нибудь в другую сторону, то совершенно ясно, что у тебя перелом. Любой врач, который присутствует, или даже робот, в общем, плюс-минус правильный диагноз тебе поставит.
В случае с психическими расстройствами очень высока роль личностного фактора. Один врач скажет: «Это депрессия». А другой скажет даже по шкале, потому что он как-то вопросы задаст так. Даже несмотря на эти шкалы, которые пытаются объективировать, все равно есть личностный фактор. А другой врач скажет: «У тебя просто плохое настроение, поэтому ты так ответил. На самом деле это не депрессия».
То есть надо это понимать, что если у вас перелом, то мы примерно знаем, что все переломы, понятно, открытые и закрытые, со смещением, без смещения. Если мы классифицируем, плюс-минус стратегия лечения одинаковая. В случае с депрессиями все не так, потому что это зонтичный термин, у всех это все по-разному. У кого-то она связана с серотонином, у кого-то она связана с перекосом в других нейромедиаторах, а у кого-то ее вообще нет, но есть вот эта какая-то гипердиагностика.
И поэтому общий эффект антидепрессантов, если мы смотрим по популяции, у нас уже много, он довольно низкий. Надо это понимать. Я сейчас цифры говорю по памяти, но, насколько я помню, по последним обзорам, это порядка 30%. Сравнимо с когнитивно-поведенческой терапией. Вот что надо понимать, что в целом по всей популяции людей, которые принимали антидепрессанты, эффективность их будет вот такой.
Это значит, что кому-то классно помогли. То есть действительно у него там какие-то органические, возможно, нарушения по каким-то разным причинам. И правильно подобрали тип антидепрессантов. Они бывают разные. Например, СИЗСы (обратный захват серотонина). У него как раз с серотонином это было связано. Ему отлично это помогло. Плюс на фоне терапии. Человек вышел и больше не вспоминает, что у него была депрессия. А у другого другой механизм депрессии был. Он не попал в антидепрессанты или в принципе на этот механизм нет лекарств на сегодня. И, предположим, он терапию сам себе назначил или терапию бросил. И у него не будет никакого эффекта.
Некоторые думают: «У меня, если что, есть таблеточки. Если что, я выберусь из этого». Нет, не все так радужно в этом. Нет эффективного стопроцентного метода, который бы помог справиться с депрессией, потому что это очень неоднородное состояние. У каждого человека оно может отличаться. Личностный фактор взаимодействия с врачом, овердиагностика. Механизмы развития депрессии могут быть разными и связаны с разными нейромедиаторами. Поэтому лучше не допускать.
То есть если есть, в принципе, какие-то тревожные признаки, лучше не ждать, пока это все будет уже в таком состоянии, что потребуется медикаментозная помощь. Потому что нет, это не как с переломом. То есть если у вас есть перелом, вы приехали в больницу, за исключением каких-то редких случаев, вы можете быть уверены, что все будет хорошо, что вам все правильно сделают, штифт вставят, все зарастет, если смещение, штифт вынут, будете как новенький. В случае психических расстройств это не так.
В. РАДИОНОВ: Ну что ж, поставим многоточие. Я думаю, что еще вернемся к нашим разговорам. Спасибо вам. Ирина Якутенко, молекулярный биолог, научный журналист, была с нами на прямой связи сегодня. Спасибо и всего доброго.
И. ЯКУТЕНКО: Спасибо.
В. РАДИОНОВ: До свидания.