Умные машины и человек - вместо или вместе? - Дмитрий Зыков - Назад в будущее - 2008-06-04
ТАТЬЯНА ФЕЛЬГЕНГАУЭР: Ноль часов и семь минут практически уже в столице. Здравствуйте, друзья. Радиостанция «Эхо Москвы», программа «Назад в будущее». Как вы слышите, это никакой не Ашот Насибов, который обещал за все ответить, а Татьяна Фельгенгауэр. Ашот у нас в командировке, и я его постараюсь заменить с наименьшими потерями. Тема у нас сегодня с вами очень интересная, как мне кажется: «Умные машины и человек – вместо или вместе?». Говорим про роботов, которых мы, безусловно, все очень любим. Мы регулярно смотрим фильмы, читаем в книжках и прочее. Всю правду о робототехнике, о будущем и прошлом расскажет нам Дмитрий Зыков, заместитель главного редактора журнала «Наука и жизнь». Он у нас кандидат физико-математических наук, так что много всего полезного и важного скажет. Добрый вечер, Дмитрий.
ДМИТРИЙ ЗЫКОВ: Добрый вечер.
Т. ФЕЛЬГЕНГАУЭР: Ну что, давайте начинать наш с вами разговор. Роботы – это, конечно, замечательно, и нынешнее поколение, наверно, не мыслит себе жизни без всяких умных приспособлений, машин и прочего. Когда мы успели стать такими зависимыми?
Д. ЗЫКОВ: Ну давайте начнем не с этого. Роботы, как и всякая другая техника, любят точность, поэтому для начала, скажем, что я, хоть и кандидат наук, но не физико-математических, а технических.
Т. ФЕЛЬГЕНГАУЭР: Прошу прощения.
Д. ЗЫКОВ: Ну это не страшно. На самом деле, человек очень давно зависит от самой разнообразной техники и от роботов, кстати говоря, в наименьшей степени по очень простой причине: роботов, вообще говоря, не так много, а в повседневной человеческой жизни роботов вообще почти нет. Но это если считать роботами то, что принято считать в фантастической литературе - то есть это механизм, заменяющий человека во всех его проявлениях. Хотя, с другой стороны, роботов сейчас стало заметное количество. Давайте для начала введем определение, что такое робот.
Т. ФЕЛЬГЕНГАУЭР: Давайте. У нас в теме заявлено словосочетание «умная машина». То есть, мы можем говорить, что это машина, созданная для того, чтобы помочь людям сделать что-то, либо совсем заменить человека в каких-то действиях, или, может быть, выполнять такие функции, которые человек в принципе не может самостоятельно сделать.
Д. ЗЫКОВ: Мне очень нравится эта вариация темы. Давайте называть роботом умную машину или робота умной машиной, и тогда все встает на свои места. Тогда роботами становятся стиральные и посудомоечные машины: совершенно очевидные роботы, которые заменяют человека в полном соответствии с вашим определением. Их задача в том, чтобы облегчить человеку жизнь. Хотя мыть посуду и стирать грязные носки – это вполне человеческое занятие, но не очень приятное. Немногие люди его любят, поэтому машины с успехом здесь заменяют человека, причем с очень большим успехом, они делают это значительно лучше человека, быстрее и с меньшими затратами. Вот очень простой пример: средняя посудомоечная машина использует для мытья среднестатистических восьми комплектов посуды примерно 11 литров воды, а если человек этим занимается, то он на то же самое количество посуды тратит почти 20. Вот вам прямая экономия дефицитнейшего сырья – пресной воды. Если посмотреть на то, насколько роботы могут заменить человека и везде ли они могут заменить человека, то кто его знает, может быть и везде. Сейчас об этом говорить определенно, скорее всего, нельзя. Наверно, существуют еще такие области, где техника человека заменить не может, и это относится, прежде всего, к интеллектуальной и творческой деятельности. Вот здесь техника, я считаю, может помогать человеку, может облегчать его работу, но заменить не может ни в коем случае. А в таких сферах, где человеку не надо присутствовать, там вообще возможна только техника: это, прежде всего, опасные производства. Возьмите любое опасное химическое производство: человеку лучше всего туда не ходить, и не только потому, что для человека это опасно, а потому, что человек - механизм ненадежный, у него может произойти всплеск эмоций и при этом выплеск кислоты, и это может привести просто к необратимым последствиям. Техника так не ошибается, она ломается, она может не сработать, но если там человека не будет, то ничего особо страшного не произойдет. Есть сферы, где техника значительно эффективнее человека. Это, например, космические исследования. На меня коллеги всегда ворчат за то, что я так отношусь к космическим исследованиям, но я считаю, что человеку не место, в космосе, ему там делать совершенно нечего. Значительная часть результатов космических исследований, по разным оценкам, от 80 до 95 процентов объема полученных знаний из космоса добыты автоматами. При этом от 80 до 95 процентов расходов на космические исследования приходятся на пилотируемые полеты.
Т. ФЕЛЬГЕНГАУЭР: Я не путаю, что роботы-манипуляторы, как раз то, о чем мы говорим - это машины, которые используют в производстве, они ведь действуют уже более тридцати лет. Да?
Д. ЗЫКОВ: Роботы-манипуляторы действуют уже значительно дольше. Ну тут надо опять смотреть на то, что назвать роботами. Если роботом называть механизм, работающий практически без вмешательства человека, то да, лет тридцать, ну, может быть, сорок, прежде всего, это сборочное производство. Но можно ли назвать роботом машину, которая заворачивает пробки на бутылки? Очевидный робот.
Т. ФЕЛЬГЕНГАУЭР: Да, конечно.
Д. ЗЫКОВ: Ну так эта машина существует двести лет. Тоже робот, и она прекрасно с этим справляется, делает это значительно лучше человека, и человеку делать там абсолютно нечего.
Т. ФЕЛЬГЕНГАУЭР: Тогда задам вам вопрос от Виктора, служащего из Москвы. Я напомню, что на нашем сайте www.echo.msk.ru можно задавать вопросы, кроме того, у нас есть смс +7 985 970 4545, присылайте свои вопросы нашему гостю. Так вот, Виктор из Москвы спрашивает: «Если умные машины вытеснят человека из производственной сферы его деятельности, то сделают его безработным». Как такой вариант вы оцениваете?
Д. ЗЫКОВ: Оцениваю этот вариант как несбыточный. Не сделают машины человека безработным. Кажется, классе в шестом или в седьмом я учился, нам рассказывали в курсе истории о движении, кажется, «черкистов». Я, к сожалению, плохо помню историю, может быть это по-другому называлось. Но в Англии рабочие мануфактур бастовали против введения машин, и одна из причин была именно в том, что они боялись, что машины их вытеснят и им будет негде работать. Ну что-то не наблюдается этого явления: люди как работали, так и работают, просто производительнее стало это все. Никогда не будет такого, что человек будет вытеснен машиной, поскольку человек первичен, а машина вторична - человек создает машину. Человек создаст определенный комплекс сложных и весьма совершенных машин, которые его заменят в нудном и противном производстве, которым не хочется заниматься, но делать-то нужно. Автомобили собирать – довольно скучное занятие, а, например, зачищать провода в катушках зажигания – это занятие вообще противное, зачем человеку этим заниматься?
Т. ФЕЛЬГЕНГАУЭР: Ну это рабочие места, с другой стороны.
Д. ЗЫКОВ: На сегодняшний день на планете живет шесть с чем-то миллиардов человек, кажется такая цифра. Есть оценки, в соответствии с которыми Земля способна прокормить примерно миллиард человек. И у этого миллиарда человек потребностей не меньше, чем у шести миллиардов, так что из шести миллиардов 50 процентов точно голодает, а может и 80 процентов, и живет не очень здорово. Так вот эти рабочие места кому, собственно, нужны? Они нужны тем людям, которые «лишние на планете». Через какое-то время рост населения на планете прекратится, через какое-то еще время начнется сокращение населения на планете. Но количество продукции, которая будет производиться, необходимое количество продукции, будет возрастать. И машины будут заниматься производством этой необходимой продукции, но они не сами будут заниматься. Есть такое опасение, часто довольно приходится его слышать - о «бунте машин», о том, что машины, снабженные интеллектом, взбунтуются.
Т. ФЕЛЬГЕНГАУЭР: Да, об этом мы еще обязательно поговорим.
Д. ЗЫКОВ: Да не будет ничего такого никогда. Не взбунтуются машины потому, что человек все равно первичен, человек создает машину и человек может машину выключить. Поэтому здесь не о чем говорить.
Т. ФЕЛЬГЕНГАУЭР: Ну мы все же попытаемся немножечко эту тему обсудить. Где-то лет двадцать, условно, тридцать назад вовсю развивались исследования и очень большие надежды возлагались на роботов. Что-нибудь из этого оправдалось? Вообще лет двадцать назад были ведь совершенно фантастические прогнозы относительно жизни на земле. Но мы пока здесь, а не на Марсе и не где-нибудь еще, и роботы пока не ходят по улицам и не помогают нам по дому, хотя, конечно, помогают, но не совсем в том виде, в котором предполагалось лет двадцать-тридцать назад.
Д. ЗЫКОВ: Да, были совершенно сказочные прогнозы, причем эти прогнозы представлялись не прогнозами, а перспективами, то есть казалось, что вот еще совсем чуть-чуть и множество проблем человеческих будет решено техническими способами. Ну вот из несостоявшегося: лет двадцать-тридцать назад совершенно серьезно говорилось о том, что будет построена гиперзвуковая авиация и человек сможет перемещаться по земле со скоростью в несколько раз больше скорости звука, в 3-5-7-10 раз. Но ничего этого не произошло и, скорее всего, не произойдет в обозримом будущем. То есть в ближайшие двадцать лет никакой гиперзвуковой пассажирской авиации не будет, да и, скорее всего, вообще не будет. Причина очень простая: не нужно. Затраты, которые придется понести человечеству для того, чтобы создать такую технику не окупятся никогда, более того, они просто не имеют смысла. Или лет двадцать назад совершенно серьезно рассматривались перспективы окончания запасов нефти и газа и перехода на повсеместное использование электричества. Причем это электричество должно было добываться не из горючих ископаемых путем разных переходов, а это должна была быть солнечная энергетика, ветроэнергетика, атомная энергетика, приливно-отливная энергетика, использование морских течений и космического излучения. Все то же, что говорится и сейчас с такой же долей уверенности и с тем же пафосом, что вот еще совсем чуть-чуть и все это дело разовьется. Вероятно, источники энергии так быстро не кончатся. Вероятнее всего, ветроэнергетика не будет развиваться так, как это рисовалось и как рисуется, потому что на крупных ветро-электростанциях выяснилось, что при их работе возникают очень серьезные экологические трудности. Во-первых, птицы гибнут; во-вторых, там зверье разбегается, там инфразвуки возникают, то есть возникает куча проблем. Скорее всего, не будет серьезной солнечной энергетики, потому что излучение Солнца хотя и колоссальное и на Землю падает огромная энергия – она на несколько порядков превышает всю энергию, вырабатываемую всеми электростанциями за все время их существования. Но скорее всего этого не будет: это неэффективно, пока это дорого. Скорее всего, не будет водородной энергетики, потому что, по крайней мере, сейчас получается так, что добыча необходимого количества водорода приводит к очень большим затратам.
Т. ФЕЛЬГЕНГАУЭР: Ну это вы все перечисляете из несбывшегося, а что-нибудь из того, что предполагалось двадцать лет назад, сейчас есть?
Д. ЗЫКОВ: Я, вообще-то, скептик и зануда, поэтому я так и ворчу. Есть, конечно, и есть очень много. Есть потрясающие совершенно вещи. Скажем, двадцать лет назад в недрах Радиотехнического института имени Минца зародилась сотовая связь. Она здесь зародилась, в этой стране, и ее теоретики и первые разработчики здесь работали и здесь до сих пор работают. Одним из основателей этой связи является Дмитрий Зимин, который, правда, потом, стал на этой сотовой связи довольно богатым человеком, но это не умоляет его заслуг, он очень большой ученый. Но двадцать лет назад никакой сотовой связи не было. И для того, чтобы узнать, что происходит на соседней улице с ребенком, который там гуляет уже два часа, приходилось бегать и искать его по дворам. Аа сейчас достаточно взять трубку, даже не снять, а вынуть из кармана, нажать кнопку и тут же получить ответ. Это потрясающий успех. И это прогресс совершенно феноменальный, совершенно фантастический, потому что двадцать лет назад вы не могли прочесть об этом в самом фантастическом романе. Самая безудержная фантастика писателей еще двадцать лет назад ограничивалась тем, что у человека был чемоданчик с длиннющей антенной и он мог, если нужно, вызвать кого-то и кто-то посмотрел бы, что где-то что-то происходит. А сейчас количество абонентов сотовой связи превышает количество населения на Земле, причем уже, кажется, в полтора раза, значит, скоро в два будет. Это потрясающий успех! Это происходит на наших глазах, но мы этого не видим, вот как ребенок растет, нам кажется, что он все время одинаковый. У меня появился телефон сотовый десять лет назад, на меня смотрели как на презренного олигарха. Он мне нужен был по работе, я не мог без него уже обойтись. А сейчас их у меня их два, и я не знаю, куда от них деваться. Это один пример. Есть другие примеры, куда более впечатляющие, но менее известные. Например, современные лекарства, которые работают на клеточном уровне. С медициной вообще интересная штука происходит. Вот мне так кажется, что научная медицина появилась лет пятьдесят назад, до этого это было искусство и были очень хорошие врачи, которые умели что-то очень хорошо лечить.
Т. ФЕЛЬГЕНГАУЭР: Но сейчас же огромные надежды возлагают на медицинских роботов.
Д. ЗЫКОВ: Да.
Т. ФЕЛЬГЕНГАУЭР: Это совершенно удивительная вещь, когда ученые могут воссоздать, условно, кисть, и у человека опять будет рука. Ничего, что это механизм, это машина, но это будет часть его.
Д. ЗЫКОВ: Это будет, конечно, часть человека. Но давайте я все-таки скажу несколько слов об этих лекарствах, потому что это, в сущности, тоже робот - это элементы, которые целенаправленно достигают заданной точки в организме. По сути дела, это тоже робот, другое дело, что он не механический, не мигает и не говорит загробным голосом, а он просто движется и попадает ровно туда, куда нужно. Это тоже робот, но это появилось в последние десять-пятнадцать лет. Скажем, пятнадцать-двадцать лет назад появилась идея, а сейчас эти лекарства уже работают, и при помощи этих лекарств удается вылечивать болезни, которые раньше считались смертельными абсолютно. Теперь относительно того, что вы сказали о протезах. Да, они больше всего напоминают робота из школьного учебника или того, что у вас на майке нарисован - такие симпатичные железные человечки.
Т. ФЕЛЬГЕНГАУЭР: Да, я специально подготовилась к эфиру.
Д. ЗЫКОВ: Но и здесь успехи совершенно колоссальные. Я думаю, что очень немного времени пройдет и будут созданы серийно выпускаемые устройства, которые помогут людям с ампутированными конечностями чувствовать себя абсолютно полноценными. Уже сейчас проводятся исследования, и есть положительные серьезные результаты в деле управления механизмами силой мысли. Я не знаю тонкостей, но смысл такой: снимаются некие электрические импульсы с человеческого мозга, которые воспринимаются как управляющие сигналы, они определенным образом усиливаются и передаются на нужный исполнительный механизм. Первые такие опыты были проведены в Германии и в России, когда человек силой мысли управлял курсором на экране. Это простейшие были опыты, сейчас уже начали появляться работы, посвященные управлению протезами, то есть человек может управлять протезом руки или протезом ноги. Темп развития техники сейчас такой, что от идеи до ее воплощения проходит очень немного времени, вообще говоря, это время в изобретательских делах очень сильно сократилось. Если лет пятьдесят назад от идеи до воплощения проходили годы а, иногда, до десяти лет, а иногда даже и больше, то сейчас эти сроки сильно сократились. Особенно в том, что касается электроники или применения каких-то механизмов с электронным управлением, потому что уровень развития электроники настолько высок, и, самое главное, уровень программного обеспечения настолько высок, что скорость внедрения, что стадия внедрения не стала лимитирующей, от идеи до изготовления проходит мало времени. А вот, кстати, о «бунте машин». Дело в том, что появилась техника программирования и идеология программирования, которая позволяет решать практически любые задачи очень быстро. Но ни одна машина эти задачи решить не способна. Эти задачи способен решить человек, и именно поэтому «бунт машин» – это абсолютная ерунда, потому что любая программа, запущенная человеком, может быть человеком остановлена. И вот о чем мы с вами говорили как-то относительно кнопки у мальчика Электроника… Робот имеет кнопку, в отличие от человека. Вот человека погасить нельзя, ну кроме контрольной кнопки в голову, о чем мы тоже говорили, но это в этику человеческую не очень вписывается, а вот остановить машину можно, и это в этику человеческую вписывается абсолютно. Поэтому если возникает некая опасность «бунта машин», не бунта, собственно говоря, ведь бунт – это некое целенаправленное действие, ну или, может быть, спонтанное и стихийно развивающееся, но, тем не менее, имеющее человеческую природу, и у людей это остановить довольно трудно, а у машин никаких проблем: отключили рубильник и с приветом.
Т. ФЕЛЬГЕНГАУЭР: Тема, которую мы затронули буквально вскользь, но, тем не менее, по-моему, это очень важно, Алексей, инженер из Ярославля как раз задает вопрос на эту тему: «Умная машина подразумевает у нее наличие искусственного интеллекта. Так что такое интеллект, и что такое искусственный интеллект? Какие успехи есть в разработке искусственного интеллекта на данный момент?»
Д. ЗЫКОВ: Был такой совершенно замечательный человек – Андрей Николаевич Колмогоров, многие слушатели знают, что он был основателем физико-математического интерната при университете и заочной физико-математической школы и через его руки прошло огромное количество студентов, абитуриентов, школьников в семидесятые-восьмидесятые годы. Когда-то ему задали такой вопрос: «Может ли машина думать?» Он в ответ тут же спросил: «Что такое машина и что такое думать? Если вы мне объясните, то я вам отвечу на этот вопрос». Я, к сожалению, вынужден сказать то же самое. Я не знаю ответа на этот вопрос, и я не знаю что такое искусственный интеллект. Если, например, под интеллектом понимать способность программы или способность машины совершенствоваться, самостоятельно получать новую информацию и самостоятельно ее отбирать, сортировать и использовать для своего собственного развития или для решения каких-то задач, то тогда можно сказать, что машина может думать и что у нее есть искусственный интеллект. Но даже в этом случае нужно помнить о том, что изначально все равно было слово, то есть в эту машину все равно заложена некая программа, и какой бы совершенной она ни была, возможности человеческого мозга ей все равно не переплюнуть. Вот почему – я не знаю. Я не знаю, каким образом возникает информация в человеческом мозге. Вот бывают такие случаи, когда вас о чем-то спрашивают, о чем вы совершенно точно никогда не знали и никогда не слышали, но вы совершенно точно знаете ответ. Вопрос – откуда? Вот бывают с вами такие вещи? Ведь бывают, да?
Т. ФЕЛЬГЕНГАУЭР: Ну человеку вообще свойственно то, что машине никогда не испытать: это и эмоции и интуиция и прочее.
Д. ЗЫКОВ: Эмоции – это отдельная тема. Представьте себе, что вы решаете какую-то сложную задачу, а вам испортили настроение. Теперь представьте, что машина решает эту же самую задачу и ей тоже испортили настроение. Вопрос – как? Каким образом можно машине испортить настроение? У нее нет отдела мозга, отвечающего за настроение, и в программе ее нет этого отдела, нет этого раздела, нет этих частей. Можно, конечно, заложить какие-то свойства в программу. Предположим, если у машины есть части, приборы, которые отвечают за восприятие звуковой информации и вы закладываете в программу реакцию на то, что машину обозвали дурой. Вот кто-то проходит и говорит: «Машина, ты дура». И машина обижается. Вот это вот понятие «машина обижается» нужно формализовать. Машина сама не может обидеться, его нужно программным образом формализовать, нужно заставить машину отреагировать на это дело, но это человек должен придумать. Машина отреагирует, но отреагирует определенным образом. Возможно, что современные средства позволят сделать эту программу многовариантной, но мне кажется, что это количество вариантов все равно будет ограничено. А вот если мимо вас кто-то проходит и говорит: «Тань, ты дура», а потом проходит и говорит: «Тань, ну ты дурочка такая, ну вообще». Понимаете? А машина скажет, что это одно и тоже, она среагирует на корень слова.
Т. ФЕЛЬГЕНГАУЭР: Я даже не знаю, кто в этой ситуации выигрывает – человек или машина, конкретно в этой ситуации, когда обзываются дурами. Ну с интеллектом, конечно, не очень все понятно, потому что…
Д. ЗЫКОВ: С интеллектом у нас слабо.
Т. ФЕЛЬГЕНГАУЭР: Да, это точно не наша сильная сторона. Но, тем не менее, прогнозы-то совершенно фантастические, потому что ученые достаточно крупные, вроде серьезные люди и не насмотрелись они голливудских кино, а уверены, что условно через двадцать лет уже появятся первые киборги. Вот, например, у меня в руках интервью американского изобретателя Рэя Курцвайля, он уверен, что машины достигнут уровня человеческого интеллекта к 2029 году. И вот этот ученый считает, что будет создан искусственный интеллект, равный человеческому, в том числе, способный испытывать эмоции и это откроет перед людьми фантастические возможности.
Д. ЗЫКОВ: Всяко может быть.
Т. ФЕЛЬГЕНГАУЭР: Сейчас скептик заговорит
Д. ЗЫКОВ: Да, сейчас заговорит скептик, такой старый, нудный скептик. Вы понимаете, я действительно очень скептически отношусь к прогнозам такого рода - через двадцать один год, а через двадцать семь месяцев или через какое-то там еще время произойдет то-то и то-то. Есть закон случайных чисел, который говорит, что с определенной вероятностью некое событие обязательно произойдет, поэтому давать такие прогнозы можно, и с вероятностью примерно процентов пятьдесят или тридцать такое явление случится. Относительно прогнозов… Мне моя бабушка рассказывала, она была очень старой женщиной, она прожила от конки до полетов на Луну, представляете, да?
Т. ФЕЛЬГЕНГАУЭР: Внушительно.
Д. ЗЫКОВ: Так вот она рассказывала про одного гинеколога, который всегда совершенно точно угадывал пол ребенка. Не было ни УЗИ, ни рентгена – ничего, никаких анализов, и он совершенно точно предсказывал пол ребенка. Он говорил: «У вас будет мальчик, вот я записываю это дело на календаре», и записывал. Через энное количество месяцев приходила женщина и говорила: «Ну вы же говорили, что у меня будет мальчик, а у меня девочка», он говорит: «Нет, постойте», открывал календарь и говорит: «Да нет, я же писал, вот - девочка». Вот вам и прогноз – говорил мальчик, а писал – девочка, и наоборот, и всегда совершенно точно угадывал. Вот я к этим прогнозам отношусь примерно так же. Я не думаю, что сейчас есть основания давать такие точные прогнозы, прежде всего потому, что не очень понятно, что такое искусственный интеллект и мне кажется, что на сегодняшний день рано говорить о том, что можно формализовать эмоции – слишком много вариантов. Попробуйте формализовать их, попробуйте их программным образом записать, ведь если речь идет о киборге, то это речь о кибернетическом организме, то есть у него будет какая-то органическая составляющая и какая-то составляющая кибернетическая. Она, по крайней мере, на сегодня, по крайней мере так как я это понимаю, предполагает некое программирование, а программирование всегда ограничено. Оно все равно задает матрицу поведения, и если вы можете прореагировать в хорошую погоду на одно явление по-одному, а в плохую погоду по-другому, то машина, будь она самым совершенным киборгом, скорее всего, будет ограничена в выборе вариантов.
Т. ФЕЛЬГЕНГАУЭР: Ну вот тот же самый ученый считает, что цивилизация пойдет по пути слияния человеческого и искусственного интеллекта путем вживления в организм приспособлений, повышающих умственные способности человека, или можно уже будет назвать это человеком. Что, будут полулюди-полумашины?
Д. ЗЫКОВ: Нет, ерунда.
Т. ФЕЛЬГЕНГАУЭР: Это опять кино?
Д. ЗЫКОВ: Нет, это, конечно, опять кино. Я думаю, что любое вмешательство в человеческий организм, если оно не связано с жизненными показаниями, недопустимо. Человеку можно пересадить сердце, почки, печень, даже легкие, можно внедрить стимуляторы органов, наверно можно внедрить какие-то приборы, которые будут увеличивать способность человека к каким-то конкретным действиям, но мыслительные способности вряд ли можно моделировать и вживлять что-то такое в человека, просто потому, что это ненужно. Мозг настолько совершенен, что ему не нужно давать дополнительные возможности мыслить, ему нужно иногда давать возможность обрабатывать информацию. Вот современные компьютеры предназначены как раз для этого. Они позволяют быстро считать, они позволяют накапливать огромные массивы информации, быстро их искать, обрабатывать, но мыслить должен человек сам. И, скорее всего, так и будет происходить, даже если какие-то устройства помогут человеку работать головой. Но я не знаю, может я и не прав.
Т. ФЕЛЬГЕНГАУЭР: Но в таком случае, зачем все эти масштабные исследования, если человек все равно первичен, а роботы, которые ему помогают, уже изобретены. Я понимаю, медицинские роботы - это действительно очень важно, если человек с помощью каких-то устройств может получить потерянное зрение, хотя бы частично, или руку, или ногу. А вот все остальное тогда зачем?
Д. ЗЫКОВ: На этот вопрос ответ у меня есть, только я хочу сначала сказать немножко… Вот вы сказали о зрении – это потрясающая вещь. Есть в Москве группа исследователей, ну она в Москве, Израиле, Германии, в Австрии - несколько групп, они связаны между собой. Эти люди создали уже модель прибора, который позволяет видеть абсолютно слепому человеку. Это довольно сложное устройство – импульсы зрительные формируются на коже человека определенным образом. Там сложная история, я не буду углубляться в эту технику, мне просто хочется сказать о том, что вот такая совершенно фантастическая вещь уже есть, пройдет лет десять, и она будет продаваться в аптеке. И это, конечно, нужно, и для этого нужны исследования. Но для того, чтобы такую вещь создать, нужны чрезвычайно мощные вычислительные устройства. Вот когда я заканчивал школу, это было довольно давно, сильно больше тридцати лет назад, у нас была школа, одной из первых дававшая специальность «оператор-программист». Вот я тогда учился на маленькой электронно-вычислительной машине, которая называлась «Промель». Это был такой шкафчик, вот здесь вот стол, за которым мы сейчас с вами сидим, у него длина около двух метров, «Промель» была в два раза больше. Это была малая электронно-вычислительная машина, она была аналоговая, замечательная штука, на лампах работала, довольно медленно, но надежно. А потом я работал на машине, которая называлась «БЭСМ-60» - большая электронно-счетная машина, прекрасная была штука, в четырех залах больших стояла. А сейчас возможности этой машины перекрывают два небольших компьютера, которые стоят у меня на столе. А соединенные в большую сеть, они перекрывают возможности всех существовавших тогда машин, и сейчас возможности их совершенно колоссальные. Но без них, без этих вычислительных возможностей, нельзя создать новые приборы, которые очень нужны. И если не проводить исследования, то тогда эта техника остановится, она замрет, а раз она замрет, то мы покатимся назад. Поскольку если мы живем в каком-то развитии, то как только развитие останавливается, то вы можете считать, что вы покатились назад с той же скоростью, с какой вы до этого двигались вперед. Если у вас система отсчета связана с вами и вы движетесь по этой прямой линии, то как только вы остановились, то вы относительно этой системы отсчета начали двигаться назад, то есть, как только останавливается исследование, вы тут же стремительно катитесь назад. Это проблема, которая возникла в науке в Советском Союзе и в России: она остановилась, следовательно, полетела назад с той же скоростью, с которой до этого двигалась вперед.
Т. ФЕЛЬГЕНГАУЭР: То есть невозможно останавливать исследования – это наше с вами будущее.
Д. ЗЫКОВ: Ни в коем случае нельзя! Это наше с вами будущее.
Т. ФЕЛЬГЕНГАУЭР: На самом деле люди очень серьезно относятся к умным машинам, к роботам. И уже ученые говорят о том, что необходимо разработать, и уже, по-моему, в Корее опубликована, «Хартия этики» - этика для машин, этика для роботов. Насколько это важно и необходимо?
Д. ЗЫКОВ: Это страшно важно, это абсолютно необходимо, без этого нельзя обойтись людям, которые эти машины разрабатывают. К машинам это не имеет ровным счетом никакого отношения.
Т. ФЕЛЬГЕНГАУЭР: Это нужно исключительно человеку?
Д. ЗЫКОВ: Ну конечно. Люди, которые разрабатывают машины, должны понимать, что машины должны оставаться под контролем, что нельзя создавать машины для убийств. Нельзя было создавать атомную бомбу, не надо было этого делать. Нельзя создавать машины, которые могут нанести вред человеку, но нужно понимать, что здесь есть компромисс, потому что создать машину, которая совсем не наносит вред человеку, наверно тоже нельзя. И вот эта самая хартия, на мой взгляд, должна учитывать интересы человека, прежде всего. А к машинам… Ну что, машины будут подписывать хартию? И что? Я не очень понимаю, как это может произойти. Вот это договор между разработчиками.
Т. ФЕЛЬГЕНГАУЭР: То есть, по сути, ученые сами для себя определяют рамки, в которых они работают, а машины совершенно побоку.
Д. ЗЫКОВ: Ну не совершенно побоку, потому что совершенные машины, которые могут работать в автономном режиме, они, конечно, могут на какое-то время выходить из-под контроля, но хартия все равно не имеет к ним отношения. Эта хартия может иметь отношение к разработчикам, ну и к тем, кто эти машины эксплуатирует. Нельзя пускать танк с автоматическим управлением на детский сад. Вот его нельзя на детский сад пускать, при чем здесь танк. Танк здесь совершенно не при чем. Здесь решают люди, которые этот танк пускают. Вот нельзя посылать самонаводящиеся ракеты с арабской территории на израильскую, а с израильской территории нельзя посылать ракеты в ответ и ракеты здесь совершенно не при чем. При чем здесь люди, которые принимают решения, для них эта хартия.
Т. ФЕЛЬГЕНГАУЭР: В машину вообще возможно заложить что-нибудь, что может попасть под понятие «этика», или это автомат, который невозможно этому обучить.
Д. ЗЫКОВ: Я думаю, что нельзя. Я думаю, что этика поведения машин – это нонсенс. В моем представлении, машина всегда является продолжением человека и творением рук человека, поэтому говорить об этике машины нельзя, можно говорить об этике конструктора, изготовителя и эксплуатанта. Вот представьте себе, что вы едете на современном навороченном по всем возможным пунктам автомобиле, и у него в скользком повороте на гололедице отказывает система курсовой устойчивости, и вы как ехали, так по баллистической траектории и в кювет. Машина виновата? Виноват человек, который не проследил за этой машиной, который слишком сильно понадеялся на возможности этой машины, но машина здесь не при чем, и этика поведения машины ровным счетом нонсенс. Нет никакой этики в поведении машин и не может быть.
Т. ФЕЛЬГЕНГАУЭР: Существует масса совершенно сумасшедших прогнозов, ну может быть, не очень сумасшедших, мы о них уже частично поговорили, а мне интересен ваш прогноз, как скептика: что нас ждет в ближайшие годы в робототехнике? Возможны ли какие-то серьезные прорывы или так и будет это все постепенно развиваться, кто-то будет делать открытия помасштабнее, кто-то не такие масштабные?
Д. ЗЫКОВ: Ну открытия – это тоже прорыв.
Т. ФЕЛЬГЕНГАУЭР: Ну что-нибудь такое экстраординарное нас ждет? Потому что эти полулюди-полумашины в 2029 году вызывают серьезные сомнения, хочется узнать более осторожную оценку, более реалистичную.
Д. ЗЫКОВ: Более реалистичная оценка – это сложное понятие. Что называть более реалистичным? Может быть, у меня просто информации не хватает для того, чтобы сказать, что да, будут эти роботы просто толпами ходить по улицам, и не отличишь их от человека. Как у Стругацких в «Понедельник начинается в субботу» невозможно было отличить, кроме одного – они паспортов не переносили. Помните, такая штучка была забавная? А так совершенно нормально. Так вот я думаю, что произойдет революция в робототехнике, но эта революция будет касаться, в наибольшей степени, медицины. Мне так кажется, что сейчас развитие микропроцессорной техники, развитие микро-техники, развитие техники наноразмеров…
Т. ФЕЛЬГЕНГАУЭР: Ой, я так ждала, когда, наконец, прозвучит это слово.
Д. ЗЫКОВ: Слово «нанотехнологии».
Т. ФЕЛЬГЕНГАУЭР: Да-да, без них же нынче никуда.
Д. ЗЫКОВ: Это уж точно, везде нанотехнологии и даже нанесение золотого покрытия на корпус часов и то с использованием нанотехнологических приемов. Чушь, конечно, собачья. Про нанотехнику я расскажу, только чуть позже. А что касается вот этих самых роботов медицинских… Это направление развивается сейчас очень активно, и это, конечно, связано с нанотехнологиями. Понимаете, сейчас нанотехнологиями называют все подряд, мне кажется, что это не совсем правильно, если не сказать, что это совсем неправильно. Все-таки к нанотехнологиям следует, на мой взгляд, отнести технологии конструирования неких, ну назовем это изделий, на уровне молекулярном, конструирование из отдельных молекул, создание элементарных механизмов, состоящих из молекулярных кусочков, именно из отдельных молекул. Есть работы, в которых рассказывается о том, что созданы электродвигатели, состоящие из трех-четырех десятков молекул. Есть транспортные средства, состоящие из трех-четырех десятков молекул, то есть это настоящий транспорт, на этот транспорт можно посадить две молекулы лекарства и создать этот транспорт таким образом, что он достигнет нужной точки в организме. Мне кажется, что на сегодняшний день это самое интересное и самое перспективное направление в робототехнике. Вовсе не игра в футбол между роботами или сражение боевых роботов на хоккейной площадке, вот это к робототехнике не имеет никакого отношения – это шоу, а настоящая робототехника современная, ее современные направления – это нанотехнологические механизмы. Конечно, большая роль будет принадлежать и роботам большим, сборщикам. Скажем, те же самые автомобили - их и сейчас роботы собирают, и дальше их будут собирать роботы и их будет все больше и больше. И они будут все сложнее и сложнее. То же самое касается и сборки самолетов, судов и чего хотите. Любая тяжелая работа будет возложена на роботов, только это не будут киборги, это будут обычные роботы-манипуляторы, в некоторых случаях манипуляторы автономные. Вот так, мне кажется, будет развиваться эта самая робототехника.
Т. ФЕЛЬГЕНГАУЭР: То есть Голливуд нас обманывает?
Д. ЗЫКОВ: Голливуд нас обманывает, и нянек механических делать не будут: бабушки надежнее.
Т. ФЕЛЬГЕНГАУЭР: С другой стороны, бабушки болеют, а роботы нет.
Д. ЗЫКОВ: Бабушки болеют – это очень хорошо, потому что тогда внуки о них заботятся, а роботы не болеют и заботиться о них не надо.
Т. ФЕЛЬГЕНГАУЭР: Ну это мы сейчас возвращаемся к вопросу об этике, эмоциях и прочем. Вопрос еще один задам от Геннадия Воронина из Челябинска по поводу проекта «Изобретающая машина». Может, расскажете поподробнее? У нас осталось четыре минутки.
Д. ЗЫКОВ: Я так думаю, что речь идет, скорее всего, о каких-то фокусах Альтшуллера и его программе автоматизации изобретательства. Я к этому делу отношусь чрезвычайно скептически. Изобретательство – процесс творческий и формализовать его очень сложно. Если речь идет действительно об идеях Альтшуллера, то они замечательные в плане систематизации работы изобретателя, в плане методологическом, но остается творческий момент, и его формализовать нельзя никак. Я не представляю себе, как можно формализовать возникновение идеи: она возникает как будто ниоткуда. Машина может решить определенную задачу, если ей эту задачу четко сформулировать, но если вы четко формулируете машине задачу, то, скорее всего, вы заранее знаете ответ. А зачем машина тогда? Чтобы изобрести то, что вы и так знаете – так лучше тогда ее использовать для того, чтобы обсчитать этот вариант и сделать его нормально и профессионально. Не будет никогда машина ничего изобретать, машина придумать что-то принципиально новое не может, потому что в машину должна быть заложена специальная программа, предполагающая наличие решения.
Т. ФЕЛЬГЕНГАУЭР: Человек властитель всего по-прежнему.
Д. ЗЫКОВ: Совершенно точно.
Т. ФЕЛЬГЕНГАУЭР: А роботы – это помощники в самых разных сферах. Ну будем надеяться, что так оно и останется. И бунты не грозят нам никакие, и все будет замечательно и прекрасно. А всевозможные фантасты просто нас пугают, ну или радуют своими самыми невообразимыми произведениями. Спасибо вам большое за интересный рассказ. Мне кажется, что много нового узнали наши слушатели, а главное, что успокоились, что не нападет на них мобильный телефон или автомат, который выдает им кофе по утрам. Все будет хорошо, друзья мои. Спасибо большое. Я напоминаю, что это была программа «Назад в будущее». Мы говорили об умных машинах и человеке: кто кому помогает и возможна ли замена одного другим. Дмитрий Зыков был у нас в гостях. Дмитрий, огромное спасибо, это заместитель главного редактора журнала «Наука и жизнь». Ждем вас в гости с очередной порцией скептики.
Д. ЗЫКОВ: Спасибо, с удовольствием.
Т. ФЕЛЬГЕНГАУЭР: Всего доброго.
Д. ЗЫКОВ: Всего хорошего.