Закон о робототехнике - Дмитрий Гришин - Точка - 2016-12-18
А. Плющев
―
Московское время 21 час 5 минут, добрый вечер, вас приветствует Александр Плющев. Сегодня я один без Сергея Оселедько, но тем не менее, это совершенно не повод отходить от нашей программы, потому что сегодня у нас не такой уж частый гость, надо сказать, хотелось бы видеть почаще – основатель Grishin Robotics, сооснователь Mail.Ru Group Дмитрий Гришин. Дима, добрый вечер.
Д. Гришин
―
Привет.
А. Плющев
―
На минувшей неделе – вообще, сегодня будем говорить, одна и любимых тем, всякая разная фантастика, робототехника и все такое – на минувшей неделе Дмитрий Гришин выступил с предложением принять, насколько я понимаю, едва ли не первый в мире, в России закон о робототехнике.Ну, у нас много экзотических законов в Государственной Думе существует самых разных – и принятых, и отклоненных, и рассматриваемых и так далее, так что, в принципе, мне кажется, не самый экзотический ты придумал. Но, с другой стороны, иной человек скажет: ну, вот сейчас только как раз робототехники-то и не хватало – вот, там, в стране с дорогами проблемы, импортозамещение, опять же, кризис, туда-сюда… вот сейчас примем закон о робототехнике-то и заживем.
Почему именно сейчас?
Д. Гришин
―
Смотрите, на самом деле если говорить про то, что сейчас происходит в мире, в принципе, попытки регулировать все, что касается роботов, потихоньку уже происходят. Причем, происходят как в позитивном, так и в негативном ключе.
А. Плющев
―
Ну, регулировать – это всегда, мне кажется, немного негативно.
Д. Гришин
―
Да, но на самом деле есть позитивные примеры, я сейчас про них расскажу. То есть, кто-то пытается запретить беспилотные машины.
А. Плющев
―
Дроны прежде всего, конечно.
Д. Гришин
―
Дроны, где-то пытаются еще что-то запретить. Но есть и позитивные моменты, например, недавно, опять же, недели две назад штат Мичиган, наоборот, разрешил беспилотные машины.
А. Плющев
―
И ты знаешь, почему?
Д. Гришин
―
Да, я догадываюсь, как бы там, наверное, есть большой бизнес автомобильный. Но смешно то, что практически в это же время штат Калифорния запретил использование беспилотных машин. Вот недавно Uber запустил тестовую машину, и тут же на следующий день им сказали, что так делать нельзя.
А. Плющев
―
Причем, ты знаешь, там с Uber еще интереснее в Калифорнии. Причем, там же ее запретили не просто беспилотно. Они как делали, Uber в Калифорнии? Они знают все законы, что нельзя беспилотные пока выпускать, и они выпустили беспилотные автомобили с пилотами, и их было два на каждую машину, и там был руль, и там были педали. И все равно они забанили это дело, запретили.
Д. Гришин
―
Да, на самом деле, если говорить про то, что происходит в мире, уже какие-то попытки разрозненные, какие-то кусочки, они происходят. Причем, происходят некоторым образом хаотично, не совсем как бы, пример опять же Соединенных Штатов, практически разнонаправленно.И одна из главных вещей, о которых я думал – я общаюсь с большим количеством людей, которые пытаются инвестировать в это направление – это то, что отсутствие понятного законодательства является одним из главных барьеров для развития инвестиционной привлекательности этой области.
А. Плющев
―
Условно говоря...
Д. Гришин
―
Инвесторы задают главный вопрос: смотрите, мы как бы вложимся в какой-то проект беспилотного автомобиля, а вдруг окажется, что потом его все запретят, и вообще использовать его будет нельзя. Или его разрешат, но в каком-то странном виде, что, опять же, нельзя будет использовать.Поэтому на самом деле простая главная мотивация, которая у меня была, для того чтобы это сделать, это то, что понятное прозрачное законодательство позволяет привлечь дополнительные инвестиции, позволяет замотивировать еще больше команд заниматься робототехникой.
И, на мое удивление, когда я начал это изучать, я действительно увидел, что, в принципе, системного такого подхода пока нигде не было, поэтому я привлек юридическую фирму Dentons, с которой вместе мы начали разрабатывать этот закон, точнее, проект этого закона. Причем, на самом деле, что интересно, мы поставили себе цель как-то построить какое-то системное правило, которое позволило бы ответить на большое количество сложных вопросов. Первый из этих вопросов, это: что же такое робот с точки зрения юридической, гражданского права. И вот тут началось самое интересное. Мы начали пытаться анализировать разные всякие концепции.
Была первая очевидная концепция – это то, что, ну, давайте посмотрим, что роботы – это как бы люди. Но, как ты, наверное, быстро сможешь меня остановить, есть очень много спорных моментов у этой концепции.
А. Плющев
―
Роботы – это как бы люди?
Д. Гришин
―
Это была первая идея, с который мы начали как бы думать. Вторая концепция была тоже достаточно интересная – если роботы не люди, вот что наиболее близко из того, что как бы уже есть в законодательстве или присутствует в каком-то виде, может быть? Ну, например, домашние животные. Там, у них есть владельцы, они обладают каким-то видом интеллекта. Но, опять же, анализируя этот подход, нам тоже показалось, что, в общем, это скорее всего не совсем правильный подход.И потом у нас родилась такая идея. Опять же, изучая историю и смотря с разных сторон, что наиболее близкая концепция – она немножко сложно звучит для слушателей, но я попробую ее объяснить, что робот обладает близким свойством к юридическому лицу. Потому что если вспомнить вообще историю юридического лица – его же тоже не существует. Вот нет понятия юридического лица в мире. Это придуманная идея, для того чтобы каким-то образом систематизировать и описать то, как люди взаимодействуют между собой.
Соответственно, у юридического лица, там, есть собственники, у него есть устав и так далее. То есть, это придуманная конструкция, для того чтобы решить некоторую проблему. И вот мы, анализируя и смотря на все возможные варианты, пришли к выводу, что наиболее правильный подход – это фактически наделить робота с точки зрения законодательства наиболее близким к юридическим лицам свойствам. То есть, у них может быть собственник, роботы могут владеть другими роботами. Например, даже может быть большая дискуссия…
А. Плющев
―
… объединяться в холдинги.
Д. Гришин
―
Например, да. У робота может быть свой устав, правила, которыми он может оперировать. И даже, например, чисто теоретически робот может брать на работу людей. Почему нет?Поэтому, смотря с разных сторон, мы пришли к такой очень, как мне кажется, уникальной, интересной концепции, которую мы предложили в качестве нашего такого проекта закона. Это первая часть идеи.
А вторая часть идеи, это то, что на самом деле если посмотреть сейчас на процесс, как, например, происходит появление новых телефонов или новых машин, есть четкая понятная вещь – ты сделал, например, новый мобильный телефон, у тебя есть процесс сертификации, более-менее понятный производителям, да? И можно с некоторой вероятностью предположить, когда машина или телефон окажется на рынке. Сейчас же для роботов так все сделано, что все запрещено, поэтому здесь мы предложили страшное слово, наверное, неправильно его использовать, потому что в России оно всегда носит ругательный характер, но по сути как бы некоторый реестр типов роботов, в котором было бы…
А. Плющев
―
В законопроекте два хороших слова есть: реестр и агент. Ничего хорошего от этого не жди, как правило.
Д. Гришин
―
Да. Но, может быть, ты подскажешь какое-нибудь другое слово, но суть его в том, что, условно говоря, ты сертифицируешь, появляется какой-то новый робот, там, робот-пылесос, там, да? Ты его сертифицируешь один раз, то есть, ты сертифицируешь именно тип робота, и дальше, соответственно, можешь его активно использовать.У тебя могут быть роботы, которые, например, безопасные, могут быть роботы, которые изначально потенциально представляют повышенную опасность. И, соответственно, процедуру их сертификации и то, каким образом они взаимодействуют и, главное, кто отвечает в случае каких-то проблем, это, опять же, все будет происходить на этапе сертификации.
То есть, главная идея в том, чтобы разработать законодательство, позволяющее очень быстро на рынок выводить новых роботов, тем самым развивая это направление, которое мне кажется очень-очень важным, и заодно – ты начал в программе о том, что у нас происходит много всего очень нехорошего, там, да? Вот мне кажется, что сейчас робототехника находится только на начальном этапе, и у России есть шансы стать лидером в этом направлении, пока мы еще эти шансы не потеряли. И как раз, сделав хорошее привлекательное законодательство, мы можем привлечь и дополнительные инвестиции, и дополнительное внимание к этой индустрии. Это сугубо прагматическая идея.
А. Плющев
―
Ну, да. Хорошая теоретическая предпосылка. Но давай разберемся, что называется, по статьям. На самом деле это жутко скучное чтиво, скажу я вам, ну, как и любой, собственно, практически федеральный закон, и называется он еще скучнее. Это мы здесь говорим: закон о робототехнике такой, вспоминаем писателей-фантастов сразу. Называется это Федеральный закон о внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники.Но ты говоришь о том, что будет цель сделать более привлекательными инвестиции, когда ясное и понятное законодательство. Сейчас вот я даже постараюсь себя сдержать как информационника радиостанции «Эхо Москвы» и не удариться в обсуждение вообще политической практики нашей законодательной. Допустим, мы живем в идеальном вообще с точки зрения принятия законодательства государстве, и вот хотя бы здесь разберемся, а уж потом займемся политикой.
Д. Гришин
―
Ты знаешь, вот если все-таки не с политики начинать, а с сути, если говорить про робототехнику, действительно именно с точки зрения права и вообще принципов это очень сложный тяжелый вопрос.
А. Плющев
―
Конечно.
Д. Гришин
―
И на самом деле этот вопрос сложный не только на территории России, он сложный везде.
А. Плющев
―
Это правда.
Д. Гришин
―
И главное, чего хотелось бы добиться, и главное, что я стараюсь сделать, сейчас я вижу, что есть очень много каких-то кустарных отдельных попыток, хотя на самом деле фундаментально все равно это более-менее похожие вещи, надо постараться решить проблему как бы в комплексе, понять, какое место в гражданском праве будут занимать роботы, чья это будет ответственность, что такое роботы, каким образом они будут взаимодействовать.И, бесспорно, есть еще большая политическая подоплека, и ты знаешь на самом деле, я рассуждаю куда-то совсем в будущее. Понятное дело, что если будут законодательства о робототехнике локальные, но будет еще законодательство международное по робототехнике, потому что ты, например, можешь управлять роботом телеприсутствия, сидя в Москве, а сам робот будет ездить, например, где-нибудь, я не знаю…
А. Плющев
―
По какому законодательству?..
Д. Гришин
―
Да, как это будет выглядеть. Или, например, то же самое, ты можешь управлять дроном, который летает где-то там в пригороде Нью-Йорка, да? То есть, бесспорно, все эти вопросы очень сложно будет решать, но все-таки, если убрать в сторону политику – мне бы хотелось здесь ее отодвинуть в сторону – мы подходим к концепту с фундаментальным подходом, как вообще надо строить законодательство о робототехнике, и это то, что мы хотим как бы…
А. Плющев
―
К этому вернемся. Но вот к твоему изначальному посылу, что инвестиции-то получше будут в случае прозрачного законодательства в этом смысле. А как бы не так, потому что, ты, получается, перекладываешь ответственность за какие-либо инциденты, случающиеся с роботами, на их владельцев.Ну, там есть целый комплекс статей, там если невозможно установить владельца, то будет последний, там, по очереди. Ну, и так далее.
Кому же захочется отвечать за своих любимцев механических? Мы же знаем, что могут быть разные сбои, там, на уровне производителей, сбои программного обеспечения и так далее. Кому же захочется отвечать за собственного робота? Будь ты там юридическим лицом, физическим – неважно.
Д. Гришин
―
Смотри, все-таки здесь с точки зрения концепции мы говорим о том, что тот же реестр, та же сертификация, будет устанавливать уровни ответственности, и вообще, кто за это отвечает. Потому что, например, понятное дело, если брать робот-пылесос, ну, там, может быть, у тебя какой-то специальный, но те, которые я видел на рынке, они вообще все достаточно безопасные, и, наверное, в данном случае если какие-то проблемы будут возникать, то это вопрос к производителю робота.Но, с другой стороны, возьмем примеры другие. Например, там, самолеты, да? Самолет – это средство повешенной опасности, и владелец, купив самолет и запустив его в небо, изначально понимает, что он совершает действие, которое связано с повышенным риском. Поэтому все-таки здесь очень будет зависеть от типов роботов. Для простых роботов, которые, там, условно говоря, прошли сертификацию, понятно, что они ничего серьезного навредить не могут, никакой ответственности у владельцев не будет, или она будет вообще очень ограниченная. Скорее всего это будет производитель софта или производитель железа.
Но в случае с какими-то роботами повышенной опасности, сам факт того, что ты начал его применять, то есть, не производитель произвел его, а то, что ты, как владелец решил его запустить, тем самым возникает некоторый как бы риск. В этом случае для таких видов роботов должна быть другая ответственность.
А. Плющев
―
Не знаю, и тут никуда не скрыться от того, что мы живем не в сферическом вакууме, а в реальном мире, как у нас теперь новый мем родился на этой неделе, я не знаю, знаешь ты его или нет, такой, околоинтернетный-околополитический, что первым делом я в пользователе вижу нарушителя.
Д. Гришин
―
Я даже слышал, кто это сказал, да.
А. Плющев
―
Так и здесь первым делом в пользователе мы видим теоретического террориста, который направит все дроны на Кремль, или что он там сделает.
Д. Гришин
―
На самом деле, вот есть закон о робототехнике, а есть проблема робототехники. Мне кажется, что одна из первых проблем робототехники в том, что как раз когда люди слышат слово «робот», у них сразу возникают в голове, там, киборги, не благодаря, кстати, тебе, но благодаря как бы масс-медиа, часто это все-таки, это такой, очень распространенный…
А. Плющев
―
Это кино.
Д. Гришин
―
Не только кино, это распространенная вещь, что роботы как бы такие страшные, всех убивают, поэтому, бесспорно…
А. Плющев
―
Я не знаю, Сбербанк меня уже который год убеждает в том, что роботы – это вещь сугубо бесполезная. Потому что они привозят одного и того же говорящего робота, который только внешне похож на робота, на питерский Экономический форум.
Д. Гришин
―
Еще раз повторяю, что если говорить про робототехнику, сейчас однозначно есть ниши, где, наверное, отсутствие законодательства помогает развиваться бизнесам. Конкретно в робототехнике, понятно, что это физические объекты, да? Они связаны с физическим миром. Сейчас отсутствие законодательства останавливает инвестиции, останавливает развитие этого направления. Сейчас нельзя привезти из Калифорнии self-driving car и запустить ее в Москве.
А. Плющев
―
Кого нельзя?..
Д. Гришин
―
Беспилотную машину. Вот если ты завтра поедешь купишь, условно говоря, какой-нибудь прототип беспилотный у Google и запустишь его по Москве, ты будешь как бы нарушителем.
А. Плющев
―
Так его нигде нельзя запустить.
Д. Гришин
―
Нет, в Мичигане можно, как мы уже знаем, еще много мест каких-то там. Да, то же самое касается дронов, много разных подходов к тому, как их регулировать. Поэтому, я считаю, что именно в случае с робототехникой, учитывая, сколько всяких страхов с этим связано, чем раньше мы начнем как бы четко об этом говорить, чем более четко систематизировать, что можно, что нельзя, как это сработает, это однозначно будет в помощь рынку развития этого направления. И еще мне кажется, если говорить про Россию, действительно сейчас мир находится на пороге нового огромного рынка. Я уже много раз говорил, что рынок робототехники в мире будет более триллиона долларов в обозримом будущем. Это огромный рынок.И у нас, соответственно, есть два подхода. Первый подход – последними запрыгнуть на этот поезд, когда уже будет поздно, или попробовать стать страной, привлекательной для робототехники.
А. Плющев
―
А это вопрос вообще национального законодательства? Вот ты перечислил разные международные возможные аспекты, там, управляешь из одной страны, он ездит в другой и так далее. Это первый аргумент за интернациональное обсуждение этого вопроса – там, созыв какой-нибудь конференции по роботам и так далее.А второе – это то, что мы только в твоих мечтах лидеры по разработке робототехники.
Д. Гришин
―
Я, кстати, этого не говорил. Я говорил, что мы можем, имеем шанс как страна стать одним из лидеров робототехники, если будем…
А. Плющев
―
Я и говорю, что в мечтах, да. Ну, неужели это не твои мечты?
Д. Гришин
―
Мои мечты, да.
А. Плющев
―
Конечно. Ну, вот, соответственно, ныне и дроны в основном производятся за пределами России, иногда привозятся сюда в подарок, и другие виды робототехники. Пылесосы у нас не производятся, еще какие-то вещи и так далее. Все, что здесь мы видим, это в основном, хорошо, если военного назначения, и то, наверняка, часть импортная. Нам показывали какого-то на мотоцикле такого робота, Рогозин показывал очень мощного.
Д. Гришин
―
Надо все-таки разделить вопрос страны производства робота и ее применения. Даже если робот был произведен не на территории России, но он применяется на территории России, должны быть правила, что с ним происходит, кто им может управлять, кто не может управлять.Что касается международных подходов – да, одна из наших задач – это в том числе наши наработки каким-то образом отправить в европейские комиссии, которые занимаются идеями, обсуждением и сертификацией робототехники в общем, такой дискуссионный, но то, что мы сейчас видим, и это касается не только робототехники, но и других высоконаучных и технологических областей, все-таки это вопрос национального законодательства, и без этого никуда не деться. Если у тебя нету четкого и ясного национального законодательства, ничего не происходит. Потом, когда есть две-три страны, они начинают это обсуждать, межправительственные какие-то соглашения, но база права сейчас устроена так, что нужно обсуждать на уровне страны. И пример тех же дронов показывает, что, например, подход к дронам совершенно различный. Например, в Америке нельзя управлять дроном, если он находится не в пределах видимости. Вот они взяли и сказали, что так нужно поступать.
А. Плющев
―
В пределах видимости, в смысле без телеметрии?
Д. Гришин
―
Да, да. И они, например, уже ввели лицензию на пилота, ее сделали очень простую, но если ты в Америке покупаешь дрона, тебе нужно распаковать как бы его, там есть адрес сайта, ты заходишь, вводишь свое имя, фамилию, нажимаешь кнопочку, что ты подтверждаешь понимание правил, что нельзя над аэропортом летать, еще что-то, еще что-то. То есть, уже есть попытки разных сегментов роботов каким-то образом регулировать. Пока они просто несистемные, и скорее всего потихоньку законодательство к этому придет.
А. Плющев
―
Ну, да, и в этом смысле я хотел бы поддержать Дмитрия Гришина, хотя моя-то задача – оппонировать, но я еще успею в течение ближайших 30-ти минут нашей передачи, потому что рано или поздно вопрос регулирования любой развивающейся отрасли, к сожалению, встает. И хочешь – не хочешь, а приходится регулировать. И, имея опыт последних лет, регулирование людьми, прямо скажем, малокомпетентными, и судорожные попытки как-то там согласовать с индустрией, вообще спасти и так далее, они в лучшем случае приводили к некоторому очеловечиванию этих законов, а, как правило, ни к чему не приводили. Поэтому, если люди, которые, как минимум, занимаются этим, собственно от индустрии – я напомню, что Дмитрий Гришин – основатель Grishin Robotics и сооснователь Mail.Ru Group, то, в общем, конечно же, это, наверное, гораздо лучше.Хотя, опять же, помня опыт нашей всей законодательной деятельности – там, разрабатывай, не разрабатывай…
Д. Гришин
―
Ну, смотри, я считаю, что, конечно, очень здорово, когда идет инициатива от бизнеса, и все-таки мы можем каким-то образом задать повестку. И еще раз повторю, что роботы – это физические устройства в физическом мире, и я верю, что как раз законодательство в данном случае – бывают случаи, что лучше, когда законодательство буде попозже, пока индустрия меняется очень сильно. Но здесь сейчас отсутствие законодательства тормозит инвестиции, тормозит развитие. Чем раньше оно появится, тем больше шансов у нас будет.
А. Плющев
―
Ну, да. Кстати, про примеры законодательства, если позволишь, я тоже превращусь немного в рассказчика. Вот у компании, ради которой разрешили в Мичигане беспилотные поездки, у нее есть некоторые проблемы. Кстати, из-за этих проблем…
Д. Гришин
―
Ты про Дженерал Моторс?
А. Плющев
―
Нет, я как раз про Форд.
Д. Гришин
―
Хотя я читал, что первыми в Мичигане запустили тестирование именно Дженерал Моторс.
А. Плющев
―
Может быть, насколько я знаю, Форд тоже запускает сейчас эти беспилотные. Ну, неважно, дело не в этом, не о них. Вот у Форда – просто они мне показывали, такая вещь есть, например. Вы наверняка знаете, сейчас у многих машин, у Форда в том числе, есть ассистент паркинга, им мало кто пользуется в России, потому что просто не дают запарковаться, люди сзади бибикающие. Но дело не в этом.Есть более продвинутая штука. Когда ты выходишь из машины, а машина сама запарковывается. Это в том числе важно, если у тебя очень узкое место.
Д. Гришин
―
Тесла умеет так делать. Сейчас новые модели БМВ, можно там ее вперед-назад двигать.
А. Плющев
―
А ты уже не можешь выйти. И вот на момент, когда они мне показывали, не знаю, устранили они сейчас это или нет, у них была проблема и в Европе, и в Америке. Причем, по разным причинам. Потому что в Штатах ты не можешь оставлять на нейтралке, насколько я помню, или в Европе – я могу сейчас перепутать, где конкретно. В одной из частей света ты не можешь оставлять на нейтралке машину…
Д. Гришин
―
Если ты покинул машину?
А. Плющев
―
Да, на паркинге. Ты должен оставлять именно в положении «паркинг».
Д. Гришин
―
То есть, нарушение правил происходит в этом случае?
А. Плющев
―
Да. Все, значит, ты не можешь. А в Европе, по-моему, если мне не изменяет память, нельзя, чтобы она двигалась без водителя. Ну, вот, то есть, без пилота. Ну, и что-то одно, куда ни кинь – всюду клин. И это препятствует как раз проникновению технологий. Вот это довольно яркий пример того, каким образом, чего мы можем лишиться, условно говоря, и что с законодательством мы можем приобрести.
Д. Гришин
―
Совершенно верно, потому что есть новые технологии, когда ты создаешь какой-то новый софт или что-то, оно не затрагивает никакие области деятельности человечества, возможно, хорошо, когда эта индустрия развивается, наоборот, законодательство не поспевает. Но здесь все-таки, когда ты сразу изначально входишь в клин с каким-то существующим законодательством, и понятно, движущаяся машина, нарушающая правила – надо ответить на этот вопрос, кто виноват, когда она ударит кого-то там, да? Как это будет действовать. И без решения этих вопросов все равно невозможно будет развитие робототехники.
А. Плющев
―
Как ты вообще представляешь себе, ну, ты занимаешься роботами довольно много. Давай сейчас документы в сторону немного отложим, а то больно скучно вот это, в бумагах возиться. Просто, как ты себе представляешь виноватого робота? Ну, в том смысле, что он виновен в чем-то? У меня, знаешь, на самом деле сильно изменилось отношение к робототехнике. Ну, как мы себе представляем, там, что восстание машин какое-нибудь, не дай бог. Даже вот пылесосов, там, и так далее. У меня сильно очень изменилось представление об этом после того, как я поездил на беспилотной машине. И после этого, в общем, с водителями живыми мне страшнее. Беспилотная машина сама всех боится и делает все что угодно, лишь бы не навредить, и вообще ей бы на нашу дорогу – было бы трудно просто двигаться, потому что она бы встала и стояла.Ну, вот, соответственно, как ты себе представляешь робота, который может навредить? В каких это ситуациях возможно? Неважно, это машина, это дрон или еще что-то, что не в результате деятельности человека произойдет. Дрона я могу направить, хорошо, тебе в лоб, допустим. А, собственно, машина что может сделать?
Д. Гришин
―
Ты меня все-таки заставляешь опять в сторону как бы страшилок уходить, чего мы можем навредить. Но если говорить сначала про юридический аспект, это, опять же, возвращаясь к примеру юридического лица, если, условно говоря, юридическое лицо что-то сделает как бы неправильно, там, нарушит какой-то закон или договор с кем-то, но оно обычно само в суд не идет, да? В суд идет представитель юридического лица – какой-то там юрист или фирма нанятая.Так же, наверное, я не думаю, что роботы будут сами ходить в суды и разбираться, то есть, представить, что, например, на скамье ответчика находится твой робот-пылесос или твоя беспилотная Тесла, ее привезли, она сама себя защищает. Наверное, все-таки это некоторая научная фантастика. Опять же, по аналогии с юридическими лицами, будут скорее всего какие-то представители либо от производителя, то есть, на самом деле, если говорить про роботов, есть всего несколько концепций, кто может за них отвечать.
Может отвечать либо, соответственно, пользователь робота. То есть, ты взял робота и начал им пользоваться. Может отвечать владелец робота. И может отвечать производитель робота, причем, производителей можно разделить, там, производитель софта, железа, там может быть группа производителей.
А. Плющев
―
Кто собирал, кто упаковывал?
Д. Гришин
―
Да. На самом деле мне в этом плане нравятся примеры, вот, возьмите просто самолет, да, вот у самолета бывает тоже владелец, там, авиакомпания, которая должна определенные правила соблюдать, у нее могут быть пилоты, у нее могут быть пассажиры. В принципе, если пассажир что-то неправильно сделает, он тоже, наверное, виноват, да?Поэтому, мне кажется, что для каждого типа конкретных роботов будет четко сформулировано, кто за что отвечает, и на этапе сертификации будет определяться степень его опасности, степень, грань его применения. На самом деле очень похожие примеры с машинами, когда новая машина вводится на рынок, она проходит процедуру сертификации, проверяется, что она соответствует нормам экологическим – а, b, c, d… То есть, есть какая-то процедура, каждый раз, когда появляется новая машина, под это есть законодательство. То есть, автопроизводитель знает приблизительно процесс. Вот то, что мы хотим добиться, мы хотим, чтобы был четко регламентированный процесс, и при появлении каждого нового типа роботов не надо было менять законодательство.
А если говорить про ответственность, что что-то может пойти не так – ну, я не очень любитель страшилок, но давай пофантазируем: дрон может врезаться, я не знаю, в здание, там, да? На самом деле в принципе, там, я не знаю, робот телеприсутствия, вот хороший пример, ты можешь, например, врезаться тоже в кого-нибудь, или хороший очень вопрос: почему нужно законодательство для робототехники. Вот если ты сейчас берешь робота телеприсутствия – это такие устройства, где человек может удаленно находиться в какой-то точке и управлять им и разговаривать с людьми. Я инвестор в одной из таких компаний, называется Double Robotics. Вот если ты, управляя таким роботом, решил заехать в Пушкинский музей. Вот вопрос: тебе билет нужно покупать или не нужно? По правилам Пушкинского музея написано, там, дети до…
А. Плющев
―
Они просто не предусмотрены.
Д. Гришин
―
Да. Вопрос: ты нарушил закон, не нарушил, ты зайцем в этом случае выступил или не зайцем, да? Или если с таким же роботом ты поехал на метро, например, нужно тебе билет покупать или не нужно. То есть, есть очень много практических гражданских вопросов, ответы на которые нам все равно нужны.Или, другой пример – ты летишь на дроне, подлетел к какому-то кинотеатру открытому и начал через него смотреть фильм или транслировать фильм. Ты имеешь право это делать или не имеешь?
А. Плющев
―
Хорошо, продолжим мы через пару минут. Ваши вопросы про роботов и юридические аспекты законодательства, с ними связанные, поскольку мы сегодня это разбираем, закон о робототехнике. Здесь Дмитрий Гришин, основатель Grishin Robotics, сооснователь Mail.Ru Group.РЕКЛАМА
А. Плющев
―
Единственное, что я точно могу сказать о разработчиках этого законопроекта, Дмитрия Гришина и юридическую компанию, которую он упоминал, что фантастику-то они читали, ну, классику, в смысле, фантастику. Смотрите, предлагается дополнить статьей 138-й Гражданский кодекс следующего содержания: ст.138 Роботы. И тут я выдержку из нее сделаю: «При создании, настройке или эксплуатации роботов гражданского назначения не допускается включения в программную и/или аппаратную часть роботов объектов и устройств и/или функций, заведомо предназначенные для причинения вреда человеку». Ну, то есть, первый закон робототехники известный, соответственно, он таким образом трансформируется, таким образом цитируется.С другой стороны, я сейчас думаю, ну, действительно, в нашу жизнь потихонечку входят роботы, они там варят кофе, пылесосят пол – это чисто в домах, потихоньку явно будут всякие помощники в больницах, те, кто за людьми с ограниченными возможностями или престарелыми ухаживает, там, помогает, подвозит лекарства. Официанты явно – все это постепенно будет.
Д. Гришин
―
Производство уже давно.
А. Плющев
―
Да, не говоря уже про автопилоты и так далее. Тут кто-то смешно написал: «Да, в России это актуально – робот-собутыльник». Вы будете смеяться, я был в уходящем году на конференции компании Autodesk, которая…
Д. Гришин
―
Коктейли смешивает?
А. Плющев
―
Да, робот, который бармен.
Д. Гришин
―
И такого же робота я знаю американской компании, в какой-то круиз она запустила робота-бармена. То есть, ты прямо садишься, выбираешь напитки, он при тебе двумя руками смешивает, наливает.
А. Плющев
―
Да, смотрится круто, особенно как он взбалтывает, конечно, это очень здорово. Но, тем не менее. А с другой стороны, у тебя дома, если не считать, хорошо, какой-нибудь кофеварки, давно привычной, много ли роботов?
Д. Гришин
―
У меня есть робот-пылесос, есть у меня три дрона. На работе есть у меня еще робот телеприсутствия…
А. Плющев
―
Ты куда с ним отправляешься?
Д. Гришин
―
В основном по офису езжу, смотрю, например, когда меня нет в офисе, я периодически там на нем как бы езжу. И недавно у меня появился Алекс, это такой робот в другом понимании, робот-помощник, с которым можно разговаривать. Он, к сожалению, пока говорит только по-английски и не понимает, что можно находиться в России, в принципе, нельзя выставить время на Москву, он живет по лондонскому времени, то есть, у него нет просто функции выставить…
А. Плющев
―
Siri вне мобильного телефона.
Д. Гришин
―
И с ним можно разговаривать, такая коробочка, которая слышит все, что происходит в комнате, и с ним можно общаться разговаривать. Но, опять же, мы говорили с тобой про беспилотные машины. Недавно была еще одна новость, такая, наверное, для кого-то радостная, для кого-то не очень, про компанию Google, что родоначальники вообще идеи беспилотных машин, они признались, что они не будут делать отдельную машину, у которой нет педалей и руля, а все-таки будут использовать существующие модели в партнерстве с другими, и одна из причин в том числе – там, наверное, миллион причин, но одна из причин – это законодательство, потому что пока, похоже, беспилотные машины, там есть стандарты, этот тип беспилотности называется «пять уровней», там, 1, 2, 3, 4…Самое интересное – это 4 уровень. То есть, 5 – понятно, это полная беспилотность, то есть, полное управление без человека. А вот 4 уровень, это когда машина сама управляет, а когда она запуталась, останавливается и говорит: помоги мне. То есть, это очень правильно, потому что, например, задача управлять беспилотным автомобилем, например, там, летом или ночью в метель – это две разные задачи по сложности, поэтому, если даже машина сама будет понимать, что она не знает, что делать, и человек взял управление, это похоже на автопилот самолета, да? Давно уже самолеты могут летать без пилотов и приземляться.
А. Плющев
―
Да.
Д. Гришин
―
Но мы все продолжаем иметь пилотов, потому что пока качество технологий не позволяет довести до такого состояния, чтобы в каких-то суперкритических ситуациях самолет, соответственно, сам принимал решения.
А. Плющев
―
Кстати, было масса исследований.
Д. Гришин
―
В отличие от самолета, машина все-таки может остановиться, да? За редким исключением она может просто встать. Самолет не может сказать: извините, я запутался, я просто там остановлюсь. Ему все-таки лететь.
А. Плющев
―
Но проводились разные исследования, и все они более-менее сходятся к одному, что робот безопаснее, в смысле полетов имеется в виду. И что даже на одну катастрофу, которой удалось избежать с помощью человека, есть масса катастроф, которые бы удалось избежать с помощью робота.
Д. Гришин
―
Есть очень много примеров, где уже точно ясно, что роботы выполняют эту задачу лучше, просто опять же, вопрос регулирования – это раз. Во-вторых, это все вопрос наработки практики. То есть, например, в той же авиации люди постепенно смотрят все больше и больше, как работают те же автопилоты, но регулирование очень сложное, куча факторов играют роль.
А. Плющев
―
Опять же, смотри…
Д. Гришин
―
Заметь, мы даже не отказались от двух пилотов. То есть, раньше самолеты, во времена Советского Союза вообще было три пилота, там еще был штурман-инженер, назывался. Потом потихоньку перешли к формату двух пилотов. Но мы пока не отказались даже от двух пилотов, хотя, по идее, логический шаг – привлечение автоматизации. Но это вопрос времени.
А. Плющев
―
Да, это ощущается. С другой стороны, там же в авиаотрасли есть регулирование? То есть, кто виноват, если потерпел катастрофу самолет на автопилоте? Там, либо пилот, либо инженер.
Д. Гришин
―
Кто включил, например.
А. Плющев
―
Да, и так далее. То есть, не возникает этих вопросов.
Д. Гришин
―
Там тоже возникает вопрос, но там уже есть регулирование, то есть, там уже построенная база, которая четко регулирует, все-таки авиация – это одна из самых зарегулированных областей, мне кажется, там нельзя делать вообще ничего, что не разрешено.В этом плане с теми же роботами, мне кажется, что эти вопросы очень важные, актуальные, самое главное, надо их обсуждать, потому что, действительно подходов много разных, и без их обсуждения – то есть, само обсуждение тоже займет время. И мы видим сейчас в мире, на практически каждый подход регулирования там есть два-три взгляда, к которым нужно к какому-то моменту просто прийти. И чем раньше мы начнем отвечать на эти вопросы, многие из них мы которые здесь поднимали, тем лучше всем нам будет, и более понятно и прозрачно будет практика.
А. Плющев
―
Хорошо. Вот вы разработали, у вас какое-то время и силы ушли, теперь дальше что? Вы его как-то будете вносить?
Д. Гришин
―
Следующий шаг – мы хотим его отправить на экспертизу. Лучшие научные юридические умы, там мы об этом говорили, мы выбрали лучших специалистов в области юриспруденции, отправляем им на экспертизу, и мы хотим, чтобы они, сказали, с чем они согласны, с чем не согласны, потому что, действительно, концепция сложная, вопросов как бы много, и мы хотим максимально привлечь лучшие юридические умы к этому вопросу. Соответственно, это следующий этап.
А. Плющев
―
Следующий шаг.
Д. Гришин
―
Это будет происходить прямо в ближайшие дни.
А. Плющев
―
А потом, скорее всего, вы же не для того разрабатывали, чтобы они вам все перечеркали к чертовой матери. Ну, наверное, с какими-то поправками, и дальше-то что? Я даже себе не представляю. Вы через депутатов Госдумы, через правительство, «через товаровед, через директор магазин…». Куда?
Д. Гришин
―
Ну, во-первых, действительно сначала будет первая часть этого обсуждения как бы текста, но с точки зрения дальнейшей процедуры, в стране существует три направления, там, Администрация президента, правительство и Дума. Соответственно, либо – со мной уже связалось несколько человек, которые сказали, что им очень интересно каким-то образом поучаствовать в этом процессе, я думаю, что на текущем этапе это больше научные юридические вопросы, но следующий шаг – это скорее всего найти каких-то людей, которым эта тема покажется интересна, полезна, и с которыми мы будем этот закон продвигать уже на следующие этапы.
А. Плющев
―
Ты это делаешь в том числе и для своей компании, получается, Grishin Robotics, с которой в основном ты инвестируешь, насколько я понимаю, в зарубежные компании, зарубежные стартапы, занимающиеся разработкой робототехники.
Д. Гришин
―
Ты знаешь, на самом деле, как я сказал, я здесь в большей степени вижу просто большую возможность для страны…
А. Плющев
―
Все так говорят, особенно кто в деньгах заинтересован.
Д. Гришин
―
Ты знаешь, у меня здесь, наверное, наименьший личный денежный интерес, ты правильно сказал, у меня там большинство инвестиций за границей. Хотя мы видим, что все больше и больше, в том числе и наших (неразб.) инвесторов начинают каким-то образом взаимодействовать с Россией, и у нас очень талантливые ребята-инженеры. Поэтому мы как страна, в принципе, имеем шансы в этом рынке активно участвовать и развиваться.Но говоря про сам рынок и про процессы, я искренне считаю, что правильное регулирование, опять же, оно однозначно может привлечь дополнительные инвестиции, дополнительные деньги, и здесь можно только спорить, конечно же об этом, но мне кажется, что это очень правильный путь. Хотя я знаю, многие так говорят, и часто бывает, правильный путь – мне уже несколько раз люди об этом говорили, что в России все хорошие начинания часто могут закончиться чем-то непонятным. Но, с другой стороны, если не пробовать, что тогда?.. Можно просто опускать руки, с чем я категорически не согласен.
А. Плющев
―
Хорошо. Давай чуть-чуть еще абстрагируемся от твоего законопроекта, про Grishin Robotics я периодически, когда ты приходишь, спрашиваю, в какие вы еще компании инвестировали, и что они там разрабатывают. Но это о тех чудесах или о тех разработках, которые мы увидим в ближайшем будущем.Что еще?..
Д. Гришин
―
У нас начались тестовые пилоты компании Zipline, которая занимается доставкой крови на дальние расстояния. Причем, удивительно, но они первый запуск сделали в стране под названием Руанда.
А. Плющев
―
Иначе-то никак, похоже?
Д. Гришин
―
Там на самом деле, во-первых, да, там единственный другой способ доставлять кровь – это по разбитым дорогам на мотоциклах, даже на мопедах таких, вот это пример того, когда как бы дроны однозначно и дешевле, и быстрее, и экономически более выгодны. Причем, работают следующим образом. Там, из больницы приходит смска – там до сих пор работают таким образом – из какого-то села или кто-то просто по мобильному телефону пишет, что, у нас экстренный случай, смска приходит в специальную точку, из госпиталя берется кровь, и дрон вылетает, и на маленьком парашюте ее сбрасывает на деревню. Вот так это работает.Причем, они уже начали первые тестовые полеты, что, конечно же, здорово, надеюсь, что это будет развиваться потом в других странах активно.
А. Плющев
―
Это, видимо, правительственный заказ?
Д. Гришин
―
Да, там большое количество неправительственных организаций помогают, в том числе благотворительных. Ну, да, это правительственный заказ, и, что интересно, это дроны не в том понимании, как это такие квадрокоптеры, летающие на маленькие расстояния. Этот дрон похож на маленький самолет без человека, и они летают на очень длинные расстояния, то есть, порядка 50-ти километров в одну сторону могут летать. И делают это достаточно быстро.Для этого нужно много разных технологий, потому что фактически там сотовой связи большую часть времени нет, то есть, дрон сам должен навигировать, понимать, где он находится, иметь карту местности и так далее. Один из примеров того, что происходит. Конечно же, сейчас огромное развитие стали приобретать благодаря технологии машинного обучения, это всякие технологии распознавания. И я думаю, что в следующем году нас ждет очень много новых продуктов, как раз где роботы начнут намного лучше понимать, распознавать, что происходит вокруг, и ориентироваться в пространстве. Мы давно об этом говорили, практически все роботы, или большое количество роботов имеет камеры, но пока они были достаточно как бы глупыми, и вот сейчас как раз технологии распознавания, там, лиц и распознавание того, что происходит вокруг, я очень надеюсь, что будет много прорывных продуктов.
А. Плющев
―
Это же был замечательный ваш робот, который из «Звездных войн», катался.
Д. Гришин
―
Да, он продолжает кататься. Они сейчас выпустили новую версию и сделали специальный браслет на руку, называется Force Band, ребенок может вот так вот делать рукой и говорить: «да пребудет сила» – и робот начинает ездить, его слушаться. Это у них новая версия, всем рекомендую – очень прикольная.
А. Плющев: Я
―
то думал, честно говоря, что они пойдут как раз в сторону того, что будет использоваться камера, он тоже будет распознавать что-то.
Д. Гришин
―
Сейчас они сделали браслет.
А. Плющев
―
Да, пока все, что он делал, это только безумно носился в разные стороны, это очень прикольно ровно первые 5 минут.
Д. Гришин
―
Но теперь он будет слушаться тебя и управление твоей руки. Это следующая версия. Они сейчас думают – я, к сожалению, не могу говорить, что они планируют дальше, но у них есть много интересных идей, в том числе и то, о чем ты намекаешь.
А. Плющев
―
Ага, отлично! Ну, я так понимаю, это не единственная игрушка, кстати, которая планируется.
Д. Гришин
―
Но она одна из самых массовых в мире вообще роботов продаваемых.
А. Плющев
―
Лидер. Не могу не спросить – ну, у меня просто вот как у наблюдателя, человека, который следит и за твоей работой, и за работой холдинга Mail.Ru довольно долгие годы, каждый день фактически, у меня складывается какое-то впечатление – развей его или наоборот подтверди – что тебе как-то становится все менее интересно, что происходит в Mail.Ru, и ты постепенно передаешь дела и управление, а занимаешься тем, что тебе интересно – вот роботами всякими, законы разрабатываешь, визионерствуешь там в этом направлении.
Д. Гришин
―
Я на самом деле давно уже говорю о том, что Mail.Ru больше сфокусировался на именно стратегических вещах, там, на поиске каких-то новых направлений, в меньшей степени сосредоточен на операционном управлении, это правда.При этом при всем я считаю, что долгосрочно и интернет-компании, и робототехнические компании, они на самом деле все больше и больше будут скрещиваться друг с другом, если правильно такой термин высказать как бы, и мне кажется, что именно совмещение этих двух миров – мира интернета, технологии, мира робототехники и позволяет придумывать и находить какие-то новые уникальные вещи. Мне как раз это очень нравится.
А. Плющев
―
Возвращаясь, собственно, к главной теме нашей программы, к твоему законопроекту о робототехнике. Ты когда, надеешься, что он будет принят?
Д. Гришин
―
Неправильно загадывать, нам очень бы хотелось, чтобы это заняло не больше года, хотя, опять же, ты понимаешь, что в таких вопросах сложно о чем-то говорить, но мне кажется, что если это будет год-два, это будет очень здорово. Это то, что мне говорят юристы, если брать примеры каких-то… да, у нас бывают случаи, когда происходит все очень быстро, но здесь я, наверное, на этот вариант не рассчитываю…
А. Плющев
―
Года-два для закона о робототехнике. Вы наверняка же задавались вопросом, что происходит в этом смысле в других странах с законодательством?
Д. Гришин
―
Конечно, мы как раз очень подробно изучали все, что происходит в Америке, в Японии, в Европе, и на удивление мы пришли к выводу, что пока какого-то единого как бы закона, концептуально отвечающего на вопросы, никто не предложил. Есть отдельные какие-то куски регулирования, но я думаю, что это вопрос месяцев, это будет точно происходить, и я еще раз повторю, у России есть шанс попробовать стать первой страной, которая сможет сделать закон о робототехнике.
А. Плющев
―
Будет ли происходить? Ну, тут обычно же, когда надо, если есть потребность, она как бы выскакивает рано или поздно. Такое впечатление, что и потребности какой-то большой в мире нет. Ну, по отдельным отраслям регулируют и все.
Д. Гришин
―
Смотрите, можно долго спорить. Я искренне верю, что на самом деле у нас нет другого пути, нам нужен этот закон, потому что все равно всем уже очевидно, что 21-й век – это век робототехники. Хотим мы этого или не хотим – это будет. Вопрос, будем ли мы в первых рядах или в последних. Это единственный вопрос, на который надо ответить.
А. Плющев
―
У нас есть еще пара минут до окончания программы. Здесь еще один вечный вопрос, тоже неоднократно поднимавшийся в нашей программе, касающийся роботов. Ну, вот роботы потихоньку вытесняют нас из-за руля, из-за штурвала, потом, официантов они всех подгребают. Ну, и так далее.Это же гигантская армия безработных людей, большая конкуренция за рабочие места, огромная. Там, иные люди, которые любят поговорить о перенаселении или еще о чем-нибудь, сразу же хватают вилы в руки и вперед – вот, значит, мировые войны неизбежны и все такое.
Что делать с этим на самом деле? Ну, ведь, допустим, та же профессия дальнобойщика, которая первая пойдет под нож, она одна из самых распространенных в Соединенных Штатах, сколько людей сразу оказываются на рынке.
Д. Гришин
―
На самом деле… у меня сколько есть времени, чтобы попробовать ответить на этот вопрос?
А. Плющев
―
2 минуты.
Д. Гришин
―
Есть много разных теорий, что будет происходить, но, мне кажется, есть вещи, о которых люди забывают. Что если ты перестаешь рулить за рулем, то происходят две важные вещи. Первая – с большой вероятностью будет погибать меньше людей, и это очень важно.
А. Плющев
―
Еще сколько ртов – скажу циничную вещь.
Д. Гришин
―
Это, конечно, слишком цинично.
А. Плющев
―
С точки зрения – я не от себя, конечно – с точки зрения людей, которые говорят о перенаселении, что кормить уже нечем.
Д. Гришин
―
А второй очень важный момент, что у людей появляется свободное время, для того чтобы опять же больше работать. То есть, на самом деле…
А. Плющев
―
Кем? Везде роботы.
Д. Гришин
―
Представь, например, в Москве сколько можно было бы делать дополнительно полезного, там, продуктов или технологии разрабатывать, даже программистам тем же самым. Если бы они вместо того, чтобы час сидеть в пробке каждый день или два, в это же время они могли что-нибудь полезное делать. Поэтому, люди, с одной стороны, почему-то считают, что если он раньше сидел в пробке – у нас Москва стоит в пробках, да? Все люди сидят рулят и практически мало кто что успевает делать. Если просто представить, что все эти люди могли бы делать что-то полезное, мы сможем создавать больше всяких разных продуктов, не забывай об этом.
А. Плющев
―
Да ты-то рассказываешь о людях, которые добровольно этим занимаются, а не за деньги. Я-то тебе рассказываю о тех, кто работу потеряет.
Д. Гришин
―
Но, ты понимаешь, нельзя же брать узко. Ты про пробки подумай – сколько будет… я считаю, что с большой вероятностью в том числе и увеличится ВВП страны, потому что те люди, которые сейчас стоят очень долго в пробках, смогут создавать дополнительные продукты, и это тоже надо не забывать. То есть, ты смотришь…
А. Плющев
―
Мне даже интересно: проведение Wi-Fi в московском метро привело ли хоть, там, к 0,1% плюс к созданию новых продуктов?
Д. Гришин
―
Ты знаешь, я думаю, что люди точно стали больше какие-то вещи обсуждать и, например, те вещи, которые они раньше не могли с кем-то по работе с коллегами пообсуждать, они теперь могут это сделать вместо того, чтобы это делать в офисе. Трудно, конечно, замерить, но если у тебя будет час времени, ты сможешь много всего полезного делать.
А. Плющев
―
Это правда. Недавно я тут опаздывал на работу, тоже как и сегодня, но ехал на метро, и успел в метро подготовиться к программе.
Д. Гришин
―
Люди смогут заниматься, я не знаю, смотреть онлайн курсы обучающие, учиться чему-то, читать книжки. То есть, все-таки нельзя фокусироваться на одном кусочке проблемы.
А. Плющев
―
Или будут сидеть и в шарики играть.
Д. Гришин
―
А вопрос, будут ли они делать это при беспилотных машинах или нет, это вопрос как бы уже…
А. Плющев
―
Хорошо, спасибо большое. Дмитрий Гришин, основатель Grishin Robotics, сооснователь Mail.Ru Group, мы про закон о робототехнике в основном говорили. Спасибо тебе большое!
Д. Гришин
―
Спасибо.
А. Плющев
―
До свидания. Я думаю, еще продолжим, когда на стадиях принятия, там…
Д. Гришин
―
Спасибо.