Технологии против человека: есть ли угрозы в использовании персональных данных и в технологиях распознавания лиц? - Станислав Селезнев - Лукавая цифра - 2021-09-15
А.Соломин
―
Добрый день, 20 часов и 6 минут в российской столице, у микрофона Алексей Соломин, начинаем программу «Лукавая цифра». Цифра – более 5000 преступлений – это столько преступлений раскрыто в 2020 году с помощью камер системы «Безопасный город». Там, на самом деле, несколько интересных цифр. Среди них 40 убийств, 129 умышленных причинений тяжкого вреда здоровью, 516 грабежей, 2713 краж раскрыто с помощью камер системы «Безопасный город». В этой статистике, правда, нет одной важной цифры. Сколько человек были привлечены или выслушали профилактические беседы из-за участия в несогласованных акциях. Вы читали же, как многие из них утверждают, с помощью камер видеонаблюдения нашли, кстати, тоже. Сейчас система Face ID работает на смартфонах, в банках, с ее помощью можно уже расплачиваться в общественном транспорте. Похоже, что это удобно. И я, если честно, когда готовился к этой передаче, меньше всего хотел выглядеть таким, знаете, луддитом, который борется с прогрессом или боится прогресса и хочет его застопорить.Но шанс стать частью такого масштабного реалити-шоу «За стеклом» или «Большой брат», где за нами будет наблюдать государство или люди, которые смогут купить так называемый пробив данных, эти шансы тоже, в общем, достаточно высоки. И сегодня верховный комиссар ООН по правам человека Мишель Бачелет призвала наложить мораторий на использование некоторых систем, использующих в себе алгоритмы искусственного интеллекта. В частности, речь главным образом идет о системе распознавания лиц и смежных с ней технологиях. Так вот, чтобы разобраться подробно в этой достаточно новой для нас истории, мы попросили, мы пригласили Станислава Селезнева, адвоката, правового аналитика проекта «Сетевые свободы». Станислав, здравствуйте.
С.Селезнев
―
Добрый день, здравствуйте, уважаемые радиослушатели.
А.Соломин
―
Наши слушатели могут задавать свои вопросы - +7-985-970-45-45, у нас идет трансляция не только по радио, но и в Ютубе, на канале «Эхо Москвы», присоединяйтесь и спрашивайте. Станислав, но сначала я хотел для такой, знаете, более широкой части нашей аудитории немножко разжевать, что такое Face ID, как эта штука работает, с чем люди сталкиваются сейчас.
С.Селезнёв: Как минимум в 13 городах РФ применяется эта технология для отслеживания перемещений граждан
С.Селезнев
―
Ну фактически Face ID – это название протокола, которым пользуется техника компании Apple, это технология распознавания лиц, которая применяется для разблокировки тех или иных гаджетов. Фактически мы с вами говорим не только о Face ID, а в целом о технологии face recognition так называемой, распознавании лиц, и что это такое. Дело в том, что камеры видеонаблюдения мы привыкли встречать уже достаточно давно на протяжении 10-20 лет, камеры мы видели вокруг себя, но все эти камеры примерно до 2014 года собирали только запись происходящего перед ними, не классифицируя, не распознавая, не распределяя на конкретные объекты. И где-то около пяти лет назад в коммерческое использование, в широкое коммерческое использование вошли технологии, которые при помощи изучения большого количества однообразных объектов, тех же самых изображений лиц, позволяют компьютеру, компьютерным системам, цифровым системам при использовании тех же самых нейросетевых технологий формировать так называемые цифровые отпечатки некоторых объектов, если мы сейчас говорим о лицах, то есть, выявлять на обычном человеческом лице несколько десятков точек… Это расстояние между глазами, размер носа, размер губ и так далее. То есть, такая цифровая лицеметрия своеобразная.
А.Соломин
―
То есть, грубо говоря, перевод изображения лица в некую математическую функцию.
С.Селезнев
―
В некую математическую матрицу. И компьютер, как мы прекрасно понимаем, не различает изображения, для компьютера важна цифра. И преобразование лица в цифровой отпечаток – это технология, которая позволяет этот самый отпечаток однажды создать, точно так же, как отпечаток пальца, уникальный, его сохранить и при необходимости сверять с некоторыми другими, которые есть или которых в базе нет.
А.Соломин
―
Вы сказали, что уже несколько лет назад началось применение этих технологий. А на какой стадии развития этой технологии мы находимся сейчас? Это самое начало? Как вот эти тест-драйвы беспилотников? Или это уже реальное масштабное повсеместное применение?
С.Селезнев
―
Нет-нет, уже ни о каком самом начале вести речь нельзя. Подобные технологии внедряются очень широко, они очень широко внедрены в России. Как минимум в 13 городах Российской Федерации применяется эта технология для отслеживания перемещений граждан. Недавно поступила новость, что подобная система внедрена в транспортной системе, в железнодорожной системе Индии. Тот же самый подрядчик, который работает на правительство Российской Федерации, там же тоже, собственно, внедряет эти системы. Системы применяются промышленно, системы применяются, если изучить, к примеру, сайты госзакупок, можно увидеть, что эти системы активно применяются для контроля доступа на территорию каких-то режимных предприятий. Здесь вопросы регулируются, конечно, внутренними локальными нормативными актами, но технология активно применяется.И на сентябрь 2021 года, пожалуй, можно говорить о том, что власти, организации, крупный бизнес доверяет технологии распознавания лиц практически так же, как технологии распознавания и сличения отпечатков пальцев. Конечно, уровень ошибок сохраняется пока еще на достаточно немалом уровне, от 60 до 90% при разном освещении, разном расположении камер, разном качестве камер. Но фактически технология такова, что позволяет очень-очень качественно идентифицировать граждан. Тем более, что на сегодняшний день к технологии распознавания лиц добавляется и активно внедряется технология распознавания силуэтов, походок, одежды, выражений лиц даже.
А.Соломин
―
Это все может использоваться в комплексе, да? Узнать, тот ли это человек на самом деле.
С.Селезнев
―
Да, разумеется, так и есть. Если посмотреть презентации, которые компании, предлагающие свои услуги по внедрению этих технологий, собственно, распространяют среди своих потенциальных заказчиков, это крупный бизнес и, конечно, органы власти. То на сегодняшний день система распознавания лиц может быть объединена с другими очень интересными системами. В частности, речь идет о том, что не далее, чем на этой неделе, объявлена государственная закупка на, если не ошибаюсь, свыше сотни миллионов рублей… Около 50… Не суть важно. В общем, создание системы, которая будет изучать публикации в интернете, в социальных сетях и составлять профили граждан по настрою этих самых публикаций. То есть, настрой позитивный, негативный, какой-то там настрой по отношению к определенным новостям может быть даже. И учитывая, что публикации в социальных сетях у нас происходят, как правило, с аккаунтов, к которым привязаны фотографии либо которые можно выявить и сопоставить по данным, допустим, тех же самых сотовых операторов, то мы понимаем, что наличие технологий искусственного интеллекта, наличие нейросетевых технологий позволяет объединять базы изображений, базы перемещений, базы настроений, выражений в интернете и получать профили и осуществлять отслеживание перемещений граждан с тем или иным даже настроением, потому что, в общем-то, лингвистические системы анализа позволяют выявить настроение относительно тех или иных общественно значимых событий. В свою очередь, система распознавания лиц позволяет выявлять настроение и какой-то настрой в данный момент, в момент наблюдения за человеком.
А.Соломин
―
Поясните, пожалуйста, как юрист, наверное. Мы об этом еще будем более подробно говорить, о юридической стороне дела. Но перед тем, как записаться в какую-то клинику платную, неважно, какие угодно услуги получить, где нужно оставлять свои паспортные данные, я подписываю огромный документ, по которому я разрешаю, передаю право использовать мои персональные данные. В случае с использованием face recognition систем, я никому ничего не отдавал. У них есть моя биометрия, которая тоже, наверное, является моими персональными данными, разве нет?
С.Селезнев
―
Очень хороший вопрос. И здесь смотрите, какой интересный момент. На него можно ответить в двух ипостасях. Во-первых, в 2020 году на территории города Москвы как отдельного субъекта федерации принят... Вернее, для Москвы принят федеральный закон, который своим действием накладывает мораторий на применение, на ограничение, которые бы мешали развитию этой технологии, в том числе – и законом о защите персональных данных. То есть, на территории города Москвы те организации, те органы власти, которые занимаются внедрением системы распознавания лиц, законом о защите персональных данных с 2020 года больше не сдерживаются. Это первый момент.
С.Селезнёв: В Москве организации, которые занимаются внедрением системы распознавания лиц, законом о защите персональных данных не сдерживаются
И далее. Что касается самого подхода к защите этих данных… Закон о защите персональных данных требовал обязательного предварительного согласия. Что касается биометрических данных, к которым относится изображение человека, это предварительное согласие обязательно должно было быть получено в письменной форме, все это в законе до сих пор указано. Но на Москву и на экспериментальные площадки эти требования уже не распространяются.
И далее, что интересно. Как разработчики технологий распознавания лиц, так и департамент информационных технологий города Москвы, те органы власти, которые их внедряют, разделяют, понимаете, изображение человека и его цифровой отпечаток, указывая при этом на то, что цифровой отпечаток не относится ни к биометрическим персональным, ни вообще к персональным данным, поскольку это всего лишь набор данных, каких-то цифровых данных, изучение каких-то возможных фотографий. Понимаете, какой подход?
То есть, они в принципе не считают цифровые отпечатки, базу этих цифровых отпечатков, обработку этих цифровых отпечатков работой с персональными данными. И это говорит о том, что они не накладывают на себя никаких ограничений и никаких дополнительных особенных требований, связанных с охраной, с особым доступом к этим данным. Разве что, с целью защиты коммерческой тайны. С особой охраной этих данных, с обязательным их срочным хранением, с обязательным их удалением. Учитывая, что они не считают цифровые изображения, отпечатки лиц людей такими чувствительными персональными данными, то, соответственно, и мы не можем говорить… Мы предполагаем, что они не обеспечивают, по крайней мере, закон не обязывает их обеспечивать особый режим охраны.
А.Соломин
―
Мы сейчас должны будем прерваться. Но перед тем, как мы уйдем на рекламный перерыв, я хочу попросить наших слушателей проголосовать по телефону. Чувствуете ли вы какие-либо опасения для себя, прежде всего, в связи с введением вот этих систем, распознающих лицо? Если да – 101-20-11 ваш телефон, если нет, или вам нечего скрывать, или вы просто не видите в этом никакой угрозы, то 101-20-22.Мы скоро вернемся, не переключайтесь.
НОВОСТИ
А.Соломин: 20
―
22, продолжаем эфир радио «Эхо Москвы», в студии Алексей Соломин, со мной на прямой связи адвокат, правовой аналитик проекта «Сетевые свободы» Станислав Селезнев. Станислав, еще раз приветствую вас. Мы сегодня говорим о системах распознавания лица.Смотрите, вот тут хороший вопрос. Вы сказали, что системы дают сбой часто, от 60 до 90% случаев. Вот НРЗБ спрашивает в Ютубе. «Простейший пример. Кто-то проходит через турникет в метро, система распознавания приняла его за меня и с моего счета списались деньги. Где оспаривать и сколько на это уйдет времени?» А это еще простой пример, когда просто 40 рублей несчастные списались.
С.Селезнев
―
Хорошо, когда списались 40 рублей, а не когда в отношении вас возбуждено уголовное дело, потому что человек, похожий на вас, был зафиксирован где-то рядом с местом совершения преступления. В данном случае защита будет происходить как и в любом другом случае обвинения в правонарушении, преступлении. То есть, в данном случае, будет, собственно, важным и значимым вопрос, кому суды поверят в данном случае больше, вот этому самому алгоритму, технологии которого не раскрываются на сегодняшний день.. То есть, ни в одном из судебных процессов, которые прошли в течение 2020-2021 года, по крайней мере, публично известных судебных процессов…
А.Соломин
―
В России или вообще?
С.Селезнев
―
В России, я говорю именно про Россию. Не были раскрыты подробности работы этого самого алгоритма. То есть, на каком основании, собственно, суд должен доверять именно этому сличению этих самых лиц, сколько итераций, сколько сравнений эта программа должна сделать, где она берет базу, сколько изображений она проверяет, по скольки точкам она сравнивает. То есть, мы можем обратить внимание, что эта технология начала широко внедряться, может, три года назад, в 2018 году, в момент Чемпионата мира по футболу. Но несмотря на то, что, как правило, технические специалисты не участвуют в этих самых делах и не объясняют принцип работы этой самой системы, суды, можно сказать, стопроцентно доверяют тем госорганам, которые предоставляют результаты работы этого самого распознавания лиц.То есть, не приходилось слышать… Дело в том, что мы стараемся отслеживать такие дела, стараемся каждое из них изучить, если есть такая возможность, вплоть до всех материалов Понять, каким образом был выявлен данный гражданин, каким именно образом эта система сработала. Но это интересует каких-то, видите, специалистов, адвокатов в области цифровых технологий, это интересует непосредственно технических специалистов. Но суды доверяют стопроцентно.
С.Селезнёв: Мы дали возможность властям определять, какие из высказываний будут оскорблять тех или иных лиц
А.Соломин
―
Вы сказали по поводу того, что алгоритмы эти неизвестны. А кто разработчик этой системы? Это военные что ли, закрытые какие-то структуры?
С.Селезнев
―
Нет, насколько нам известно из официальных данных, с департаментом информационных технологий Москвы работает коммерческая компания NtechLab. И в общем-то, она широко известна не только в России, но и по всему миру, положительно известна за счет качественной работы программного обеспечения, качественной работы распознавания лиц, о котором мы сегодня говорим.
А.Соломин
―
Это они же были создателями приложения FindFace?
С.Селезнев
―
Собственно, о них и речь. И здесь мы сталкиваемся с тем, что сталкиваются две парадигмы ключевые о необходимости такого… Такого взгляда на мир как необходимость защиты приватности и такого взгляда на мир, в рамках которого никакой приватности более в принципе не существует, мы с вами все открыты как фигуры на шахматной доске и должны быть к этому всегда готовы.
А.Соломин
―
Два слова по поводу приложения Find Face, просто это очень интересный момент. Где-то лет пять назад появилось такое приложение, которое позволяло по своему лицу найти двойников… Не двойников, это я так использовал, честно говоря, просто пытался найти людей, которые максимально на меня похожи. Можно любого человека сфотографировать было на улице и найти его профиль Вконтакте. По фотографии, по выражению лица. Это приложение перестало работать, его перестали обслуживать, и я так понимаю, что эта компания теперь полностью переключилась на государственные контракты. Или корпоративные контракты?
С.Селезнев
―
Я не могу сказать, на что полностью переключилась эта компания. Но тот факт, что они сотрудничают с властями в Москве и сотрудничают с властями в других регионах, сотрудничают с властями в других странах, в общем-то, это открытая информация, которую они сами распространяют, и в общем-то гордятся своими достижениями.Хочется сразу обратить внимание, раз уж вы заговорили про Find Face, с чем она ассоциируется в первую очередь. Работа программы ассоциируется в первую очередь с начавшимся кибербуллингом. С поиском людей, которые снимались в порнофильмах и, соответственно, розыском их в социальных сетях и передачей их персональных данных и сведений о том, что они когда-то снимались в подобном видео, рассылка всего этого их родственникам, знакомым, семьям и так далее. То есть, первый же момент внедрения этой технологии хотя бы в такую развлекательную эксплуатацию мы тут же увидели ее обратную сторону.
А.Соломин
―
То есть, смотрите. Правильно ли я понимаю мысль? Для широко использования эта технология точно опасна. Сейчас, во всяком случае?
С.Селезнев
―
Совершенно верно, поскольку никакого подробного законодательного закрепления работы этой технологии, каких-либо ограничений этой технологии, каких-либо сведений для того, чтобы знать, где эта технология применяется, где она не применяется, сколько эти данные хранятся, на каком основании эта технология применяется к людям, которые не совершали никаких преступлений, правонарушений или другим образом себя негативно не зарекомендовали, этого ничего не прописано в действующем законодательстве.При попытке каким-то образом получить ответ от властей на эти вопросы, собственно, через суды, я говорю сейчас о деле Алены Поповой, которая обратилась в Европейский суд по правам человека после того, как не смогла ни в одном из уровней российского судопроизводства, ни в первой инстанции, ни в апелляции, ни в кассации, ни в Верховном суде добиться четкого и однозначного ответа на вопрос, почему именно в отношении нее эта технология была применена, чем она, в общем-то, повлекла, какими своими действиями повлекла такую подробную слежку за собой в то время как в принципе такая неперсонифицированная слежка за каждым гражданином совершенно очевидно нарушает сложившиеся международные стандарты, в частности, статью 8 Европейской конвенции.
А.Соломин
―
Да. Мы сейчас прервемся, хорошо? Время новостей на «Эхе Москвы» и вернемся через несколько минут.НОВОСТИ
А.Соломин: 20
―
33, мы продолжаем программу «Лукавая цифра», у микрофона Алексей Соломин, вы слушаете радио «Эхо Москвы», с нами на прямой связи адвокат, правовой аналитик проекта «Сетевые свободы» Станислав Селезнев. Еще раз приветствую вас, Станислав.Вы знаете, результаты голосования, конечно, говорят о том, что мы сильно всех напугали. Или просто пришли слушать передачу люди, которые изначально были заряжены сомнением в появлении всех этих новых систем. 93% наших слушателей позвонили и сказали: «Мы видим в этом опасность». И только 7,4% сказали, что никакой опасности они не видят.
Я поэтому попробую с другой стороны подойти. Когда власть нам говорит, что раскрыто 5000 преступлений с помощью системы видеонаблюдения, это ведь правда хорошо? В том смысле, что если какая-то система, которая, возможно, угрожает… Которая, возможно, приводит к тому, что власти видят наше передвижение по городу, если она приводит к тому, что, не знаю, предотвращено или раскрыто хотя бы одно убийство, разве это уже не хорошо? Как вы ответите на этот вопрос?
С.Селезнёв: Технология может сработать, в том числе, и против представителей власти
С.Селезнев
―
Прекрасный вопрос, я буквально ждал его. Смотрите, какая ситуация. Если мы предоставляем возможность любого регулирования, делегируем возможность любого регулирования нашей жизни какому-то лицу, неважно, мы предоставляем возможность нашему представителю в собрании ТСЖ решить, где пройдет пешеходная дорожка. Можем ли мы на 100% быть уверены, что он будет руководствоваться только нашими интересами, а ни в коем случае не своими? Мы делегируем возможность властям решать за нас, возможность собирать информацию о нас, наших детях, наших родственниках, всех наших контактах. Можем ли мы на 100% быть уверенными, что человек, который работает за этим пультом, человек, который подменяет человека за пультом и человек, который ими руководит, всегда будет руководствоваться исключительно нашими интересами?Конечно же, нет. И мы таким образом делегируем возможность очень серьезного злоупотребления неизвестным лицам. Понимаете?
А.Соломин
―
Да. Смотрите, это потенциальная возможность. А мы же говорим о моратории, о том, что вот Верховный комиссар по правам человека призывает страны ввести мораторий на использование этих технологий. Но именно эти технологии, и если бы этих технологий не было, то, возможно, некоторые преступления не были бы раскрыты. То есть, я говорю о чаше весов. И что из них перевешивает.
С.Селезнев
―
Смотрите, мы уже предоставили возможность властям решать, каким образом оценивать те или иные тексты, высказывания в качестве экстремистских. Что мы получили? Мы получили то, что экстремистами признаются огромное количество лиц, которое мало кого и оскорбляют кроме непосредственно властей, мало к кому пробуждают ненависть или вражду.Мы дали возможность властям определять, какие из высказываний будут оскорблять тех или иных лиц. Мы получили с вами десятки, сотни и сотни дел о неуважении к власти. Таким образом, как только чиновник действующий получает возможность использовать какую-либо норму или какое-либо средство в свою защиту… Собственно, практика показывает, что в любом случае это именно так и произойдет. Поэтому мы не говорим… В данном случае я о юристах, о адвокатах, которые радеют за ограничение технологии распознавания лиц, мы не говорим о том, что камеры в любом случае все нужно уничтожить и расследовать преступления исключительно по отпечаткам пальцев. Нет. Камеры сами по себе, которые не подключены к системы распознавания лиц, могут оставаться. Работа с этими камерами с применением современных технологий тоже может происходить. Тот же самый человек, в отношении которого совершено преступление, адвокат его, следователь по какому-либо делу имеет право и должен иметь право получить возможность в отношении себя какую-то информацию получить.
Но мы говорим о том, что соединение огромного количества камер с этой очень серьезной технологией, которая позволяет контролировать всю личную жизнь человека, очень-очень опасно. И именно об ограничении технологии распознавания лиц, создании баз данных, социального профилирования мы и говорим.
А.Соломин
―
А можете тогда ответить на другой вопрос? Предположим, какой-нибудь наш слушатель сидит сейчас и размышляет. «Смотрите, камеры стоят на улицах. Или в подъезде». Все равно в общественном или полуобщественном пространстве. «Я – человек законопослушный, по улице максимум хожу. Хожу-брожу, ничего такого не делаю. Какая опасность может угрожать мне лично, если я самих этих камер не боюсь? И попадания своего изображения туда не боюсь?».
С.Селезнев
―
Первый же элементарный пример. А давайте сразу примем за данность, если создана где-то какая-то база данных, она рано или поздно куда-то в сеть или куда-то еще утечет. Это закон… Это можно считать законом природы. И мы наблюдали уже неоднократно, что так называемый рынок пробива существует. Как может пострадать гражданин, который ходил исключительно из дома на работу и на пляж. В тот момент, когда он уйдет из дома на работу, злоумышленники получат сведения об этом, спокойно зайдут в его квартиру и, соответственно, заберут оттуда то, что им необходимо. Или же вдруг начнут его преследовать, или его родственников, или его детей для того, чтобы еще каким-то образом на этом заработать.Я бы мог дальше развивать эту идею, но по поводу того, что эта технология может сработать, в том числе, и против представителей власти. Но за подобные рассуждения в 2019 году гражданин Владислав Синица был осужден к пяти годам лишения свободы, поскольку рассуждал по поводу возможного последствия для сотрудников полиции, которые каким-то образом применяют силу на массовых акциях. И судя по всему, до тех пор, пока эта технология не обратится против своих создателей, против тех разработчиков, которые ее разрабатывают, против представителей, собственно, каких-то органов власти, которые ее продвигают… Боюсь, пока они на личном примере не увидят, что она работает против них, боюсь, вряд ли мы здесь у нас в России увидим, что скорость внедрения этой технологии остановилась.
А.Соломин
―
Я слышал, что даже есть… Волонтер Роскомсвободы Анна Кузнецова купила пробив на себя саму. То есть, получила выборку своих путешествий по городу, правда?
С.Селезнев
―
Да, это очень широко известное дело, мы готовили в связи с этим даже отдельный доклад, и мы знаем только об одном этом случае как специальном совершенном, подтвержденном примере. Сколько таких случаев мы еще не знаем – отдельный вопрос. Сейчас на слуху деятельность различных киберсталкеров, группировок, которые преследуют тех или иных лиц просто по причине несоответствия каких-то политических взглядов, по причине несоответствия взглядов на какую-то гендерную политику. Понимаете, да?
А.Соломин
―
Публикуют адреса…
С.Селезнев
―
Да, публикуют адреса и начинают преследовать. А представьте, до сих пор просто… Во-первых, мы не знаем, откуда эти адреса взяты. То ли они взяты из каких-то баз, то ли они взяты путем такого отслеживания лица такого человека. Мы не можем себе представить даже, остается только вообразить, что произойдет, если такие социально активные граждане начнут преследовать кого бы то ни было, каких-то людей слабее, скажем так. Если кто-то начнет преследовать бывших жен, если кто-то начнет преследовать политических противников, если кто-то начнет преследовать, в конце концов, действительно по принципу несоответствия идеологий друг друга. Если на сегодняшний день хотя бы минимальная возможность определить или оставить в тайне место жительства есть у простых граждан, то в самом ближайшем будущем такой возможности не будет.
С.Селезнёв: На сегодняшний день полностью отсутствуют какие-либо эффективные процедуры для рассмотрения жалоб на нарушения
И, опять же, очень интересно, как будут с этим работать представители государственных органов, чиновники, которые работают там. Первое, что приходит в голову – они создадут специальную базу самих себя, которая не будет трекаться по этим камерам распознавания лиц.
А.Соломин
―
То есть, из системы можно и изъять какого-то человека?
С.Селезнев
―
Разумеется, да. Если у нас есть отпечаток, мы можем загрузить несколько отпечатков, за которыми слежка не осуществляется. Помните, как у робота-полицейского были внедрены в него изображения членов совета директоров корпорации, которая его создала, которым он не мог причинить вред? Разумеется, точно такая же система может быть внедрена и в наши камеры.Однако если мы говорим о том, что есть база лиц, которых нельзя называть, эта база тоже рано или поздно утечет в сеть, даркнет, и будет использована против них.
А.Соломин
―
Когда мы говорим о моратории, когда российские юристы, правозащитники просят приостановить развитие этих технологий… Вы сказали, что не значит – полностью отменить. А где, в чем мораторий заключается? Что сейчас нужно сделать, чтобы и прогресс не останавливать, чтобы системы развивались для людей, и для того, чтобы минимизировать риски, о которых мы сегодня говорим?
С.Селезнев
―
Во-первых, мы хотим минимальных гарантий против злоупотребления. А именно – обязательное и подробное информирование граждан о том, что применяется видеонаблюдение с системой распознавания лиц там, где оно применяется. Во-вторых, на законодательном уровне утвердить и следовать этому списку, перечень разрешенных зон и запрещенных мест, так называемых гарантированных чистых зон, где видеонаблюдение и технология распознавания лиц запрещены.
А.Соломин
―
А для чего это? В смысле, как это поможет человеку?
С.Селезнев
―
К примеру, мы установим, что запрещено использование распознавания лиц в некоторых чистых зонах, где граждане будут знать о возможности открыто выразить свое мнение. Или мы укажем на запрет видеонаблюдения в квартирах, запрет на наблюдение за теми же самыми школами… То есть, некоторых зон, где гражданин совершенно точно может чувствовать себя в безопасности от постоянного всевидящего ока, будет иметь возможность элементарно психологически расслабиться, может, в присутствии каких-то других людей, или это может быть полностью закрытая технология. Не хотелось бы говорить о создании резервации, наоборот, что применение технологии распознавания лиц должно быть ограничено.Дальше. Необходимо установить предельный срок хранения данных с обязательным публичным уничтожением этих собранных данных. Не то чтобы публичным уничтожением, а наличием публичного аудита с соблюдением этих технологий – это отдельное требование, потому что на сегодняшний день абсолютно все, что касается внедрения технологии распознавания лиц, полностью непрозрачно, полностью закрыто, алгоритмы закрыты, их работа закрыта, хранение… Объем собранных данных о гражданах полностью закрыт. Никто не знает, о ком, сколько и какой информации за какой период времени уже собрано и каким образом она классифицирована и сколько времени будет она храниться. Никто сейчас этого в России не знает.
Далее. На сегодняшний день полностью отсутствуют какие-либо эффективные процедуры для рассмотрения жалоб на нарушения. То, с чего мы с вами сегодня начали. Поэтому эффективные процедуры рассмотрения жалоб должны быть созданы. Алгоритмы должны быть ясны, суть их работы должна быть ясна, оспорить работу этого алгоритма у граждан должна быть возможность всегда.
Хотел отдельно еще упомянуть о запрете предоставления собранных властями данных каким-либо иным лицам, будь то коммерческие организации, другие страны и так далее. Поскольку на сегодняшний день появляется информация о том, что собранные властями в Москве данные обрабатываются и могут быть проданы каким-то коммерческим организациям для распространения коммерческих продуктов. То есть, вы можете сколько угодно отказываться от использования распознавания лица самими телефонами, отказываться от сохранения куки-файлов при входе на разные сайты, чтобы вас не нагоняла таргетированная реклама. Но ваши данные продаст все равно какой-нибудь государственный департамент и вас таргатированная реклама догонит, причем рекламодатель будет знать о вас практически все, все ваши предпочтения, проживание, перемещение, настроение на данный момент.
А.Соломин
―
А вы бы, кстати, отсоветовали людей пользоваться коммерческими услугами, которые применяют системы распознавания лица? Банки, приложения, Apple ID.
С.Селезнев
―
Скажем так, если вы чувствуете уверенность, что вся эта информация хранится качественно, хранится надежно, никогда не утечет к злоумышленникам. Если вы полагаете, что все люди, которые допущены к этой информации, кристально честные люди и будут работать только в ваших интересах, то, конечно же, пользоваться такой технологией можно. Что касается лично меня, то я биометрическими технологиями не пользуюсь из принципиальных соображений. Ни распознавание лиц, ни пальцев, ничего такого. Хотя на сегодняшний день множество гаджетов предлагают такую возможность.
А.Соломин
―
При этом вы все равно наверняка в системе.
С.Селезнев
―
Конечно. Я же по улицам перемещался. В метро заходил в Москве.
А.Соломин
―
Кстати, Россия же не уникальная страна. В других странах как пользуются этими технологиями? Есть ли позитивные или негативные примеры?
С.Селезнев
―
Самый на сегодняшний день известный негативный пример, притча во языцех практически – это применение технологии распознавания лиц на западе Китая. Уже практически нет сомнений в том, что система распознавания лиц включена в систему расовой дискриминации на западе Китайской Народной Республики. Огромное количество сведений, которые поступают оттуда, говорят о том, что люди, внесенные в специальные списки, ограничиваются в перемещениях, времяпрепровождении, занятиях, свободном исповедовании своей религии, в общении с родственниками и так далее. И все это делается при полном контроле с использованием технологий распознавания лиц.Опять же, те самые базы, которые у нас только формируются… Но я думаю, что в течение ближайшего года они тоже будут сформированы, базы так называемых участников сомнительных мероприятий, базы людей, которые негативно высказывались в интернете, и, соответственно, соединены с изображением лиц этих граждан. Фактически в том же самом Китае есть возможность у полицейского, либо находясь вдали, либо удаленно при помощи камеры, либо находясь на улице обратить внимание на какого-то человека и составить о нем тут же социальный профиль полный.
А.Соломин
―
Я смотрел фильм канала «Хочу домой», кажется, где ведущий как раз был в Урумчи и снимал происходящее там. Просто мне кажется важным сказать, что там перекрытия еще везде. Чтобы пройти через эти перекрытия, нужно чтобы тебя система опознавала по Face ID. То есть, когда говорят о контроле перемещения, речь идет о фактических заборах, через которые нельзя пройти, если ты не прошел Face ID.
С.Селезнев
―
Ну да. Собственно, город представляет из себя резервацию. И в зависимости от уровня социального благоденствия, от уровня социальной полезности человека, он имеет право либо посещать только свой квадрат, либо посещать соседний, либо выходить куда-то дальше, выходить в самые продвинутые, за пределы города могут выезжать. Тем не менее, они остаются под контролем.
А.Соломин
―
А есть ли страны, которые запретили использование? Даже коммерческое.
С.Селезнев
―
Что касается запрета… в Европейском союзе 28 января этого года приняты руководящие принципы по распознаванию лиц. И в соответствии с руководящими принципами… в Европе есть документ, Конвенция по обработке персональных данных. Так вот, в соответствии с этими руководящими принципами января 2021 года биометрические системы отнесены к персональным данным и могут обрабатываться только в соответствии с этим стандартом. И ситуация такова, что власти европейских стран, пытающиеся внести, включить технологии распознавания лиц, внедрить технологии распознавания лиц, сталкиваются с очень серьезным противодействием со стороны как юридического сообщества, так и правозащитного сообщества, с противодействием со стороны гражданского общества. И очень интересно в этом плане сравнить, что в России ситуация такова, что за исключением отдельных высказываний на эту тему ни одно из действующих каких-то незарегистрированных политических движений не высказывается никаким образом о технологии распознавания лиц, о необходимости ее прекращения либо ограничения, либо наложения какого-то моратория и так далее. То есть, мы в данном случае находимся в некоторой такой восточной парадигме подхода к этой технологии. Вводят ее нам, значит, будем с этим что-то делать.
С.Селезнёв: Мы с вами буквально уже даже не на пороге, а вошли в эту самую зону полного контроля
А.Соломин
―
Какую вы ожидаете перспективу? Люди примут, смирятся с этим? Много обсуждают использование роботов на войне. Нам это кажется… Господи, из фантастических книг что-то будут обсуждать, как будто шуточное такое.
С.Селезнев
―
Я думаю, что это совершенно не шутки. И та скорость, с которой технологии внедряются, говорит о том, что мы с вами буквально уже даже не на пороге, а вошли в эту самую зону полного контроля. По крайне мере, жители 13 городов российских, среди которых есть и Москва, уже практически не могут считать себя полностью самостоятельными, поскольку все их перемещения, настроения отслеживаются и складываются в определённые цифровые папочки, которые могут храниться вечно.
А.Соломин
―
Правильно я понимаю, есть некая база данных на российских оппозиционеров?
С.Селезнев
―
Я не могу этого утверждать, но мы можем посмотреть, что у нас происходило в январе 2021 года. Немалое количество людей после января 2021 года были задержаны и выявлены впоследствии, привлечены к ответственности за участие в публичной акции как раз при помощи технологий распознавания лиц. И тут еще нужно обратить внимание, что это утверждение можно делать только исходя из анализа каких-то случайно оказавшихся в деле документов, поскольку представители власти у нас всеми возможными способами факт применения этой технологии в отношении каких-то политических… В ходе политических дел стараются скрыть и не афишировать.
А.Соломин
―
А почему, как вы думаете?
С.Селезнев
―
Потому что это, в первую очередь, даст возможность эту технологию исследовать, оспорить и поднять вопрос о возможности ее применения на международном уровне.
А.Соломин
―
А сейчас такие прецеденты в России есть? Чтобы выходили в суд, пытаясь обжаловать использование этой технологии против человека. Так, у нас зависла картинка. Осталось две минуты буквально, сейчас мы попробуем. Есть. Извините, мы вас немного не слышали, но сейчас снова слышим. Нет. Все-таки зависли.Я прошу прощения, Станислав. Под самый конец эфира у нас начались проблемы со связью, у нас остается меньше минуты времени. Но почитайте еще про дело Алены Поповой, до ЕСПЧ дошло уже оно. И почитайте доклад проекта «Сетевые свободы. Распознавание лиц, предчувствие антиутопии». Его можно найти в интернете, со всеми кейсами можно с интересом познакомиться. Спасибо большое. Станислав Селезнев, адвокат, правовой аналитик проекта «Сетевые свободы» был в нашем эфире. Это была программа «Лукавая цифра», мы сегодня говорили о технологиях распознавания лица, есть ли угроза для человека в этих новых технологиях. Меня зовут Алексей Соломин, это была программа «Лукавая цифра», до свидания.