__MAIN_TEXT__

Page 1

ВСТУПИТЕЛЬНОЕ СЛОВО И.С. ИВАНОВА

Искусственный интеллект (ИИ) и роботизация стремительно меняют облик нашей планеты и нашего бытия. Современные достижения науки несомненно открывают перед человечеством безграничные возможности развития. Но они таят в себе и риски, в том числе в области международной безопасности. По всеобщему признанию, на рубеже ХХ–ХХI веков мир вступил в полосу нестабильности. И нет никаких оснований ожидать, что эта полоса близится к завершению. На глазах меняются сами угрозы безопасности — их природа, характер, их носители. Наряду с ростом террористической активности реальными становятся кибервойны, возродилась угроза ядерной катастрофы, мир втягивается в новую гонку вооружений, которая может привести к появлению принципиально новых средств уничтожения. Качественно новые угрозы и вызовы связаны с резким ростом миграционных потоков, изменениями климата, появлением неизвестных ранее опасных заболеваний. Некоторые эксперты видят угрозы человечеству в экспериментах с генной инженерией, в создании искусственного интеллекта и во многих других проявлениях технического прогресса ХХI века. Поэтому очень важно, не откладывая, выработать эффективные правила использования искусственного интеллекта и робототехники в различных областях, чтобы с одной стороны не мешать развитию этих технологий, а с другой — минимизировать риски, связанные с их использованием. Как национальное, так и наднациональное регулирование в данных сферах существенно отстает от практики. Например, до сих пор не  существует общепринятых международных правил использования смертоносных автономных систем. Группа правительственных экспертов Конвенции ООН о негуманном оружии, длительное VII


Вступительное слово И.С. Иванова 

время обсуждавшая данный вопрос, ограничилась лишь набором рекомендаций. В условиях международной неопределенности, создание эффективного национального права в области искусственного интеллекта и робототехники обретает особое значение для российской науки и экономики. Книга «Основы государственной политики в сфере робототехники и технологий искусственного интеллекта» содержит в себе свод наиболее эффективных зарубежных практик регулирования киберфизических систем и предложения по совершенствованию российского законодательства в данной сфере. Книга несомненно представляет интерес для всех, кто профессионально занимается проблематикой искусственного интеллекта и роботизации, и кому не безразлично развитие отечественной науки. Игорь Сергеевич Иванов, президент Российского совета по международным делам (РСМД), министр иностранных дел России (1998–2004 гг.), член-корреспондент РАН

VIII


ВСТУПИТЕЛЬНОЕ СЛОВО С.В. ИЗРАЙЛИТА

Книга, которую Вы держите в руках, способна дать хороший обзор существующих методов и подходов к формированию государственной политики в одном из самых динамичных и перспективных направлений высокотехнологичного сектора экономики — секторе, связанном с разработкой и применением систем с искусственным интеллектом. В развитии данной тематики человечество проделало большой путь длинной более чем в 80 лет, от идей и разработок Алана Тьюринга, Джона Фон Неймана, Алексея Ляпунова и Дмитрия Поспелова, до современных технологий в сфере искусственного интеллекта, лежащих в основе бизнеса 6 из 10 крупнейших корпораций мира по капитализации. Умные роботы давно сошли со страниц научно-фантастических романов, они работают на заводах, управляют автомобилями и цифровыми платформами, учат и лечат людей. Не удивительно, что лидеры наиболее развитых стран мира стремятся создать комфортные условия для развития компаний, способных использовать технологии искусственного интеллекта и робототехники для роста экономики и преобразования условий жизни граждан. В России это также один из приоритетов, подчеркнуто обособленный и находящийся под пристальным вниманием Президента В.В. Путина. Как и в любой другой высококонкурентной среде, при формировании государственной политики в данной сфере легко ошибиться и, как следствие, проиграть соседям, также не желающим упускать лидерство. Несколько крайне чувствительных развилок, касающихся этого направления, до сих пор не пройдены и являются предметом дискуссий экспертов во всем мире. Доступность больших данных для разработчиков либо дополнительный контроль и меры безопасности, направленные на защиту IX


Вступительное слово С.В. Израйлита 

персональных данных и частной жизни граждан, упрощенная сертификация и быстрый путь на рынок либо консерватизм, связанный с более высокой сложностью таких систем, распределение выгод и ответственности между пользователями, разработчиками и поставщиками информации, цифровая идентичность человека и риски ее подделки, наконец, создание новых рабочих мест либо их потеря с появлением «умных» машин — в ​ се эти вопросы требуют грамотного и безошибочного решения. И эта книга — х​ ороший старт для тех, кому важно знать, как с этой проблематикой работают наши коллеги из почти двух десятков стран, реализующих продуманную политику в сфере искусственного интеллекта, а также возможность всегда иметь под рукой удобный навигатор по ключевым вопросам государственной политики в сфере искусственного интеллекта. Надеюсь, что материалы, собранные авторским коллективом и экспертами по нашему заказу и представленные на страницах этой книги, окажутся полезными не только для специалистов, но и для широкого круга читателей, неравнодушных к тому, в какой стране мира новые технологические лидеры найдут себе дом и комфортную регуляторную среду для вывода на рынок передовых решений в сфере искусственного интеллекта. Сергей Израйлит, Директор по развитию и планированию Фонда «Сколково», координатор Центра компетенций по нормативному регулированию цифровой экономики

X


ВСТУПИТЕЛЬНОЕ СЛОВО В.Б. НА УМОВА Коммунизм есть Советская власть плюс электрификация всей страны В.И. Ленин Вся власть — для роботов!?! Заголовок настоящего раздела может показаться вызывающим, технократическим или провокационным и инспирированным растущим лобби робототехнических компаний или экстремистски настроенными трансгуманистами. Появление же в эпиграфе к введению к книге о робототехнике и искусственном интеллекте известной, как минимум, старшему и среднему поколениям цитаты В.И. Ленина может быть и вовсе воспринято как странная причуда. Однако, это не так и представляется важным для объяснения этих обстоятельств привести ее целиком, добавив к краткому варианту ленинской цитаты ее малоизвестную теперь обширную часть: «Коммунизм есть Советская власть плюс электрификация всей страны, ибо без электрификации поднять промышленность невозможно… Коммунизм предполагает Советскую власть, как политический орган, дающий возможность массе угнетенных вершить все дела, — без этого коммунизм невозможен… Этим обеспечивается политическая сторона, но экономическая может быть обеспечена только тогда, когда действительно в русском пролетарском государстве будут сосредоточены все нити крупной промышленной машины, построенной на основах современной техники, а это значит — электрификация, а для этого надо понимать основные условия применения электричества и соответственно понимать и промышленность и земледелие» 1.

1

Ленин В.И. Наше внешнее и внутреннее положение и задачи партии // Полное собрание сочинений — 5-е изд. — М.: Издательство политической литературы, 1970. — Т. 42. — С. 606. XI


Вступительное слово В.Б. Наумова 

Прошло почти столетие и совсем в другую эпоху — ​эпоху очередной, но уже промышленной революции — «​ в цифре» и за счет «цифры», мир стоит на пороге кардинальных изменений в политике, экономике и социальной сфере, которые определяются новыми технологиями и, главное, их растущим (по экспоненте!) массовом потреблении. Автор придерживается мнения, что именно искусственный интеллект и внедряемые с ним информационные системы из всех прорывных (т. н. «сквозных») технологий спровоцируют наибольшие изменения в перспективе нескольких десятилетий. Как сделать так, чтобы они стали использоваться только во благо человечества и человека, как избежать рисков и ошибок в развитии, как понять, что заложить для этого в основе новой парадигмы государственного управления — ​к лючевые вопросы развития, стоящие уже сейчас перед государствами и обществом. Если в этой связи заменить ленинскую «электрификацию» на технологии искусственного интеллекта, для которых нужны и разработка программного и аппаратного обеспечения, и большие данные для обучения, и быстрые каналы связи, и развитие технологий безопасности, то мы сможем сформулировать одну из стратегических задачвызовов, стоящей перед всеми ведущими странами мира. И многие страны мира активно стали формировать и реализовывать собственную систему ответов, активно конкурируя друг с другом в начавшейся «гонке» или «войне технологий». Поэтому, чтобы избежать написания нереализуемых документов или даже идей (и их воплощения) наподобие «производители роботов — ​новые хозяева жизни», «робот — д ​ руг человека» или даже «вся власть — р ​ оботам», можно предложить для дальнейшего развития дискуссии в стране как системно регулировать робототехнику и технологии искусственного интеллекта и оперативно формировать предметное государственное управление данной сферы, следующий тезис: Успешное развитие России невозможно без собственных технологий искусственного интеллекта и новой политики управления ими. Для реализации этого тезиса нужна, прежде всего, обширная система мер поддержки и стимулирования «полного цикла» развития XII


Вступительное слово В.Б. Наумова

технологий — о ​ т образования до распространения в стране и экспорта на мировой рынок отечественных технологий искусственного интеллекта и роботов. Несомненно, нужно стратегическое планирование и срочное принятие дорожных карт в сфере робототехники и искусственного интеллекта, работа над которыми была начата в начале весны этого года. Буквально два месяц назад в стране началось движение в данном направлении, определяемое перечнем поручений Президента Российской Федерации 2. В марте 2019 года были проведены девять конкурсов на разработку дорожных карт по направлениям «сквозных» цифровых технологий, по направлению «Нейротехнологии и искусственный интеллект» работы выполняются ПАО «Сбербанк», по направлению «Компоненты робототехники и сенсорика» — ​А НО высшего образования «Университет Иннополис». В частности, в разрабатываемый последним документ войдёт анализ и оценка потребности сквозных цифровых технологий в области робототехники и сенсорики и предложения по развитию субтехнологий до 2024 года. Над дорожной картой развития робототехники в России сейчас работают ученые из Национального центра компетенций НТИ в области робототехники и мехатроники, основанный на базе Университета Иннополис. Именно из формируемых за счет междисциплинарной экспертизы дорожных карт развития и стратегий будут понятны ключевые вехи и задачи государства. Отдельное направление развития  — ​разработка предметного законодательства, чему уже сейчас в стране посвящено немало исследований. Нужны компетентные и имеющие критерии оценки их деятельности (как по налаженным процессам, так и по конкретным социальным 2

См. «Перечень поручений по реализации Послания Президента Федеральному Собранию», утвержденный Президентом РФ 27.02.2019 № Пр‑294. Адрес в сети Интернет: http://kremlin.ru/acts/assignments/orders/59898, дата посещения: 10 апреля 2019 года. В нем в п. 2 пп. «г» дано указание Правительству Российской Федерации обеспечить разработку национальной стратегии в области искусственного интеллекта в срок до 15 июня 2019 года, в п. 2 пп. «д» — ​обеспечить реализацию дополнительных мер, направленных на стимулирование роста инвестиций в высокотехнологичные проекты, в том числе, в области искусственного интеллекта и робототехники, осуществляемые субъектами малого и среднего предпринимательства. XIII


Вступительное слово В.Б. Наумова 

и экономическим показателям) органы власти, уполномоченные не только и не столько контролировать, сколько поддерживать и защищать отрасль. В качестве идеи построения системы предметного управления можно рассмотреть двухзвенную конструкцию. В начале возможно создание национального центра робототехники и искусственного интеллекта. Он необходим для оперативной координации на государственном уровне деятельности государственных органов, бизнеса, науки и образования в этой сфере. Не секрет, что именно консолидация общих усилий и междисциплинарной экспертизы может без «конкуренции» имен, бюджетов или функций эффективнее дать правильное направление развития, чему есть уже примеры в мировой практике, где пионером выступила Южная Корея. Рекомендации и экспертиза центра помогут сформировать устойчивую горизонтальную систему взаимодействия всех заинтересованных лиц. Следующим шагом в среднесрочной перспективе станет создание федерального агентства робототехники и искусственного интеллекта. Здесь также возможно перераспределение полномочий между исполнительными органами власти или комбинации последнего с одновременным созданием указанной структуры. На этом этапе будет создан именно регулятор с классическими и контрольно-надзорными функциями в отношении рынка робототехники и искусственного интеллекта, и функциями управления развития отрасли, где также бы осуществлялось взаимодействие с национальным центром и представление интересов страны в условиях жесткой геополитической конкуренции в рамках международных процессов развития мирового рынка. Здесь аналогов гораздо больше (Япония, ОАЭ, появляющиеся решения в ЕС и Великобритании и т. п.). Конечно, за «защитой роботов» нельзя упустить сложную проблематику защиты граждан и населения от процессов роботизации и обеспечения их безопасности. Отдельно архиважной темой является контроль за развитием военной робототехники. Дискуссия в мире о том, необходимо ли включать «смертоносные автономные системы» в систему международного регулирования о запрещении или ограничении применения конкретных видов обычного оружия и проблематика классификации военных роботов по уровню контроля со стороны XIV


Вступительное слово В.Б. Наумова

человека как в сфере их использования, так и на этапе обучения, свидетельствует о развивающихся глубоких противоречиях между государствами, влияние на которые также оказывают транснациональные корпорации. Работа над этими и другими идеями в сфере регулирования робототехники и искусственного интеллекта российской практикой Dentons по ИС, ИТ и телекоммуникациям ведется с 2016 года 3. В 2018 году по заказу Фонда «Сколково» в рамках программы «Цифровая экономика» Dentons было выполнено комплексное «Исследование в области развития законодательства о робототехнике и киберфизических системах, в том числе, в части определения понятия киберфизических систем, порядка ввода их в эксплуатацию и гражданский оборот, определения ответственности» 4. Это исследование легло в основу настоящего издания. Представляется, что сейчас для страны наступает момент, когда без соответствующих государственных решений страна может надолго отстать от ряда других регионов и стран, и ликвидация этого отставания может оказаться при определенных негативных условиях невозможной.

3

4

Первый важным результатом стал «законопроект Дмитрия Гришина», выполненный в декабре 2016 года по заказу известного бизнесмена и евангелиста в сфере информационных технологий и основателя компании Grishin Robotics российской практикой Dentons по интеллектуальной собственности, информационным технологиям и телекоммуникаций (авторы А. Архипов, В. Наумов). В числе других нужно выделить подготовленный в ноябре 2017 года проект «Модельной конвенции о робототехнике и искусственном интеллекте» (авторы А. Незнамов, В. Наумов). Отчет о научно-исследовательской работе, выполнен ООО «Дентонс Юроп» в соответствии с пунктом 01.02.001.004.001 Плана мероприятий по направлению «Нормативное регулирование» программы «Цифровая экономика Российской Федерации». Руководители НИР ₋ советник Dentons А.В. Незнамов, управляющий партнер Санкт-Петербурского офиса, партнер Dentons В.Б. Наумов, исполнители ₋ советник Dentons В.В. Архипов, сотрудники ₋ Dentons В.В. Бакуменко, А.Д. Волынец, Е.П. Побрызгаева, К.М. Смирнова, Е.В. Тытюк. В ходе проведения исследования важную экспертную поддержку оказали д. ю. н. С. Сарбаш, а также А. Конюховская и А. Ефимов. В процессе совершенствования результатов работ большую роль сыграли представители центра компетенции Сколково (C. Израилит, А. Соколов), эксперты ТРГ «Киберфизические системы» и члены рабочей группы по нормативному регулированию АНО «Цифровая экономика» (руководитель Р. Ибрагимов). XV


Вступительное слово В.Б. Наумова 

Чтобы этого не произошло, есть очень короткий промежуток времени, по сути, крайне ограниченное окно возможностей, когда можно определить одно из направлений развития страны. Какой опыт при этом можно использовать, какие чужие идеи развивать, на кого ориентироваться — э​ тому и посвящена эта книга. Она является уже третьей в серии выпускаемых российской практикой по ИС, ИТ и телекоммуникациям юрфирмы Dentons книг о регулировании сферы робототехники и искусственного интеллекта, и ее авторы выражают надежду на широкое обсуждение и критику изложенных в ней фактов и идей на благо развития науки, общества и страны. Апрель 2019 года Виктор Наумов, руководитель российской практики по ИС, ИТ и телекоммуникациям юрфирмы Dentons, руководитель ТРГ «Киберфизические системы» при Центре компетенций по нормативному регулированию цифровой экономики АНО «Цифровая экономика» (Фонд «Сколково»)

XVI


ВВЕДЕНИЕ А.В. НЕЗНАМОВА В 2018 году в рамках программы «Цифровая Экономика» по заказу Фонда «Сколково» было проведено комплексное исследование различных аспектов регулирования киберфизических систем. Это исследование проведено авторским коллективом на базе международной юридической фирмы Dentons. В  исследовании было выделено три больших раздела. Первый из них посвящен существующему нормативному опыту. Второй — правовым аспектам развития киберфизических систем. Третий — регуляторным аспектам. Настоящая книга подготовлена на основе этого исследования. Она представляется собой дополненную и расширенную версию основных результатов этого исследования. Книга выполнена тем же авторским коллективом. Книга является продолжением серии книг, посвященных регулированию робототехники и технологий искусственного интеллекта. Первая — «Новые законы робототехники. Регуляторный ландшафт. Мировой опыт регулирования робототехники и технологий ИИ» — обобщила в себе информацию о существующих законодательных актах в этой сфере. В ней также собраны переводы различных законов на русский язык. Вторая книга — «Регулирование робототехники: введение в «Робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта». В ней мы обсудили основные правовые вопросы, возникающие в связи с развитием этих технологий. Настоящая книга является третьей в серии и посвящена основам государственной политики. Зачастую отношение государства к робототехнике и технологиям искусственного интеллекта проявляется не через регуляторные нормы непосредственного действия. XVII


Введение А.В. Незнамова 

Одним из основных направлений регулирования является стимулирование развития отрасли. Нормативные документы в разных правовых системах по большей части направлены не на решение сложившихся правовых проблем, а представляют собой стратегии, концепции, программы развития отрасли. Развитие технологий требует соответствующей адаптации государственного аппарата, а также решения некоторых социально-экономических проблем. В этой книге мы объединили вопросы, которые можно условно назвать «регуляторными» аспектами развития робототехники и технологий искусственного интеллекта. Мы не противопоставляем право как регуляторный инструмент каким-либо иным вопросам, но переносим акцент с собственно теоретико-правовых проблем на проблемы государственного управления. Мы рассмотрели следующие вопросы: – Основные меры государственного содействия развитию сферы робототехники и технологий ИИ. – Механизмы государственного регулирования в сфере робототехники и технологий ИИ. – Полномочия органов государственной власти в сфере робототехники и технологий ИИ. – Проблемы социальной защиты населения в связи с развитием и внедрением роботов в различные сферы жизни. В качестве экспертов-консультантов и соавторов книги выступили исполнительный директор Национальной Ассоциации участников рынка робототехники Алиса Конюховская и руководитель Лаборатории робототехники ПАО «Сбербанк», основатель Skolkovo Robotics Альберт Ефимов. Руководитель Исследовательского центра проблем регулирования робототехники и технологий ИИ (АНО «Робоправо»), советник Dentons, к. ю. н. А.В. Незнамов

XVIII

Profile for Infotropic Media

Основы государственной политики в сфере робототехники и технологий искусственного интеллекта 2  

Основы государственной политики в сфере робототехники и технологий искусственного интеллекта / А. Бутримович [и др.]. Под ред. А.В. Незнамов...

Основы государственной политики в сфере робототехники и технологий искусственного интеллекта 2  

Основы государственной политики в сфере робототехники и технологий искусственного интеллекта / А. Бутримович [и др.]. Под ред. А.В. Незнамов...

Advertisement