Субъект или алгоритм: правовое регулирование систем ИИ 

КЛЮЧЕВЫЕ ВЫВОДЫ

Системы искусственного интеллекта позволяют эффективно анализировать и обрабатывать большие данные в государственном секторе 

«Год назад работа представляла из себя следующее: сидел сотрудник Минюста и сличал эти пять копий, чтобы они соответствовали буква к букве. Сейчас это делает искусственный интеллект, мы его научили. Он проверяет грамматические ошибки, совпадения текстов-оригиналов и антикоррупционную экспертизу. В антикоррупционной экспертизе мы сделали два датасета [ dataset. — Ред.], обучили сетку, и она работает. Кстати, результат там 97%», — заместитель Министра юстиции Российской Федерации Максим Бесхмельницын. 

«Таким образом, мы видим, что наши регионы и федеральный центр в рамках новых проектов использования технологий искусственного интеллекта позволяет решать острейшие проблемы, развивать эффективность использования имущества и земельных участков на территории Российской Федерации, вовлекать в гражданский оборот и снижать недовольство при ряде конфликтных ситуаций с оценкой недвижимости», — председатель комитета Государственной Думы Федерального Собрания Российской Федерации по вопросам собственности, земельным и имущественным отношениям Сергей Гаврилов. 

«На сегодняшний день в наших федеральных государственных информационных системах ВетИС накоплено порядка 200 терабайт данных. У нас каждую секунду туда идет порядка 6000 бизнес-запросов. В системе работает порядка 780 тысяч пользователей, у нас 13,5 миллиарда сертификатов. Это глубокие данные, и мы вынуждены анализировать их с помощью искусственного интеллекта», — заместитель руководителя, руководитель цифровой трансформации Федеральной службы по ветеринарному и фитосанитарному надзору Светлана Алексеева.

ПРОБЛЕМЫ

Право отстает от развития новых технологий

«Право отстает. Но оно должно отставать. Если мы будем предусматривать заранее, ставить флажки, то не будет прорывных технологий и новых идей, потому что тогда они изначально будут запрещены», — заместитель Министра юстиции Российской Федерации Максим Бесхмельницын.

«Существует много правовых "лакун". <…> Сейчас самая важная сфера для регулирования искусственного интеллекта [ИИ. — Ред.] — транспорт. В транспорте очень много ИИ, и очень сложно внедрять искусственный интеллект, не поменяв закон», — управляющий директор, начальник центра регулирования AI Сбербанка Андрей Незнамов.

«Есть маленькая, неприметная, очень скучная сфера — терминологическая база, <…> понятия, определения, иначе три юриста никогда не договорятся о том, что именно и как мы регулируем. У нас в этом большой пробел. Некоторые заплатки в различных документах присутствуют, даны общие определения, но они страдают слабой операбельностью: они вроде что-то поясняют, но с точки зрения строгого юриста не позволяют отделить искусственный интеллект от неискусственного», — заместитель руководителя АНО «Аналитический центр при Правительстве Российской Федерации», руководитель Центра экспертизы при реализации федерального проекта «Искусственный интеллект» Сергей Наквасин.
 

Сформированный «киношный» образ искусственного интеллекта мешает формированию реального представления о нем

«Большинство представлений общества о том, каким должен быть искусственный интеллект, сформулировано у нас мультиком вроде "Валли" и фильмами вроде "Мир Дикого Запада" и "Терминатор". Поэтому, когда общество пытается регулировать искусственный интеллект, оно реагирует на те представления, которые мы видели и видим в фильмах и книжках», — управляющий директор, начальник центра регулирования AI Сбербанка Андрей Незнамов.

«Обсуждая этику искусственного интеллекта и его регулирование [эксперты. — Ред.], всегда опираются на предыдущее [заявление. — Ред.], как кто-то сказал год назад на каком-то съезде или форуме, что ИИ нужно регулировать так. А перед этим кто-то на Западе предложил такой документ, который говорит о том, что его нужно регулировать следующим образом. Но если мы по цепочке отмотаем в самое начало и поймем, к чему это все исходит, то это исходит либо к каким-то фильмам "Терминатор", либо к законам робототехники, которые сформулировал когда-то Айзек Азимов, который, во-первых, формулировал их давно, а во-вторых, был писателем-фантастом», — директор по развитию технологий искусственного интеллекта ООО «Яндекс» Александр Крайнов.

РЕШЕНИЯ 

Право должно быть одним из инструментов формирования ответственности и субъектности искусственного интеллекта 

«Искусственный интеллект будет субъектом, когда будет достаточно серьезная правовая оболочка. Сейчас это больше алгоритм, но этот алгоритм — ученик. Ведь не каждый алгоритм сам может обучиться. Он тоже обучается по каким-то правилам, но он старается», — заместитель руководителя, руководитель цифровой трансформации Федеральной службы по ветеринарному и фитосанитарному надзору Светлана Алексеева.

«Мы должны дать время законодателю смотреть, как технология влияет на человека, и по прошествии короткого времени — не надо затягивать на десятилетия — получить обратную связь от технологии и делать нормативно-правовой акт, который бы регулировал технологию. Запретить можно все. Я за то, чтобы не запрещать, а описывать правила игры», — заместитель Министра юстиции Российской Федерации Максим Бесхмельницын.

«Определение ответственности искусственного интеллекта могла бы регулировать система страховых институтов. Для нас это развилка: реалистично ли такой кусочек законодательства в перспективе ближайших двух-трех лет поднять. <…> Без этого субъектности у искусственного интеллекта не получится», — заместитель руководителя АНО «Аналитический центр при Правительстве Российской Федерации», руководитель Центра экспертизы при реализации федерального проекта «Искусственный интеллект» Сергей Наквасин.

«Новые свойства и качества будут появляться у интеллектуальной системы почти либо совсем без участия человека. Как только этот момент наступит, нам потребуется субъектность искусственного интеллекта. Если мы начнем рассуждать про искусственный интеллект, способный осваивать новые качества и свойства как про субъект, у нас появится возможность выстроить с ним правовое взаимодействие», — вице-президент по развитию и планированию фонда «Сколково» Сергей Израйлит.

Искусственный интеллект подлежит развитию и совершенствованию

«Справедливо, что во многом система искусственного интеллекта — это слепок накопленного опыта и его воспроизведения, но все-таки способный давать и новое. Самый яркий пример — игра Го, в которой машина не просто обыгрывает человека, а люди переосмысливают ранее накопленный опыт и учатся играть у программы», — директор по развитию технологий искусственного интеллекта ООО «Яндекс» Александр Крайнов.

«Искусственный интеллект влияет на все сферы жизни нас и наших детей. Мы можем повлиять на развитие искусственного интеллекта. <…> Это очень скоро может определить будущее ближайшего поколения», — управляющий директор, начальник центра регулирования AI Сбербанка Андрей Незнамов.

Подробнее читайте в Информационно-аналитической системе Фонда Росконгресс www.roscongress.org»