Больше чем Сколково

Инициаторами законопроекта выступили депутаты Госдумы от фракции «Единая Россия» Ирина Белых и Александр Жуков.

Законопроект предполагает установить с 1 июля 2020 года пятилетний экспериментальный правовой режим «в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта, а также последующего использования результатов его применения». И возник он, конечно, не на пустом месте.

Еще в октябре прошлого года Владимир Путин своим указом утвердил Национальную стратегию развития искусственного интеллекта на период до 2030 года. Подобные программы уже разработали и приняли более 30 стран мира, так что борьба за технологическое лидерство на планете идет жесточайшая.

А 15 января 2020 года в ходе послания Федеральному собранию Президент России поручил запустить гибкий механизм экспериментальных правовых режимов для разработки и внедрения в России новых технологий и наладить современное регулирование оборота больших данных.

Для введения такого режима столица России подходит идеально. «Москва — один из самых инновационных городов в мире с точки зрения применения новых технологий, — говорит гендиректор компании по разработке биометрических технологий NtechLab Александр Минин. — Можно однозначно говорить, что Москва — это концентрация вузов, которые готовят специалистов в этой области».

Внесение законопроекта синхронизировано с федеральной стратегией развития искусственного интеллекта в Российской Федерации. Документы используют единую терминологию и подходы.

— Законопроект носит скорее рамочный характер, — считает директор по взаимодействию с государственными органами компании «ABBYY Россия» Ольга Минаева. — Полагаю, что к проработке конкретных мер поддержки авторы документа привлекут широкий круг экспертов, в том числе и разработчиков технологий искусственного интеллекта. По нашему опыту структуры города, в частности Департамент предпринимательства и инновационного развития Москвы, активно общаются с IТ-отраслью. Одними из важных мер поддержки может послужить популяризация технологий искусственного интеллекта, а также участие города в поддержке льгот по страховым взносам для IТ-компаний.

Гендиректор и основатель компании Group-IB Илья Сачков подтверждает, что эксперименты с технологиями, которые проходили в Москве, оказывались вполне успешными. «Практически все цифровые сервисы, которыми мы сейчас пользуемся, классно работают. Я считаю, что новый закон позволит улучшить и предоставить новые сервисы в транспорте, образовании, в обслуживании людей, в безопасности».

Можно, конечно, задаться вопросом — чем отличается новый эксперимент от работы центра Сколково. Дело в том, что Сколково — это в первую очередь обеспечение финансового и налогового стимулирования. Новый же эксперимент предполагает сочетание финансовых и правовых механизмов, что в том числе предоставляет новые возможности компаниям, давно и успешно работающим на территории российской столицы.

Высшим исполнительным органом государственной власти Москвы является правительство Москвы. Именно ему законопроект предоставляет миссию реализации проекта на территории города.

Честность компаний — прежде всего

Разработка в сфере искусственного интеллекта — только одна часть эксперимента. Не менее интересна его правовая сторона. Все дело в том, что технологии развиваются с огромной скоростью, и зачастую законодатели не поспевают за их должным юридическим оформлением.

Руководитель департамента разработки беспилотных транспортных средств Cognitive Technologies Юрий Минкин в связи с этим приводит пример с беспилотными автомобилями:

— Сейчас за все отвечает человек, который управляет автосредством. Понятно, что эта парадигма устареет, уже даже сейчас в некоторых ситуациях она не совсем верна, — говорит эксперт. — Когда автомобиль едет в беспилотном режиме, то, естественно, человек не может отвечать, и в будущем таких коллизий будет все больше и больше. И очевидно, что если мы придем к беспилотным машинам, ответственность должна быть перераспределена.

Так что эксперимент даст работу и юристам.

Председатель комиссии по технологиям «Умного города» Общественной палаты Москвы Илья Массух считает, что на данном этапе искусственный интеллект необходимо использовать в качестве дополнения к человеку, а никак не наоборот: «Во многих отраслях экономики и общественной жизни зачастую принимается и работает такая нормативная база, согласно которой необходимо личное присутствие человека и взаимодействие с ним. Самая явная область — медицина. Врач должен ставить диагнозы, выписывать рецепты, корректировать лечение. Вместе с тем искусственный интеллект поможет ему мгновенно обработать огромное количество информации и принять правильное решение. То же самое есть в образовании. Там есть понятие «учитель, который учит». Вместе с тем уже сейчас есть наработки, по которым взаимодействие с человеком в этих областях может брать на себя компьютер. Но чтобы это осуществить и легально использовать, необходимо менять нормативную базу».

Речь идет о создании принципиально новых нормативов в ряде отраслей.

И ученые, и обыватели традиционно находят аргументы как за, так и против «искусственного интеллекта». Но плюсы и минусы одного из важнейших технологических прорывов человечества год от года смещаются. Сначала — о минусах. Если несколько десятилетий назад мы полушутя-полусерьезно рассуждали об опасности захвата мира роботами, то теперь эта страшилка перестала быть актуальной. Бояться нужно не роботов, а людей, которые пользуются информацией (причем чаще всего закрытой) в корыстных целях.

По словам экспертов, технологии можно использовать как для улучшения качества жизни граждан и условий ведения бизнеса, так и для противоправных действий. Последнее утверждение очевидно и подтверждается статистикой. По предварительным данным аналитиков InfoWatch, в 2019 году количество зарегистрированных утечек информации во всем мире выросло на 10%. Если говорить о цифрах в абсолютном выражении, общее количество скомпрометированных записей превысило 14 миллиардов (почти в два раза больше, чем в 2018 году).

Чтобы защитить людей от утечек, необходимо усилить законодательное регулирование сферы технологий искусственного интеллекта и особенно оборота данных. Сейчас эта отрасль не имеет четкой нормативно-правовой базы. Эксперимент, который будет проведен на территории Москвы, позволит на конкретных примерах установить, какие правовые документы нужно скорректировать, а какие — создать впервые. Будет сформировано эффективное правовое регулирование оборота деперсонализированных данных, ведь искусственный интеллект во многом связан с обработкой большого массива обезличенной информации.

— Искусственный интеллект очень тесно связан с большими данными и представляет для нас особый интерес, так как совместное использование технологий позволит предложить гражданам услуги и сервисы лучшего качества, повысить их доступность, в целом улучшить инфраструктуру города, — говорит исполнительный директор Ассоциации больших данных Алексей Нейман. — Одновременно отметим, что законопроект подлежит доработке в части соотнесения с действующими обязательными нормами, а также с законопроектами, которые уже готовятся в рамках плана мероприятий по цифровой экономике, в том числе с законопроектом об обезличивании данных. Будем следить за судьбой данной инициативы.

ВОПРОСЫ ЭКСПЕРТАМ

В связи с появлением законопроекта мы задали несколько вопросов специалистам в сфере искусственного интеллекта:

— Как именно будут защищены с правовой точки зрения разработчики систем искусственного интеллекта, рядовые граждане, в чем именно им поможет новый законопроект?

— Чего не хватает сейчас в правовом регулировании этой сферы?

— В каких областях используется и будет использоваться в ближайшее время искусственный интеллект как в России, так и в мире?

Президент некоммерческого партнерства разработчиков программного обеспечения «Руссофт» Валентин Макаров:

— Искусственный интеллект — такая вещь, которая не предусмотрена в законодательстве, но существует. От закона, который ускорит переход к новым технологиям, будет зависеть Россия в целом.

Рядовые граждане будут защищены тем, что их персональные данные станут использоваться только в обезличенной форме, так что никто не сможет использовать разработанные программы для вмешательства в их личную жизнь. Более серьезный вопрос состоит в защите интересов разработчиков. Дело в том, что им нужен доступ к большим данным, которые во многом являются конфиденциальной или персональной информацией и требуют обезличивания и устранения рисков враждебного использования. И во-вторых, разработчиков надо охранять от регуляторов, которые в соответствии с действующим законодательством под угрозой уголовного наказания не разрешат применять искусственный интеллект в тех сферах, где риски несанкционированного вмешательства или враждебных действий в работу тех или иных процессов оказываются слишком высоки. Наконец, необходимо защищать интересы государства, которое в условиях отсутствия благоприятной регуляторики (правового и нормативного регулирования) не сможет применять искусственный интеллект, а значит — безнадежно отстанет от других стран и городов в конкуренции на 6-м технологическом укладе (новый, уже начавшийся виток развития цивилизации, в первую очередь связанный с нано- и клеточными технологиями. — Ред. )

Разработчикам систем искусственного интеллекта, во-первых, не хватает доступа к «большим данным», которые им необходимы для анализа и выработки решений. Не хватает и нормативного регулирования, которое разрешило бы им использовать результаты работы искусственного интеллекта для выдачи законных и разрешенных управленческих команд.

На мой взгляд, искусственный интеллект сейчас переживает очередной бум преувеличенных надежд. Технологии с использованием элементов искусственного интеллекта применяются уже очень давно. В окружающей жизни мы видим применение искусственного интеллекта в банковской сфере при выдаче кредитов, в распознавании голоса и машинном переводе с одного языка на другой, в медицинской диагностике, в управлении роботами. Все это подходит под современное понимание искусственного интеллекта. Дальше будет больше. После создания глобальной инфраструктуры обеспечения безопасности киберфизических систем мы увидим массовое применение искусственного интеллекта во всех киберфизических системах — у роботов, для беспилотного транспорта, умной энергетики и умного дома, для распределенного цифрового производства, новых финансовых технологий, телемедицины.

Исполнительный директор АРПП «Отечественный софт» Ренат Лашин:

— Экспериментальный правовой режим для развития искусственного интеллекта, предусмотренный для столицы, поможет выявить возможные риски в регуляторной среде и разработать правила игры для всех участников эксперимента. В законопроекте содержится ряд положений, касающихся защиты граждан в цифровой среде. В частности, указывается, что правительство Москвы устанавливает порядок, условия обработки обезличенных персональных данных, а соглашения с компаниями, участвующими в эксперименте, должны предусматривать механизмы обеспечения конфиденциальности передаваемых данных и безопасности их хранения. В законопроекте говорится, что обезличенные персональные данные не могут быть переданы третьим лицам. Если компания выходит из эксперимента, она обязана уничтожить персональные данные.

Важно, чтобы в эксперименте были задействованы отечественные компании, в том числе крупнейшие игроки — разработчики технологий искусственного интеллекта. Возможно, следует предусмотреть для них меры поддержки, в том числе налогового характера. Столица является лидером среди других городов страны по использованию технологий искусственного интеллекта. Здесь создан широкий перечень инновационных сервисов с использованием «цифры», они внедрены в инфраструктурных системах, здравоохранении, ЖКХ, образовании, системах безопасности и т.д. Этот опыт в случае положительного результата предстоит тиражировать по всей стране. Интеллектуальные самообучаемые технологии, несомненно, помогут повысить качество государственных услуг в целом, обеспечить вопросы безопасности как на бытовом, так и на государственном уровне.

Генеральный директор «ABBYY Россия» Дмитрий Шушкин:

— Очевидно, что зона искусственного интеллекта очень чувствительная. Это связано и с необходимостью обработки персональных данных, и с опасениями граждан, связанными с ожиданиями потери работы в связи с развитием технологий искусственного интеллекта. В связи с этим в любом проекте так или иначе затрагиваются вопросы этики, обращения с персональными данными, а также предусмотрены меры по просвещению и популяризации решений на базе технологий искусственного интеллекта.

Правовое регулирование искусственного интеллекта в настоящий момент находится на стадии зарождения, пока в области регуляторики только начинают закрепляться соответствующие понятия. В первую очередь на внедрение технологий искусственного интеллекта ориентированы компании, живущие в условиях высокой конкуренции за клиентов, — это банковская сфера, телекоммуникации и ретейл. Как правило, они пробуют все новые технологии одними из первых. При этом и в традиционных отраслях, таких как промышленность, нефтегаз и энергетика, также уже заметен спрос на технологии искусственного интеллекта.