Совет Европы принимает первый международный договор по искусственному интеллекту

Конвенция является результатом двухлетней работы межправительственного органа — Комитета по искусственному интеллекту (CAI).

Совет Европы принял первый в истории международный юридически обязательный договор, направленный на обеспечение уважения прав человека, верховенства закона и правовых стандартов демократии при использовании систем искусственного интеллекта (ИИ).

Договор, который также открыт для неевропейских стран, устанавливает правовую основу, которая охватывает весь жизненный цикл систем ИИ и устраняет риски, которые они могут представлять, одновременно продвигая ответственные инновации.

В конвенции принят подход, основанный на оценке рисков, к проектированию, разработке, использованию и выводу из эксплуатации систем ИИ, что требует тщательного рассмотрения любых потенциальных негативных последствий использования систем ИИ.

Рамочная конвенция Совета Европы об искусственном интеллекте, правах человека, демократии и верховенстве закона была принята в Страсбурге в ходе ежегодной министерской встречи Комитета министров Совета Европы, на которой собираются министры иностранных дел 46-го Совета Европы. Страны-члены Европы.

Генеральный секретарь Совета Европы Мария Пейчинович заявила: «Рамочная конвенция об искусственном интеллекте — это первый в своем роде глобальный договор, который обеспечит защиту искусственным интеллектом прав людей. Это ответ на необходимость международного правового стандарта, поддерживаемого государствами на разных континентах, которые разделяют одни и те же ценности, чтобы использовать преимущества искусственного интеллекта, одновременно снижая риски. Этим новым договором мы стремимся обеспечить ответственное использование ИИ, уважающее права человека, верховенство закона и демократию».

Конвенция является результатом двухлетней работы межправительственного органа, Комитета по искусственному интеллекту (CAI), который объединил для разработки договора 46 государств-членов Совета Европы, Европейский Союз и 11 государств, не являющихся его членами (Аргентина). (Австралия, Канада, Коста-Рика, Святой Престол, Израиль, Япония, Мексика, Перу, Соединенные Штаты Америки и Уругвай), а также представители частного сектора, гражданского общества и научных кругов, принявшие участие в качестве наблюдателей.

Соглашение охватывает использование систем искусственного интеллекта в государственном секторе, включая компании, действующие от его имени, и в частном секторе. Конвенция предлагает сторонам два способа соблюдения ее принципов и обязательств при регулировании частного сектора: стороны могут предпочесть принять на себя прямые обязательства по соответствующим положениям конвенции или, в качестве альтернативы, принять другие меры для соблюдения положений договора, полностью соблюдая при этом свои обязательства. международные обязательства в отношении прав человека, демократии и верховенства закона. Этот подход необходим из-за различий в правовых системах во всем мире.

Конвенция устанавливает требования к прозрачности и надзору, адаптированные к конкретным контекстам и рискам, включая идентификацию контента, создаваемого системами искусственного интеллекта. Сторонам придется принять меры по выявлению, оценке, предотвращению и смягчению возможных рисков, а также оценить необходимость моратория, запрета или других соответствующих мер в отношении использования систем ИИ, когда их риски могут быть несовместимы со стандартами прав человека.

Им также придется обеспечить подотчетность и ответственность за неблагоприятные последствия, а также обеспечить, чтобы системы ИИ уважали равенство, включая гендерное равенство, запрет дискриминации и права на неприкосновенность частной жизни.

Более того, участники договора должны будут обеспечить доступность средств правовой защиты для жертв нарушений прав человека, связанных с использованием систем ИИ, и процессуальных гарантий, включая уведомление любых лиц, взаимодействующих с системами ИИ, о том, что они взаимодействуют с такими системами.

Что касается рисков для демократии, договор требует от сторон принять меры, гарантирующие, что системы искусственного интеллекта не будут использоваться для подрыва демократических институтов и процессов, включая принцип разделения властей, уважение независимости судебной власти и доступа к правосудию.

Стороны конвенции не будут обязаны применять положения договора к деятельности, связанной с защитой интересов национальной безопасности, но будут обязаны обеспечить, чтобы эта деятельность уважала международное право, а также демократические институты и процессы. Конвенция не будет применяться ни к вопросам национальной обороны, ни к научно-исследовательской деятельности, за исключением случаев, когда тестирование систем искусственного интеллекта может потенциально помешать правам человека, демократии или верховенству закона.

Для обеспечения ее эффективной реализации конвенция устанавливает механизм последующих действий в форме Конференции Сторон.

Наконец, конвенция требует, чтобы каждая сторона создала независимый механизм надзора для контроля за соблюдением конвенции, а также повышала осведомленность, стимулировала информированные общественные дебаты и проводила консультации с участием многих заинтересованных сторон о том, как следует использовать технологию искусственного интеллекта.

Рамочная конвенция будет открыта для подписания в Вильнюсе (Литва) 5 сентября по случаю конференции министров юстиции.