После 36-часового переговорного марафона политики ЕС достигли политического соглашения о том, что должно стать глобальным ориентиром в регулировании искусственного интеллекта.

Закон об искусственном интеллекте — это знаковый законопроект, регулирующий искусственный интеллект на основе его способности причинять вред. Дело прошло финишную черту законодательного процесса, поскольку Европейская комиссия, Совет и парламент урегулировали свои разногласия в так называемом трилоге в пятницу (8 декабря).

На политической встрече, которая установила новый рекорд межинституциональных переговоров, основным институтам ЕС пришлось рассмотреть привлекательный список из 21 открытого вопроса. Как сообщает Euractiv, первая часть трилога закрыла части, посвященные открытому исходному коду, базовым моделям и управлению.

Однако измученные чиновники ЕС призвали к перерыву через 22 часа после того, как стало ясно, что предложение председательства Испании в Совете ЕС по деликатному обеспечению соблюдения законов неприемлемо для левоцентристских законодателей. Дискуссии возобновились в пятницу утром и завершились только поздно вечером.

Национальная безопасность

Страны ЕС во главе с Францией настаивали на широком исключении любой системы искусственного интеллекта, используемой в военных или оборонных целях, даже внешним подрядчиком. В преамбуле текста будет ссылка на то, что это будет соответствовать договорам ЕС.

Запрещенные действия

Закон об искусственном интеллекте включает список запрещенных приложений, представляющих неприемлемый риск, таких как методы манипулирования, системы, использующие уязвимости, и социальный рейтинг. Депутаты Европарламента добавили базы данных, основанные на массовом сборе изображений лиц, такие как Clearview AI.

Парламентарии добились запрета на распознавание эмоций на рабочем месте и в учебных заведениях с оговоркой из соображений безопасности, которая должна распознавать, например, если водитель засыпает.

Парламентарии также ввели запрет на интеллектуальное полицейское программное обеспечение, позволяющее оценивать риск совершения преступлений в будущем на основе личных качеств человека.

Более того, парламентарии хотели запретить использование систем искусственного интеллекта, которые классифицируют людей на основе таких чувствительных характеристик, как раса, политические взгляды или религиозные убеждения.

По настоянию европейских правительств парламент снял запрет на использование удаленной биометрической идентификации в режиме реального времени в обмен на некоторые узкие исключения со стороны правоохранительных органов, а именно для предотвращения террористических атак или определения местонахождения жертв или подозреваемых в заранее определенном списке серьезных преступлений.

При последующем использовании этой технологии будет действовать аналогичный режим, но с менее строгими требованиями. Депутаты Европарламента настаивали на том, чтобы эти исключения применялись только в случае крайней необходимости на основании национального законодательства и предварительного разрешения независимого органа. Комиссия должна контролировать потенциальные злоупотребления.

Парламентарии настаивали на том, что запреты не должны распространяться только на системы, используемые внутри Союза, но также не позволяют компаниям из ЕС продавать эти запрещенные приложения за границу. Однако этот запрет на экспорт не был сохранен, поскольку считалось, что он не имеет достаточной правовой основы.

Варианты использования с высоким риском

Положение об искусственном интеллекте включает список случаев использования, которые считаются сопряженными со значительным риском нанесения ущерба безопасности и основным правам людей. Законодатели включили ряд условий фильтрации, предназначенных для выявления только подлинных приложений с высоким уровнем риска.

К чувствительным областям относятся образование, занятость, критически важная инфраструктура, государственные услуги, правоохранительная деятельность, пограничный контроль и отправление правосудия.

Депутаты Европарламента также предложили включить рекомендательные системы социальных сетей, которые считаются «системными» в соответствии с Законом о цифровых услугах, но эта идея не вошла в соглашение.

Парламенту удалось представить новые варианты использования, например, системы искусственного интеллекта, прогнозирующие миграционные тенденции и пограничный надзор.

Исключения для правоохранительных органов

Совет ввел несколько исключений для правоохранительных органов, в частности, отступление от принципа четырех глаз, когда национальное законодательство считает его несоразмерным, а также исключение конфиденциальных операционных данных из требований прозрачности.

Поставщики услуг и государственные органы, использующие системы высокого риска, должны сообщать об этом в базе данных ЕС. Для органов полиции и миграционного контроля будет выделен специальный закрытый раздел, доступ к которому будет иметь только независимый надзорный орган.

В исключительных обстоятельствах, связанных с общественной безопасностью, правоохранительные органы могут использовать систему высокого риска, которая не прошла процедуру оценки соответствия, требующую разрешения суда.

Оценка воздействия на фундаментальные права

Левоцентристские депутаты Европарламента ввели обязанность государственных органов и частных организаций, предоставляющих основные государственные услуги, таких как больницы, школы, банки и страховые компании, развертывающие системы высокого риска, проводить оценку воздействия на фундаментальные права.

Ответственность в цепочке поставок

Поставщики систем искусственного интеллекта общего назначения, такие как ChatGPT, должны предоставить всю необходимую информацию для соблюдения обязательств закона об искусственном интеллекте нижестоящим экономическим поставщикам, которые создают приложения, попадающие в категорию высокого риска.

Штрафы

Административные штрафы устанавливаются как минимальная сумма или процент от годового мирового оборота компании, если последний выше.

За наиболее серьезные нарушения запрещенных приложений штрафы могут составлять до 6,5% или 35 млн евро, 3% или 15 млн евро за нарушение обязательств для поставщиков систем и моделей и 1,5% или полмиллиона евро за непредоставление точная информация.

График

Закон об искусственном интеллекте будет применяться через два года после вступления в силу, а на время запретов он будет сокращен до шести месяцев. Требования к системам искусственного интеллекта высокого риска, мощным моделям искусственного интеллекта, органам по оценке соответствия и главе об управлении начнут применяться на год раньше.

[Edited by Zoran Radosavljevic]

Узнайте больше с EURACTIV