«Я затаил дыхание до последней секунды», — сказал ранее на этой неделе румынский либеральный депутат Европарламента Драгош Тудораче.

Тудораче вместе с итальянским депутатом-социалистом Брандо Бенифеи являются ведущими переговорщиками в парламенте по этому закону.

Впервые предложенный Европейской комиссией в 2021 году, законопроект появился в то время, когда ИИ общего назначения, такой как Chat GPT, взорвался на рынке.

Совет, представляющий государства-члены, достиг переговорной позиции в декабре прошлого года.

Теперь комитет парламента должен проголосовать за проект, выдвинутый Тудораче и Бенифеи, прежде чем он будет представлен на пленарном заседании в июне.

«Это такие переговоры, когда никто не может выйти из комнаты счастливым или несчастным», — сказал Тюдораче. «Ключ в том, чтобы сохранить контроль, человеческий надзор и надежность», — сказал он.

Тудораче описал это как «волшебное прикосновение», благодаря которому будущее, основанное на искусственном интеллекте, — это то, где люди все еще контролируют ситуацию.

«Если мы не наладим этот контроль правильно, тогда у вас может быть антиутопическое мнение, которое высказывают многие», — сказал он.

Новый свод правил включает в себя полный запрет на определенные виды деятельности, в то время как другие классифицируются как представляющие высокий риск.

В отличие от парламента, совет не стал вводить прямой запрет на интеллектуальную работу полиции, распознавание эмоций и распознавание лиц в общественных местах в рамках комплексного подхода, ориентированного на безопасность.

Не все заинтересованы в некоторых из этих запретов, в том числе в парламентской либеральной фракции «Обновление Европы», в которой заседает Тюдораче.

За некоторыми исключениями, правоцентристская ЕНП также недовольна запретами, в то время как зеленые и социалисты выступают за. Эти каверзные вопросы и позиции, скорее всего, будут вынесены на голосование на уровне комитета 11 мая.

До сих пор гражданское общество широко приветствовало парламентский проект, учитывая его усиленные гарантии прав.

«Парламент действительно прислушался к просьбам гражданского общества и внес довольно серьезные изменения», — сказал Даниэль Лойфер, старший политический аналитик Access Now, неправительственной организации, защищающей цифровые права.

По его словам, это включает в себя обязательства по обеспечению прозрачности и оценку воздействия на основные права пользователей.

Такая прозрачность нужна для предотвращения скандалов. Недавно исследование, проведенное амстердамским агентством LightHouse Reports, показало, что Испания использовала секретный ИИ для борьбы с мошенничеством и сокращения государственных расходов на пособия по болезни.

Но в то же время Лойфер беспокоится о лазейках, которые могут нарушить регулирование, когда дело доходит до классификации высоких рисков.

«Очень важно, чтобы процесс классификации высокого риска не содержал никаких лазеек, которые позволили бы недобросовестным провайдерам освобождать себя от ответственности без последствий и без общественного контроля», — сказал он.

Несмотря на такую ​​возможность, расширенный список запретов парламента также заслуживает одобрения.

Сара Чандер, эксперт по ИИ в брюссельской организации European Digital Rights (EDRI), заявила, что это послужит четким сигналом правительствам и разработчикам ИИ о том, что «некоторые виды использования ИИ слишком вредны, чтобы их можно было разрешить».

Но этого все еще недостаточно, когда речь идет о защите мигрантов от вреда, причиняемого ИИ, в том числе в тех случаях, когда ИИ используется для облегчения отказа, говорит она.

По ее словам, предлагаемый запрет на интеллектуальную полицию нуждается в улучшении, чтобы охватить интеллектуальную полицию на основе местоположения, по сути, форму автоматического расового профилирования.

Amnesty International сделала аналогичные комментарии в письме, направленном членам Европарламента в начале этого месяца.

«Проект Закона об искусственном интеллекте не гарантирует людям, находящимся в пути, такой же уровень защиты от вреда, причиняемого искусственным интеллектом, который предоставляется европейским гражданам», — говорится в письме.