Хотя эти преимущества неоднократно проверяются в контролируемых программах, активисты кампании по защите конфиденциальности выражают обеспокоенность по поводу их сдерживающего воздействия на демократии, а также присущих им дискриминационных рисков.

Дебаты в Ирландии возобновились на фоне интенсивных переговоров в Брюсселе по поводу Закона об искусственном интеллекте — свода правил, который будет регулировать технологии на основе искусственного интеллекта, такие как распознавание лиц.

Первоначально депутаты Европарламента пытались добиться запрета на автоматическое распознавание людей в общественных местах, но окончательный текст включает несколько исключений, которые сделают использование этой технологии юридически приемлемым.

Сюда входит, например, поиск определенных жертв и подозреваемых в совершении преступлений, а также предотвращение террористических атак.

А поскольку Европа стала первой в мире, установившей правила, регулирующие ИИ, многие приветствовали соглашение, достигнутое в начале декабря.

Но неспособность ЕС запретить использование этой навязчивой технологии в общественных местах рассматривается такими участниками кампании, как Amnesty International, как «разрушительный прецедент», поскольку закон ЕС направлен на установление глобальных стандартов.

Широкое внедрение этих технологий правоохранительными органами за последние несколько лет вызвало обеспокоенность по поводу конфиденциальности и массовой слежки, причем критики назвали всевидящие камеры, подкрепленные базой данных, «большим братом» или «оруэлловским кошмаром».

Европейский суд по правам человека недавно впервые вынес решение по вопросу использования системы распознавания лиц правоохранительными органами.

Страсбургский суд признал Россию нарушившей Европейскую конвенцию по правам человека при использовании биометрических технологий для поиска и ареста мирного демонстранта.

Но последствия остаются неопределенными, поскольку суд оставил открытыми многие другие вопросы.

«Конечно, он обнаружил нарушение права на частную жизнь. Тем не менее, он мог воспользоваться внедрением распознавания лиц в Европе, не ограничивая четко его «справедливые» применения», — утверждает Айседора Нерони Резенде, исследователь из Болонского университета. .

Жертвоприношение

Великобритания стала пионером в использовании технологий распознавания лиц для идентификации людей в режиме реального времени с помощью уличных камер. За несколько лет в стране было установлено около 7,2 миллиона камер — примерно одна камера на каждые девять человек.

С 2017 по 2019 год федеральная полиция Бельгии использовала четыре камеры распознавания лиц в аэропорту Брюсселя — месте смертоносного теракта в 2016 году, в результате которого погибло 16 человек — но проект пришлось остановить, поскольку он не соответствовал законам о защите данных.

А недавно французское правительство ускорило принятие закона об использовании камер реального времени для выявления подозрительного поведения во время Олимпийских игр 2024 года в Париже.

Это всего лишь несколько примеров того, как эта технология меняет концепцию безопасности.

Хотя в некоторых случаях использование этой технологии допускается, реальная проблема возникает, когда ее использование распространяется на более широкие общественные места, где не предполагается идентификация людей, сообщил в интервью EUobserver руководитель ЕС по защите данных (EDPS) Войцех Вевёворовски.

Это де-факто «удалит анонимность с улиц», сказал он. «Я не думаю, что наша культура готова к этому. Я не думаю, что Европа — это то место, где мы согласны на такого рода жертвы».

В 2021 году Вевёровский призвал ввести мораторий на использование систем удаленной биометрической идентификации, включая распознавание лиц, в общедоступных местах.

Он также раскритиковал комиссию за то, что она не приняла во внимание ее рекомендации, когда она впервые обнародовала предложение Закона об искусственном интеллекте.

«Я бы не хотел жить в обществе, где конфиденциальность будет удалена», — сказал он EUobserver.

«Глядя на некоторые страны, где такого рода технологии гораздо более открыты, мы видим, что они, наконец, используются для распознавания человека, где бы он ни находился, а также для его нацеливания и отслеживания», — предупредил Вевёровский, указывая на в Китай как лучший пример.

«Объяснение того, что технологии используются только против плохих людей (…), — это то же самое, что мне сказали полицейские в 1982 году в тоталитарной Польше, где телефонная связь тоже находилась под наблюдением», — также сказал он.

Укрепляйте стереотипы

Хотя эти технологии можно рассматривать как эффективный современный инструмент для правоохранительных органов, ученые и эксперты задокументировали, как биометрические технологии на основе искусственного интеллекта могут отражать стереотипы и дискриминацию в отношении определенных этнических групп.

Насколько хорошо работает эта технология, во многом зависит от качества данных, используемых для обучения программного обеспечения, и качества данных, используемых при развертывании.

У Эллы Якубовской, активиста кампании EDRi, существует неправильное представление о том, насколько эффективной может быть эта технология. «Существует элементарное статистическое недопонимание со стороны правительств».

«Мы уже видели во всем мире, что биометрические системы непропорционально широко используются против чернокожих и коричневых сообществ, людей в движении и других представителей меньшинств», — сказала она, утверждая, что производители продают «выгодные ложные обещания безопасности».

Независимое исследование использования лондонской полицией распознавания лиц в реальном времени показало, что фактический уровень успеха этих систем составляет менее 40 процентов.

А отчет за 2018 год показал, что полицейская система Южного Уэльса обнаружила, что 91 процент совпадений был помечен как ложноположительный, при этом было зарегистрировано 2451 неправильная идентификация.

Последствия алгоритмических ошибок для прав человека часто выделяются как одна из основных проблем при разработке и использовании этой технологии.

И одной из главных проблем для потенциальных жертв дискриминации ИИ являются значительные юридические препятствия, с которыми они сталкиваются, чтобы доказать (на первый взгляд) такую ​​дискриминацию, учитывая проблему «черного ящика» этих технологий.

Риск ошибки заставил несколько компаний уйти с рынков. Сюда входит Axon, известная американская компания, производящая нательные камеры для полицейских, а также Microsoft и Amazon.

Но многие по-прежнему защищают его как важнейший инструмент правоохранительных органов в наше время, лоббируя любой потенциальный запрет и выступая за исключения для правоохранительных органов в соответствии с Законом об искусственном интеллекте.

Лоббистские усилия

Google призвала проявлять осторожность в отношении запрета или ограничения этой технологии, утверждая, что она поставит под угрозу «множество полезных, желательных и юридически необходимых вариантов использования», включая «безопасность детей».

«Из-за определенного непонимания такие инновационные технологии [such as facial recognition and biometric data] все чаще ошибочно изображаются как угроза фундаментальным правам», — заявила китайская компания по производству фотоаппаратов Hikvision, которая занесена в черный список в США.

Аналогично, лобби технологической индустрии DigitalEurope также высоко оценило преимущества. «Очень важно признать значительные выгоды для общественной и национальной безопасности».

Кроме того, охранные и оборонные компании также лоббируют исключение.

Но, по данным Corporate Europe Observatory, наибольшее давление в пользу этого решения исходило от министерств внутренних дел и правоохранительных органов.

Между тем, рынок распознавания лиц в Европе, по оценкам, вырастет с $1,2 млрд. [€1.09bn] в 2021 году до $2,4 млрд к 2028 году.