Иммиграционные юристы говорят, что документы Министерства бизнеса, инноваций и занятости, опубликованные в соответствии с Законом об официальной информации, свидетельствуют о нежелании раскрывать информацию.
Фото: РНЗ / Дом Томас

Иммиграционные юристы говорят, что случайно опубликованные комментарии предполагают, что чиновники хотят скрыть информацию об использовании автоматизированного принятия решений, алгоритмов и искусственного интеллекта (ИИ).

Запрос Закона об официальной информации, полученный RNZ на конференции пяти стран, который передает данные о путешественниках, мигрантах и ​​беженцах между Five Eyes, непреднамеренно записывает заметки, сделанные сотрудниками, когда они начинают редактировать документ.

Один говорит: «Я думал, ИНЗ [Immigration New Zealand] не был заинтересован в выпуске автоматизации ссылок на информацию, особенно в том, что касается принятия решений».

Иммиграционный адвокат Аластер МакКлимонт сказал, что INZ всегда скрывала использование ИИ, возможно, опасаясь, что общественность сочтет автоматизированное принятие решений несправедливым.

«Я думаю, что люди, вероятно, были бы обеспокоены. Я бы сказал, что если бы я пошел и спросил людей на улице, они бы сочли это довольно ужасным.

«Я думаю, что самая большая опасность заключается в укоренении неправильных решений. Вы столкнетесь с ситуацией, когда кто-то отклонил его, он всегда будет отклонен, потому что так будет работать процесс автоматизации. Стоит ли нам беспокоиться об этом. — Да, много. Но меня это не удивляет — они очень долго к этому шли».

В документе OIA были видны отслеживаемые изменения и комментарии, причем один официальный представитель зафиксировал нежелание INZ раскрывать информацию об автоматизации.

Коллега предложил писателю проверить у Джорджа Родригеса, который в 2020 году был переизбран директором Международного института биометрии и был менеджером INZ по службам идентификации, комплаенс-рискам и разведывательным службам.

Скриншот документа MBIE, который непреднамеренно записывает заметки, сделанные сотрудниками, когда они начинают редактировать документ.
Фото: Скриншот / MBIE

Отрывок не был отредактирован, поэтому жалобу омбудсмену подать не удалось.

Адвокаты заявили, что наиболее отредактированная информация, которую они нашли, была получена в заявлениях на получение партнерской визы, и они опасались, что эти пустые разделы и страницы скрывают оценку рисков и профилирование дел их клиентов.

Ричард Смолл сказал, что комментарии, сделанные в OIA, предполагают, что системой манипулируют, и подчеркивают отсутствие прозрачности, которую видят практикующие врачи и мигранты.

По его словам, было трудно узнать об алгоритмах при поиске официальной информации или информации о законе о конфиденциальности о том, почему мигрантам было отказано.

«Они в значительной степени полагаются на автоматизацию и, вероятно, не хотят, чтобы общественность знала, в какой степени они профилируют людей, например, как мы знаем, представителей разных рас, и кто знает, какие еще автоматические профили у них есть в системе.

«Их позиция по умолчанию — секретность, а не прозрачность. Это их основная культура. И мы можем проиллюстрировать это многими примерами. Они считают, что их системы никого не интересуют, даже когда они принимают несправедливые решения, и это просто неприемлемо».

В заявлении Министерства бизнеса, инноваций и занятости (MBIE) говорится, что оно очень серьезно относится к своим обязательствам в соответствии с Законом об официальной информации.

«Мы твердо верим в важность прозрачности посредством раскрытия информации», — сказал генеральный менеджер INZ Стивен Данстан.

«Из-за ошибки администрации эти комментарии были включены в окончательный выпуск. Они включают свободное и откровенное первоначальное обсуждение материала сотрудниками и, как отражено в опубликованном документе, не отражают окончательное решение MBIE о раскрытии информации.

«В ходе обработки официальных запросов на информацию сотрудники регулярно обсуждают применение закона, уделяя особое внимание принципу доступности — информация должна предоставляться, если нет веских причин для ее удержания».

Он не сказал, почему INZ «не заинтересована» в пропаганде автоматизированного принятия решений.

Омбудсмен Питер Бошир был за границей, но в его офисе заявили, что в контексте жалоб он может рассмотреть любые соответствующие вопросы.

Пресс-секретарь заявил, что после недавней переписки с правительством об обвинениях УВР, выдвинутых депутатом от лейбористской партии Гауравом Шармой, омбудсмен ответил главе аппарата премьер-министра, «отметив, что он ожидал различия между тем, что является официальной информацией, и тем, что не должно быть точно отражено. на тренировке».

Что касается автоматизированного принятия решений, INZ ранее заявляла, что не намерена использовать часть своих новых полномочий, чтобы позволить компьютерам отклонять заявления на получение визы, вместо этого используя автоматизацию для выполнения административных шагов при обработке виз.

В 2020 году Консультативная группа по этике данных сообщила о платформе анализа рисков INZ.

«Обучение моделей данных (машинное обучение) опирается на прошлые данные, и зависимость иммиграционной службы Новой Зеландии от них может иметь последствия для работы платформы анализа рисков. Совет по анализу данных должен включать в себя независимые голоса с конкретным опытом для изучения этого риска. состав Наблюдательного совета по науке о данных слишком ориентирован на внутренние дела, и в совете нет представителей по правам человека и этике.

«В то время как автоматизацию на основе правил легко проверить, модели машинного обучения и лежащие в их основе обучающие данные — нет».