Вид в Роттердаме. Изображение предоставлено: Майк ван ден Бос.

В 2017 году город Роттердам в Нидерландах развернул систему искусственного интеллекта (ИИ), чтобы определить, насколько вероятно, что получатели пособий совершат мошенничество. После анализа данных в системе возникла предвзятость: она помечала как «высокого риска» людей, которые идентифицировали себя как женщины, молодые люди, имеющие детей и плохо владеющие голландским языком.

Роттердамская система была приостановлена ​​в 2021 году после внешней этической проверки, но она демонстрирует, что может пойти не так, когда правительства внедряют системы искусственного интеллекта без надлежащего надзора. Поскольку все больше местных органов власти обращаются к искусственному интеллекту в стремлении предоставить жителям персонализированные услуги в режиме реального времени, более «умную» среду и более совершенные и безопасные системы, риски растут.

В рамках нашего текущего исследования мы изучили 170 местных органов власти по всему миру, которые используют различные системы искусственного интеллекта.

Мы обнаружили, что ИИ уже затрагивает почти все аспекты предоставления государственных услуг, а у большинства правительств даже не было опубликованной политики по этому поводу.

ИИ в повседневном управлении

Приложения искусственного интеллекта оказывают глубокое влияние на местное управление. Наше международное расследование выявило 262 случая внедрения ИИ в 170 местных советах, охватывающих широкий спектр технологий и услуг.

Городской пейзаж со зданиями Барселоны
Городской пейзаж Барселоны. Изображение предоставлено: Каспарс Упманис.

Мы обнаружили, что эти технологии применяются в пяти ключевых областях.

1. Административные услуги. Например, туристический чат-бот VisitMadridGPT в Мадриде (Испания) предоставляет посетителям персональные рекомендации, поддержку в режиме реального времени и культурную информацию.

2. Здравоохранение и благополучие. Например, в разгар пандемии COVID в 2021 году мэрия Бостона в США запустила чат-бот на базе искусственного интеллекта для бесконтактной доставки еды, одновременно решая проблемы голода и безопасности.

3. Транспорт и городское планирование. Логан-Сити в Австралии внедрил систему искусственного интеллекта в режиме реального времени, которая информирует водителей о том, где доступна парковка, уменьшая заторы и разочарование. Между тем, оптимизация маршрутов общественного транспорта на основе искусственного интеллекта широко применяется для экономии времени и выбросов.

4. Экологический менеджмент. В Ханчжоу, Китай, система искусственного интеллекта используется для более эффективной классификации отходов, что повышает уровень переработки.

5. Общественная безопасность и правоохранительная деятельность. Чикаго в США использовал датчики и автоматизацию искусственного интеллекта для формирования стратегий правоохранительных органов. Выявив горячие точки преступности, город, как сообщается, сократил насилие с применением огнестрельного оружия на 25% в 2018 году. Однако эта технология также вызвала этические опасения по поводу расового профилирования.

Обоюдоострый меч ИИ

Наше исследование с использованием ИИ показало, что по состоянию на май 2023 года только 26 стран опубликовали политики в области ИИ – менее 16%. Большинство из них внедряют мощные системы искусственного интеллекта без общедоступной системы общественного контроля или подотчетности.

Это вызывает серьезную обеспокоенность по поводу этических нарушений, системных предубеждений и нерегулируемого использования данных.

Без продуманной политики местные органы власти рискуют развернуть мощные системы искусственного интеллекта без критических проверок или внешнего надзора. Алгоритмы могут непреднамеренно дискриминировать определенные группы населения при распределении ресурсов, таких как государственное жилье или услуги здравоохранения. Ставки могут быть невероятно высокими, как, например, в рейтингах рисков мошенничества в области социального обеспечения в Роттердаме.

Среди советов, проводящих политику в области ИИ, особое внимание уделялось сотрудничеству с заинтересованными сторонами, повышению осведомленности среди сотрудников и граждан, а также обеспечению прозрачности и регулирования.

Среди них выделяется политика городского совета Барселоны в области искусственного интеллекта. Его политика включает в себя такие принципы, как прозрачность в отношении ИИ, обеспечение возможности объяснения и справедливости решений ИИ, а также устанавливает ориентир для других муниципалитетов.

Публика в темноте

Недавний опрос, проведенный нашей командой в Австралии, Испании и США, показывает значительный разрыв между осведомленностью общественности и действиями местных органов власти в отношении ИИ. Более 75% респондентов знали о технологиях искусственного интеллекта и их растущем присутствии в повседневной жизни, но не когда дело касалось инициатив местных органов власти.

В среднем половина респондентов не знали, что их местные органы власти активно используют ИИ в сфере государственных услуг. Еще более тревожно то, что 68% заявили, что понятия не имеют, что местные органы власти имеют – или могут иметь – политику, регулирующую использование ИИ.

Эта поразительная неосведомленность поднимает острые вопросы о прозрачности и коммуникации местных советов. Поскольку искусственный интеллект все больше внедряется в городское управление – от мониторинга дорожного движения до общественной безопасности и экологической устойчивости – крайне важно лучше информировать общественность.

Без понимания и участия общественности усилия по построению доверия, подотчетности и этического надзора за использованием ИИ в управлении могут столкнуться со значительными препятствиями.

Будущее, с которым мы сталкиваемся

Нет сомнений в том, что системы искусственного интеллекта обладают огромным потенциалом для улучшения городского управления. Но без политики, которая отдает приоритет прозрачности, подотчетности и этичному использованию, города рискуют развязать систему, которая может больше навредить, чем помочь.

Однако местным органам власти – и гражданам – еще не поздно избежать этого мрачного будущего. Местные органы власти могут разработать надежную политику в области искусственного интеллекта, обеспечивающую справедливость, прозрачность и этичное использование данных. Граждане могут получить информацию о роли ИИ в местном управлении.

Приложения искусственного интеллекта меняют и трансформируют наш мир. Но от того, как мы решим направлять их интеграцию в наши сообщества, будет зависеть, станут ли они силой добра или просто будут реализовывать предубеждения и скрытые планы.

Наш проект работает с местными органами власти в Австралии, США, Испании, Гонконге и Саудовской Аравии над созданием руководящих принципов искусственного интеллекта, которые мы стремимся завершить к концу 2025 года.


Авторы признают вклад Кевина Десузы, Рашида Мехмуда, Анны Дэвид, Саджани Сенадиры и Равины Марасингхе в исследование, описанное в этой статье.

Тан Йигитканлар, профессор городских исследований, технологий и планирования, Квинслендский технологический университет ; Хуан Мануэль Корчадо Родригес, профессор компьютерных наук и искусственного интеллекта, Университет Саламанки ; Карен Моссбергер, почетный профессор Школы связей с общественностью, Государственный университет Аризоны ; Полин Хоуп Чеонг, президентский профессор человеческих коммуникаций и коммуникационных технологий, Государственный университет Аризоны и Рита Йи Ман Ли, директор Центра исследований устойчивой недвижимости / профессор экономики и финансов со специализацией в области искусственного интеллекта, Гонконгский университет Шу Янь

Эта статья переиздана из The Conversation под лицензией Creative Commons. Прочтите оригинал статьи.