Женева не из дешевых, но это город, который излучает изысканность, красоту и с огромным присутствием Организации Объединенных Наций, является одним из самых разнообразных городов на планете. Когда светит солнце и озеро города сверкает, как полированное серебро, кажется, что это место, где человечество находится в зените, и его прозвище «столица мира» кажется более чем уместным.

Женева также является домом для множества неправительственных организаций, которые оказывают огромное влияние на нашу жизнь, включая Международную электротехническую комиссию (МЭК), созданную в 1906 году, но до сих пор в буквальном смысле устанавливающую стандарты для Европы и за ее пределами.

В момент, когда доверие к цифровому контенту стремительно падает, глобальное сообщество стандартов, созданное IEC, никогда не было таким важным, особенно в новом мире, где искусственный интеллект переворачивает с ног на голову все, что было до него.

Стандарты и нормы

Стандарты и правила важны для установления и поддержания порядка, но они различаются по своему правовому статусу. Нормативные акты — это юридически обязательные правила, соблюдение которых обеспечивается органами власти, в то время как стандарты — это добровольные руководящие принципы, которые служат эталонами качества и производительности.

Стандарты могут быть включены в нормативные акты, что сделает их юридически обязательными, или они могут быть приняты добровольно для повышения качества и совместимости.

В этом месяце было запущено Сотрудничество в области стандартов аутентичности ИИ и мультимедиа (AMAS), многосторонняя инициатива, возглавляемая Всемирным сотрудничеством по стандартам (WSC), и были представлены два ключевых документа, призванных помочь разобраться в этических и технических проблемах синтетических медиа и искусственного интеллекта.

Поскольку генеративный ИИ трансформирует все, от искусства до аудио и политического дискурса, эта инициатива преследует смелые амбиции: заложить глобальную основу для стандартов, которые могут противостоять дезинформации, проверять подлинность мультимедиа и помогать обществу отличать реальное от поддельного в мире, который все больше управляется искусственным интеллектом.

Две дорожные карты для более надежного цифрового будущего

В первом документе, представляющем собой техническую дорожную карту, представлен всесторонний обзор глобального ландшафта стандартов и спецификаций, связанных с подлинностью цифровых носителей. В нем анализируется то, что существует в настоящее время, выявляются пробелы и рекомендуются перспективные рамки для разработки стандартов, которые могут быть приняты во всех отраслях.

Второй документ, руководящий документ, предназначен для регулирующих органов и законодателей. В нем подробно описывается, как международные стандарты могут служить основой для структур управления, которые уравновешивают инновации и снижение рисков в эпоху генеративного ИИ. В документе подчеркивается, как стандартизированные подходы могут повысить прозрачность и подотчетность, от водяных знаков на изображениях, созданных искусственным интеллектом, до обеспечения прослеживаемости видео.

Заинтересованные стороны, стоящие за этой работой

Во главе AMAS стоит Всемирная организация сотрудничества по стандартизации, состоящая из вышеупомянутой МЭК, Международной организации по стандартизации (ИСО) и Международного союза электросвязи (МСЭ), который также выступает в качестве специализированного учреждения ООН по информационно-коммуникационным технологиям.

Чтобы не отвлечься от недостатка аббревиатур, в нем также участвует коалиция заинтересованных сторон, включая Коалицию за происхождение и подлинность контента (C2PA), JPEG Group, EPFL, Shutterstock, Институт Фраунгофера Генриха Герца, Китайскую академию информационных и коммуникационных технологий (CAICT), DataTrails, Deep Media, Witness и другие.

Их общая миссия ясна: создать совместимые международные стандарты, которые могут предложить общий язык цифровой аутентичности, вокруг которого могут сплотиться правительства, компании и гражданское общество.

Почему стандарты важны в эпоху искусственного интеллекта

Жиль Тоне, заместитель генерального секретаря МЭК, сказал: «Международные стандарты обеспечивают ограждения для ответственного, безопасного и надежного развития ИИ. Эти официальные документы закладывают основу для систем, в которых приоритет отдается прозрачности и правам человека, сопоставляя существующие стандарты и выявляя пробелы, которые нам срочно необходимо заполнить».

Поскольку дипфейки, созданные искусственным интеллектом, уже влияют на выборы, культуру знаменитостей и глобальные конфликты, ставки высоки. Тонет и его коллеги рассматривают стандарты не как бюрократические препятствия, а как средства, предоставляющие надежные инструменты как для правительств, так и для промышленности, чтобы ИИ служил человечеству, а не подрывал его.

Сильвио Дулински, заместитель генерального секретаря ИСО, подчеркнул необходимость действенных решений, выходящих за рамки границ: «Людям нужны практичные, масштабируемые решения для предотвращения и реагирования на проблемы, вызванные синтетическими средами. Эти документы предлагают это, используя стандарты в качестве средства длялобальная совместимость».

Прокладывая путь к Сеулу 2025

Публикация этих документов также готовит почву для предстоящего крупного события: Международного саммита по стандартам искусственного интеллекта, который пройдет в Сеуле со 2 по 3 декабря 2025 года. Этот саммит направлен на ускорение прогресса в области глобальных стандартов ИИ путем объединения под одной крышей представителей регулирующих органов, технологов и лидеров гражданского общества.

Эта конференция, скорее всего, будет основываться на фундаменте, заложенном на этой неделе в Женеве, где разговор перешел от абстрактной этики к осязаемой реализации.

По мере того, как синтетический контент становится все более сложным и дешевым в производстве, спрос на надежные фреймворки больше не является чисто академическим. Будь то проверка реальности вирусного видео или обеспечение того, чтобы новостные статьи, созданные искусственным интеллектом, были помечены как таковые, стандартизация может стать краеугольным камнем цифрового доверия.

Функциональная совместимость как краеугольный камень

Одной из ключевых проблем, решаемых в документах AMAS, является функциональная совместимость: обеспечение того, чтобы технологии происхождения контента, маркеры подлинности и системы верификации могли работать на разных платформах и в разных регионах.

Это особенно важно для социальных сетей, новостных организаций и правительств, которым поручено модерировать контент в больших масштабах. Без общих стандартов усилия по выявлению и управлению контентом, созданным ИИ, останутся фрагментированными и, следовательно, менее эффективными.

Важно отметить, что в документах подчеркивается необходимость разработки инструментов, которые были бы технически надежными и в то же время удобными для пользователя, чтобы сигналы подлинности могли обнаруживаться как машинами, так и людьми. Этот двухуровневый подход рассматривается как жизненно важный для демократизации доступа к достоверной информации.

Баланс между инновациями и ответственностью

В то время как некоторые критики регулирования ИИ опасаются сдерживающего воздействия на инновации, AMAS позиционирует международные стандарты как балансирующий механизм, обеспечивающий как творческую свободу, так и этический надзор.

Вместо того, чтобы настаивать на едином для всех глобальном законодательстве, программный документ сотрудничества предусматривает основанную на стандартах экосистему, которую правительства могут принять и адаптировать в соответствии с местными законодательными рамками и культурными нормами.

По своей сути эта инициатива представляет собой призыв к общей ответственности, признавая, что ни одна организация, будь то технологический гигант или национальное правительство, не может решить проблему дезинформации, генерируемой искусственным интеллектом, в одиночку.

Решающий момент для управления ИИ

Презентация в Женеве знаменует собой поворотный момент в том, как международное сообщество готовится к решению более темных аспектов искусственного интеллекта. По мере того, как на наши экраны заполонили наши экраны медиа, созданные искусственным интеллектом, — от реалистичных поддельных видео до убедительных политических заявлений, написанных искусственным интеллектом, — инструменты для обнаружения и управления таким контентом должны развиваться так же быстро.

Основывая эту эволюцию на международных стандартах, AMAS надеется предотвратить будущее, в котором общество больше не сможет доверять тому, что оно видит, слышит или читает в Интернете. Для тех, кто обеспокоен будущим цифровой целостности, послание заключается в том, что пришло время строить это будущее сейчас.