Федеральная торговая комиссия готова углубить своё участие в ограничении использования ИИ в вредоносных целях, включая распространение несогласованных сексуализированных дипфейков и мошенничества с клонированием голоса.

В прошлом году Конгресс принял закон Remove It Down Act, который позволял уголовное преследование лиц, распространяющих или распространяющих несогласованные, интимные изображения и цифровые подделки, включая те, что созданы ИИ.

На слушаниях по надзору в Сенате на прошлой неделе председатель FTC Эндрю Фергюсон назвал новый закон одним из «величайших законодательных достижений» нынешнего Конгресса и администрации президента Дональда Трампа, а также заявил, что FTC готовится к «строгому исполнению».

В начале этого месяца Министерство юстиции впервые успешно вынесло приговор по новому закону, когда 37-летний житель Колумбуса, штат Огайо, Джеймс Стралер признал себя виновным в использовании дипфейков, сгенерированных с помощью ИИ, в рамках кампании по преследованиям, направленной против как минимум шести женщин.

Другая часть закона — которая вступит в силу в мае, позволит людям подавать уведомления о «удалении» на сайты, которые публикуют или размещают сексуальные дипфейки. У компаний будет 48 часов, чтобы удалить контент или подвергнуться расследованию и контролю со стороны FTC.

Комиссар Марк Мидор на конференции 30 марта в Вашингтоне заявил, что, хотя он надеется, что им «никогда не придётся его применять», FTC рассматривает применение Take It Down как высший приоритет и «активно разрабатывает всё, что нам нужно» для обеспечения соблюдения положения о снятии.

Это может быстро привести к одному из первых крупных столкновений с технологическим сектором — особенно с такими компаниями, как xAI. Инструмент Grok продолжает использоваться для создания и размещения несогласованных дипфейковых изображений реальных людей, даже после скандала, с которым компания столкнулась в начале этого года.

После его выступления CyberScoop спросил Мидора, как положения о удалении могут применяться к массовой наготе пользователей Grok. Он отметил, что закон предусматривает, что комиссия не может принимать меры против компании, пока она не получит официальные жалобы, начиная с мая.

«Это начинает действовать, а если нет [remove the content] мы получали жалобы, а потом брались за них», — сказал Мидор. «Так что нам придётся подождать и посмотреть, как… Компании реагируют на жалобы и запросы, и я надеюсь, что каждая компания, получившая запрос на удаление, сразу же удалит это.»

Пресс-служба xAI не ответила на запрос CyberScoop о комментировании подготовки к соблюдению закона Take It Down.

Штрахлер, который до сих пор не приговорен, также признался, что использовал фотографии детей из своего района для создания дипфейк-порнографии. Стратегический план, опубликованный ранее в этом месяце, отметил защиту детей в интернете как «ключевую задачу» для комиссии, которая заслуживает большего количества потребительских инструментов и ресурсов.

Комиссия «посвящена изучению других способов, которыми FTC может защищать детей и поддерживать семьи, в том числе через свои новые полномочия в рамках Закона Take It Down», говорится в плане.

Кейси Вон, юрист по вопросам конфиденциальности и старший сотрудник Armstrong Teasdale, рассказал CyberScoop, что нынешняя комиссия уделяет внимание безопасности детей в интернете оставляет достаточно пространства для творческого применения закона.

«Мы видели, что обеспечение соблюдения технологий и нарушений конфиденциальности, связанных с детьми-подростком, является приоритетом, поэтому, думаю, это относительно легко использовать в рамках Закона о снятии закона», — сказала она.

Вон отметил, что годовая задержка с применением положения была сделана для того, чтобы платформы могли подготовиться, но также отметил, что FTC может сделать больше для публичного сигнала компаний, как выглядит законное соблюдение, аналогично ресурсам, которые они предоставляют по основным законам о конфиденциальности.

«Я думаю, что то, что было бы полезно для всех организаций… будет руководством, объясняющим, что считается добросовестной попыткой, например, по рассмотрению запроса на удаление», — сказал Вон.

Жизнь в раю мошенников

FTC также сталкивается с влиянием ИИ на преступные мошенничества, направленные против американцев в интернете.

Фергюсон сообщил законодателям, что ИИ «повышает сложность как реальных механизмов, с помощью которых совершаются мошенничество, так и облегчает мошенникам выбор своих целей».

Однако полномочия FTC ограничены, поскольку Федеральная комиссия по связи регулирует телефонных и интернет-провайдеров, которые транслируют большинство мошенничества. Фергюсон также отметил, что многие мошенничества в колл-центрах происходят за рубежом, «где они даже не моргнут глазом, рискуя получить гражданское исполнение со стороны FTC». Он сказал, что комиссия открыта для дополнительных законодательных полномочий дляРешите проблему.

На мартовской конференции Мидор отметил, что обман, подпитываемый ИИ, — это то, о чём комиссия думает «ежедневно» и снижает порог входа во многие преступные схемы.

«Самое большое место, которое мы видели [in] как некоторые из этих инструментов ИИ используются для тройного увеличения мошенничества, если честно», — сказал он.

В прошлом году ФБ сообщило, что мошенничество с клонированием голоса, выдающие себя за расстроенных членов семьи, обманули американцев почти на 900 миллионов долларов, а технология использовалась для выдачи себя за высокопоставленных чиновников администрации Трампа в разговорах с бизнесом и политическими лидерами.

Сенатор Мэгги Хассан написала четырём компаниям по клонированию голосов на базе ИИ — ElevenLabs, LOVO, Speechify и VEED — с вопросом, какие политики и программы у них есть для предотвращения или предотвращения мошенничества, способствующего их инструментами.

Но Мидор отметил, что когда речь идёт о вводящих в заблуждение, особенно сложно определить достоверность использования ИИ. По его словам, многие дипфейки видят и потребляют многие люди в интернете с таким же «добровольным приостановкой недоверия», каким они применяют компьютерные эффекты в фильмах.

Таким образом, FTC, скорее всего, придётся принимать решения индивидуально, а не «общими мазками».

«Думаю, мы увидим многое из этого в контексте ИИ, где если вы знаете, что что-то не должно быть реальным или аутентичным, это не проблема», — сказал он. «Вопрос в том, какие это ситуации, когда ожидается, что вам показывают что-то подлинное, так сказать, «реальное», а не сгенерировано ИИ, и было ли искажение или материальное упущение» для раскрытия этого?»