Мета подает в суд на компанию, которая размещала рекламу на своих сервисах для продвижения приложения, позволяющего людям создавать несогласованные, сексуализированные изображения других людей с помощью технологии искусственного интеллекта, сообщила в четверг компания социальных сетей.

Иск подан против компании Joy Timeline HK Ltd., которая разрабатывает приложение под названием CrushAI и его варианты. Гонконгская компания разместила рекламу в Facebook и Instagram для продвижения CrushAI, приложения, которое использует искусственный интеллект для того, чтобы сфотографировать кого-то и создать его обнаженное изображение.

Meta подала иск в Гонконге с намерением запретить Joy Timeline продолжать рекламировать свои услуги, говорится в сообщении компании социальных сетей.

Иск подан после «многочисленных попыток» создателя CrushAI «обойти процесс рассмотрения рекламы Meta и продолжить размещать эти объявления после того, как они были неоднократно удалены за нарушение наших правил», — заявили в Meta.

«Этот судебный иск подчеркивает как серьезность, с которой мы относимся к этому злоупотреблению, так и наше обязательство сделать все возможное, чтобы защитить наше сообщество от него», — заявили в Meta. «Мы будем продолжать предпринимать необходимые шаги, которые могут включать в себя судебные иски, против тех, кто злоупотребляет нашими платформами подобным образом».

Исследователи забили тревогу по поводу роста числа так называемых nudify приложений, которые можно найти в Интернете, в магазинах приложений и на рекламной платформе Meta.

Сенатор Дик Дурбин, демократ от штата Иллинойс, в феврале направил письмо Марку Цукербергу, призывая генерального директора обратить внимание на роль его компании в том, что Joy Timeline позволяет запускать рекламу, нарушающую стандарты Meta в отношении наготы взрослых, сексуальной активности и «определенных форм издевательств и домогательств».

В письме Дурбина цитируется отчет технологического новостного издания 404 Media и исследование Алексиоса Мантзарлиса из Cornell Tech, которое показало, что в течение «первых двух недель этого года» в приложениях Meta было показано не менее 8 010 объявлений, связанных с CrushAI.

В дополнение к иску Meta заявила, что также обновляет свои «методы принуждения» и «разработала новую технологию, специально предназначенную для выявления этих типов рекламы — даже когда сама реклама не включает обнаженную натуру — и использует технологию сопоставления, чтобы помочь нам быстрее находить и удалять подражательные объявления».

Meta заявила, что работает с внешними экспертами и внутренними «командами специалистов», чтобы не отставать от того, как создатели приложений Nudify «развивают свою тактику, чтобы избежать обнаружения». Meta также заявила, что «будет делиться сигналами об этих приложениях с другими технологическими компаниями», чтобы они также могли обращаться к приложениям на своих соответствующих платформах.

«Мы также применили тактику, которую используем, чтобы нарушить сети скоординированной недостоверной деятельности, чтобы найти и удалить сети учетных записей, работающих с этой рекламой», — заявили в Meta. «С начала года наши экспертные группы провели тщательные расследования, чтобы выявить и пресечь работу четырех отдельных сетей аккаунтов, которые пытались запустить рекламу, продвигающую эти услуги».

CNBC обратился к Joy Timeline за комментариями.