Количество жалоб на новую функцию Grok «редактировать изображение», которую некоторые пользователи X использовали для цифрового раздевания людей.

Европейская комиссия осудила распространение откровенного, детского контента на платформе X в социальных сетях, назвав материал «ужасным» и «отвратительным».

Пресс-секретарь по цифровым вопросам Европейского союза Томас Ренье сделал эти комментарии журналистам в понедельник после недель жалоб на новую функцию в интегрированном ИИ-чат-боте X, который использовался для создания порнографического контента, включая изображения детей.

«Grok теперь предлагает ‘острый режим’, показывающий откровенный сексуальный контент с некоторым результатом, созданным детскими изображениями», — сказал Ренье. «Это не остро. Это незаконно. Это ужасно. Это отвратительно.»

Ренье заявил, что Европейская комиссия «очень серьёзно рассматривает» этот вопрос, и такой контент «не имеет места в Европе».

Тем временем прокуратура в Париже, Франция, расширила расследование X, включив в него обвинения в том, что Grok — созданный компанией xAI Илона Маска — использовался для создания и распространения детской порнографии.

«Ждут, чтобы стать оружием»

В конце декабря на Grok появилась новая функция «редактировать изображение», позволяющая пользователям изменять любое изображение на платформе. Некоторые пользователи решили попросить Grok частично или полностью снять одежду с женщин или детей на фотографиях.

Grok выполнила многочисленные запросы пользователей изменить фотографии женщин, чтобы они были в откровенных нарядах, например, в полупрозрачных бикини.

В пятницу Grok признал «пробелы в мерах предосторожности» и сказал, что «срочно их исправляют». «CSAM [Child Sexual Abuse Material] незаконно и запрещено», — говорится в сообщении.

Однако эксперты по безопасности ИИ заявили, что платформа проигнорировала месяцы предупреждений о том, что такое злоупотребление неизбежно.

«В августе мы предупреждали, что генерация изображений xAI по сути является инструментом наготы, который ждёт использования в оружие», — сказал Тайлер Джонстон, исполнительный директор группы по надзору за ИИ The Midas Project. «В общем, именно так и произошло.»

X, который Маск приобрёл в 2022 году, уже столкнулся с негативной реакцией со стороны ЕС за свою политику в области рекламы и модерации контента.

В декабре Брюссель назначил платформе штраф в размере 120 миллионов евро ($140 млн) за нарушение правил ЕС по цифровому контенту по прозрачности рекламы и методам проверки пользователей.

X всё ещё находится под расследованием в рамках Закона ЕС о цифровых услугах в рамках расследования, начавшегося в декабре 2023 года.

Grok имеет спорную историю, в том числе за создание неисторических и предвзятых материалов. В прошлом году компания Маска удалила посты чат-бота, которые, казалось, хвалили Адольфа Гитлера после жалоб на антисемитский контент.