Ирландский совет по гражданским свободам направил отчет в Европейскую комиссию в четверг (14 декабря) с просьбой проследить за действиями ирландского регулятора СМИ по отключению алгоритмических рекомендательных систем крупных технологических компаний.

Рекомендательные системы — это внутренняя работа цифровых платформ, которая определяет, какой контент видят пользователи. В большинстве случаев эти системы используют алгоритмы, адаптирующие пользовательский опыт на основе личных данных.

Основные платформы социальных сетей используют такие данные, как история поиска пользователя или прошлые покупки, а также данные о местоположении, возрасте и устройстве, используемом для создания профиля, который часто монетизируется путем продажи рекламного пространства сторонним рекламодателям.

Новый регулятор вещания и онлайн-вещания Ирландии, Coimisiún na Meán, опубликовал проект обязательного кодекса, требующий от платформ обмена видео, таких как TikTok и YouTube, автоматически прекратить использование рекомендательных систем, основанных на обширном профилировании пользователей.

Более того, этим компаниям придется прекратить создавать профили тех пользователей, возраст которых не подтвержден или которые являются детьми.

«Коимисиун-на-Меан лидирует в мире, заставляя крупные технологические компании отключать свои токсичные алгоритмы. Люди, а не алгоритмы больших технологий, должны решать, что они видят и чем делятся в Интернете», — сказал Джонни Райан, старший научный сотрудник Ирландского совета по гражданским свободам (ICCL).

«Европейская комиссия должна извлечь уроки из примера Коймисиуна-на-Меана и предоставить каждому в Европе свободу принятия решений», — добавил он.

Основное обоснование проекта Кодекса безопасности в Интернете, разработанного ирландским регулятором, заключается в том, что рекомендательные системы ранжируют не только продукты, но и онлайн-контент. Тот факт, что предложение исходит из Ирландии, особенно актуален, поскольку большинство крупных технологических компаний имеют там свои европейские штаб-квартиры.

Поскольку платформы извлекают выгоду из внимания пользователей посредством рекламы, рекомендательные системы имеют тенденцию максимизировать вовлечение, что может привести к продвижению экстремистского или вредного контента, который может привести к реальному насилию, как это было в случае с беспорядками в Дублине три недели назад.

Согласно выводам Amnesty International за ноябрь, когда их исследователи подражали профилю 13-летнего пользователя в TikTok и просматривали видеоролики, связанные с проблемами психического здоровья, в их ленте появилось «несколько рекомендуемых видеороликов в течение одного часа, романтизирующих, нормализирующих или поощряющих самоубийство». .

Другие примеры включают экстремистские группы, присоединяющиеся к метаплатформам из-за их системы рекомендаций, отчет Европейской комиссии о рекомендательных системах крупных технологических компаний, подпитывающих дезинформацию России об украинской войне, или исследование Mozilla о YouTube, показывающее проблемный контент, в основном из-за его системы рекомендаций. .

Согласно Кодексу Коимисиуна-на-Меана, поставщики услуг платформ обмена видео должны соблюдать ряд мер при подготовке плана безопасности рекомендательной системы.

Меры включают в себя обеспечение того, чтобы «алгоритмы рекомендаций, основанные на профилировании, были отключены по умолчанию» и меры, гарантирующие, что «в алгоритмах, которые явно или неявно взаимодействуют с данными особых категорий, такими как политические взгляды, сексуальность, религия, этническая принадлежность или здоровье, эти аспекты должны быть отключены». по умолчанию.»

Это важно, поскольку, хотя, например, пользователи iOS могут решать, какое приложение может получить доступ к их данным через прозрачность отслеживания приложений Apple, большинство пользователей редко, если вообще когда-либо, меняют свои настройки по умолчанию.

В прошлую пятницу (8 декабря) Коимисиун-на-Меан опубликовал «Консультацию по обязательным правилам для платформ обмена видео для обеспечения безопасности взрослых и детей в Интернете», которая продлится до 19 января 2024 года.

Кодекс направлен на защиту детей в Интернете не только путем запрета профилирования, но и, например, путем борьбы с киберзапугиванием.

Комиссар Ирландии по онлайн-безопасности Ниам Ходнетт заявил, что они «будут получать одобрение Европейской комиссии на внедрение кодекса». Комиссии придется пересмотреть ирландское законодательство, чтобы определить, есть ли какая-либо несовместимость с законодательством ЕС.

В случае нарушения закона ирландский регулирующий орган сможет налагать штрафы в размере до 20 миллионов евро после того, как Кодекс будет доработан и станет обязательным.

Euractiv обратился к Meta, YouTube и TikTok за комментариями. Последний отвечать отказался, а Meta и YouTube к моменту публикации не ответили.

[Edited by Luca Bertuzzi/Zoran Radosavljevic]

Узнайте больше с Euractiv