Подкомитет судебного комитета Сената по конфиденциальности, технологиям и законодательству проведет сегодня днем ​​слушание по этому вопросу. Гонсалес В. Google одно из двух дел, связанных с терроризмом, которые в настоящее время находятся на рассмотрении Верховного суда США и затрагивают раздел 230 Закона о пристойности в сфере коммуникаций от 1996 года.

Мы уже писали ранее о том, как Суд может и должен вынести решение в Гонсалес (см. здесь и здесь), но меньше внимания было уделено другому делу по разделу 230, находящемуся в досье: Твиттер в До свидания . Это прискорбно, так как вдумчивое прочтение рассматриваемого спора в Таамне можно было бы выделить некоторые основополагающие принципы закона. На первый взгляд, увы, не кажется, что Суд готов применить это прочтение.

Во время недавних устных прений суд рассмотрел вопрос о том, можно ли привлечь Twitter (и другие социальные сети) к ответственности в соответствии с Законом о борьбе с терроризмом за предоставление общей коммуникационной платформы, которую могут использовать террористы. Вопрос, рассматриваемый Судом, заключается в том, оказывал ли Твиттер «сознательно» существенную помощь [to terrorist groups] под [the statute] просто потому, что он якобы мог предпринять более «значимые» или «агрессивные» действия, чтобы предотвратить такое использование». Теория истцов (ответчиков в суде) состоит, по сути, в том, что Twitter своим бездействием помогал и подстрекал терроризм.

Устный аргумент показал, что судьи пытаются понять, где провести грань между пособничеством и подстрекательством, а также другими законными действиями, которые несколько облегчают злоумышленникам участие в незаконных действиях. Почти трехчасовая дискуссия между судьями и адвокатами мало что дала для полноценной проверки. Но более конкретный акцент на праве и экономике залоговой ответственности (которую мы также называем «посреднической ответственностью») значительно помог бы разговору.

Таамне представляет собой сложный вопрос об ответственности посредников в целом, который выходит за рамки (относительно) более простого анализа по Разделу 230. Как мы обсуждали в нашем обзоре amicus в Флейтес против Миндгика (и как кратко описано в этом сообщении в блоге), ответственность посредника, как правило, не может основываться на простом наличии вредоносного или незаконного контента на онлайн-платформе, который, предположительно, мог быть предотвращен какими-либо действиями платформы или другого посредника.

Конкретный закон может налагать другие ограничения (например, требование «осведомленности» в Законе о борьбе с терроризмом), но ответственность посредника имеет смысл только тогда, когда конкретный ответчик-посредник имеет возможность контролировать (и, таким образом, исправлять) рассматриваемое неправомерное поведение, а также при наложении ответственности. заставит посредника действовать таким образом, что выгоды от его действий по предотвращению вреда перевесят издержки, связанные с воспрепятствованием его нормальному функционированию в качестве посредника.

Если бы Суд принял такой подход в своем допросе, он мог бы лучше провести надлежащее разграничение между сторонами, чье нормальное поведение могло бы разумно повлечь за собой ответственность (без каких-либо усиленных усилий по смягчению ущерба), и теми, чье поведение не должно было бы повлечь за собой ответственность. своего рода повышенная ответственность.

Здесь истцы сформулировали свое дело таким образом, что, по сути, сводили бы этот анализ к стандарту строгой ответственности, просто спросив: «Произошло ли что-то плохое на платформе, которая мог были предотвращены?» Как мы обсудим ниже, теория истцов заходит слишком далеко и чрезмерно расширяет ответственность посредников до такой степени, что социальные издержки перевешивают преимущества сдерживания.

В нашем кратком обзоре Флейтес против MindGeek (а также в нашей обзорной статье по разделу 230 и ответственности посредников), мы утверждали, что в ограниченных обстоятельствах закон должен возлагать (и возлагает) на посредников ответственность за мониторинг и контроль поведения. Не всегда достаточно направлять юридические санкции исключительно на стороны, которые непосредственно причиняют вред—например , где вред совершается многими лицами под псевдонимами, рассредоточенными по крупным онлайн-сервисам. В таких случаях социальные издержки могут быть сведены к минимуму, если юридическая ответственность возлагается на избегающего с наименьшими издержками: на сторону, которая находится в наилучшем положении для ограничение вред, даже если это не сторона непосредственно совершение вред.

Таким образом, в некоторых случаях посредники (такие как Twitter) может избегайте наименьших затрат, например, когда стоимость информации достаточно низка, чтобы можно было осуществлять эффективный мониторинг и контроль за конечными пользователями, и когда псевдоним делает средства правовой защиты против конечных пользователей неэффективными.

Но введение такой ответственности сопряжено с издержками, включая, что немаловажно, «сопутствующую цензуру» пользовательского контента онлайн-платформами социальных сетей. Это проявляется в том, что платформы ведут себя более оборонительно — убирают больше высказываний и, как правило, движутся в направлении, которое сделает Интернет менее поддающимся открытому публичному обсуждению — в попытке избежать ответственности. Действительно, основной причиной существования Раздела 230 в первую очередь является сокращение этих расходов. (Соответствует ли раздел 230 правильному балансу — это другой вопрос, который мы подробно рассматриваем в нашей статье с обзором законов, ссылка на которую приведена выше).

С экономической точки зрения, ответственность должна быть возложена на сторону или стороны, которые в наибольшей степени способны предотвратить рассматриваемый ущерб, при условии, что социальные издержки, понесенные в результате правоприменения и в результате его применения, не превышают полученные социальные выгоды. Другими словами, существует тонкий баланс, который необходимо соблюдать, чтобы определить, когда ответственность посредника имеет смысл в конкретном случае. С одной стороны, мы хотим, чтобы противозаконный контент сдерживался, а с другой, мы хотим сохранить открытый характер Интернета. Затраты, вызванные чрезмерным сдерживанием законной, полезной речи, являются причиной ответственности посредников за пользовательский контент. не мочь применяться на основе строгой ответственности, и почему некоторый плохой контент всегда будет существовать в системе.

Спектр правильно истолкованной посреднической ответственности: уроки Флейтес против Миндгика

Флейтес против Миндгика хорошо иллюстрирует, что надлежащее применение ответственности к посреднику существует в широком спектре. Mindgeek — владелец/оператор веб-сайта Порнхаб — предъявили иск в соответствии с теорией Закона об организациях, находящихся под влиянием рэкетиров, и коррупционных организаций (RICO) и Закона о защите жертв торговли людьми и насилия (TVPA) за продвижение и получение прибыли от несогласованной порнографии и торговли людьми. Но истцы также присоединились к Visa в качестве ответчика, утверждая, что Visa сознательно обеспечивала обработку платежей для некоторых из Порнхаб услуги, что делает его пособником/пособником.

Очевидно, что «лучшими» ответчиками будут лица, фактически производящие незаконный контент, но ограничение правоприменения только непосредственными субъектами может оказаться недостаточным. Таким образом, закон предусматривает привлечение к ответственности определенных посредников за пособничество и подстрекательство к принудительным действиям. Но есть множество посредников, которых вы теоретически можете привлечь к схеме ответственности. Во-первых, очевидно, это Mindgeek как оператор платформы. Истцы считали, что Visa также была в достаточной степени связана с причинением вреда, обрабатывая платежи для пользователей MindGeek и плакатов с контентом, и поэтому она также должна нести ответственность.

Проблема, однако, в том, что в теории истцов по делу против Visa нет ограничивающего принципа. Теоретически круг посредников, «способствующих» противоправным действиям, практически безграничен. Как мы указывали в нашем Флейтес друг:

Теоретически любая достаточно крупная фирма, играющая определенную роль в рассматриваемой коммерческой деятельности, может быть привлечена к ответственности, если все, что требуется, — это чтобы ее услуги «позволяли[]предполагаемые основные действующие лица продолжают вести бизнес. FedEx, например, будет нести ответственность за продолжение доставки посылок на адрес MindGeek. Местная компания по утилизации отходов будет нести ответственность за дальнейшее обслуживание здания, в котором расположены офисы MindGeek. И каждый провайдер онлайн-поиска и провайдер интернет-услуг будет нести ответственность за продолжение предоставления услуг любому, кто ищет или просматривает легальный контент на сайтах MindGeek.

адвокат Twitter в Таамне Сет Ваксман, сделал то же самое, отвечая судье Соне Сотомайор:

…правило, установленное 9-м окружным судом и принятое истцами… означает, что каждый раз, когда кто-то получает ранения в результате акта международного терроризма, совершенного, спланированного или поддерживаемого иностранной террористической организацией, каждый из этих платформы будут нести ответственность за тройной ущерб то же самое можно сказать и о телефонных компаниях, предоставлявших телефонные услуги, автобусных компаниях или компаниях такси, которые позволяли террористам свободно передвигаться. . [emphasis added]

В нашем Флейтес amicus, мы утверждали, что необходим более практичный подход; тот, который пытается провести разумную линию на этом спектре ответственности. Самое главное, мы утверждали, что Visa не в состоянии отслеживать и контролировать то, что происходит на платформе MindGeek, и, таким образом, является плохим кандидатом для расширения посреднической ответственности. В этом случае из-за сложности сети обработки платежей у Visa не было информации о том, какой конкретный контент приобретался, какой контент загружался на Порнхаб и какие лица могли загружать незаконный контент. Хуже того, только доказательства — если это можно так назвать — того, что Visa знала о том, что происходит что-то незаконное, состояли из новостных сообщений в основных средствах массовой информации, которые могли быть или не быть точными, и по которым Visa не смогла провести какое-либо значимое последующее расследование. .

Наш Флейтес Brief явно не рассматривал потенциальную ответственность MindGeek. Но MindGeek, очевидно, находится в гораздо лучшем положении для мониторинга и контроля незаконного контента. При этом просто иметь возможность контролировать и контролировать недостаточно. Учитывая, что модерация контента обязательно является несовершенной деятельностью, всегда будет некоторый плохой контент, который проскакивает. Таким образом, уместный вопрос заключается в том, действовал ли посредник разумно при данных обстоятельствах —например соответствовало ли передовой практике — в попытках идентифицировать, удалить и предотвратить незаконный контент?

В случае с Visa ответить несложно. Учитывая, что у него не было возможности узнать о транзакциях или выделить их как незаконные, единственным способом уменьшить ущерб (и риск ответственности) было бы отключение всех платежных услуг для Mindgeek. Ограничения совершенно законного поведения, которые это повлечет за собой, безусловно, намного перевешивают преимущества сокращения незаконной деятельности.

Более того, такая теория может потребовать от Visa прекращения обработки платежей за огромный спектр легальной деятельности за пределами США. порнохаб . Например, поставщики нелегального контента на порнохаб использовать услуги интернет-провайдера для размещения своего контента. Теория ответственности, возлагающая ответственность на Visa только потому, что она играет незначительную роль в содействии существованию незаконной деятельности, по-видимому, также требует от Visa прекращения платежей интернет-провайдерам — конечно, это также сократит количество нелегального контента.

С MindGeek ответ немного сложнее. Анонимное или псевдонимное размещение порнографического контента чрезвычайно затрудняет преследование конечных пользователей. Но зная, что торговля людьми и порнография без согласия являются повсеместными проблемами, и зная (а это, возможно, так и было), что такой контент регулярно размещался на Порнхаб Майндгик мог считаться действовавшим необоснованно из-за того, что он не осуществлял очень строгого контроля над своими пользователями (как минимум, скажем, путем проверки подлинности пользователей, чтобы облегчить правоохранительные меры против злоумышленников и предотвратить размещение незаконного контента). Действительно, стоит отметить, что MindGeek/Порнхаб делал осуществлять именно этот контроль, среди прочего, следя за вниманием общественности, возникающим из-за новостных сообщений о неконсенсуальном и связанном с торговлей людьми контенте на сайте.

Но ответственность за MindGeek возможна только при условии, что она мощь иметь возможность действовать таким образом, чтобы возлагать большее бремя на незаконный контент…