Меган МакАрдл снова присоединяется к ведущему EconTalk Рассу Робертсу, чтобы обсудить опасности левого уклона ИИ Google в отношении слова и демократии, может ли существовать такая вещь, как объективная информация, и как ответы без учета социального согласия создают нюансы и способствуют здоровому образу жизни. дискуссия и взаимодействие. Макардл — обозреватель журнала Вашингтон Пост и является автором Обратная сторона вниз: почему неудача — ключ к успеху .
Часто, когда обсуждаются опасности ИИ, возникают апокалиптические сценарии порабощения или истребления человечества, такие как Терминатор , У меня нет рта, и я должен кричать и 2001: Космическая одиссея думают. Если быть более реалистичным, некоторые обеспокоены тем, что ИИ может разрушить рабочие места, ослабить значение искусства или облегчить плагиат. Чат-боты и компаньоны с искусственным интеллектом становятся мейнстримом — например, основная тема этого подкаста: Google Gemini. Макардла беспокоит то, как левая предвзятость компаний, стоящих на переднем крае разработки искусственного интеллекта, отразилась на их творениях, а также косвенное влияние на американскую свободу слова и демократию.
Первыми примерами этого Макардла являются фактические неточности Близнецов во имя утверждения социально респектабельного положения. Первый обсуждаемый случай связан с художественным изображением Близнецами отцов-основателей и других этнически европейских исторических деятелей как небелых, что, по ее признанию, тривиально. Однако ответы Близнецов на текстовые запросы об уходе, подтверждающем гендер, были гораздо более примечательны для Макардла.
Итак, я спросил об уходе, подтверждающем гендер, и вскоре Близнецы сказали мне, что мастэктомия частично обратима. Когда я сказал, что моей тете сделали мастэктомию из-за рака груди, это обратимо? Он ответил: «Нет», а я ответил: «Ну, я не понимаю». Казалось, они поняли, что это одна и та же операция, но затем прочитали волнующую лекцию о важности утверждения и уважения трансгендеров. Он явно усвоил часть наших социальных правил и то, как мы говорим об этой теме, но не все из них. Ошибки склонялись в одном направлении: они не совершали ошибок, рассказывая людям консервативные вещи, которые не соответствуют действительности, и, чтобы внести ясность, ни один активист не хочет, чтобы Близнецы говорили людям, что мастэктомия обратима. Это было похоже на тупейшую пародию на прогрессивного активиста.
Макардл отмечает, что для этого есть причины, не связанные с предвзятостью, например, обучение чат-бота на сайтах социальных сетей, таких как Reddit, модерация которых смещена влево. Кроме того, ИИ не способен обнаруживать определенные ограничения логических позиций и социальных правил. Но это проблема и для Макардла. Она считает это признаком подавления высказываний, когда только одну сторону политического спектра можно восхвалять, а другую — только демонизировать. Ее пример отказа Близнецов хвалить правых деятелей, таких как Брайан Кемп, и в то же время делать противоположное более противоречивым левым деятелям, таким как Ильхан Омар. Опасность для Макардла заключается в том, что ИИ научит людей не мыслить комплексно и будет отвечать на вопросы аналитически, чтобы держать спрашивающего в своем идеологическом пузыре.
У нас есть очень тонкие социальные правила, и мы применяем их по-разному в разных ситуациях, мы кодируем переключатели. Если я со своими друзьями-либералами, у меня возникают некоторые проблемы, знаете, давайте просто не будем об этом говорить. ИИ не может этого сделать, он как ребенок. Это может пойти в одном из двух направлений. Положительным моментом является то, что Google понимает, что не может обеспечить соблюдение тонких социальных правил профессорско-преподавательского состава Гарварда, что, по сути, и сделал. Google может просто сказать, что мы готовы сказать, что Мао тоже плохой, но мы просто не собираемся говорить, что Дональд Трамп, которого избирает половина населения, слишком ужасен, и вам разрешено только говорить о нем ужасные вещи. Это более открытое равновесие. Это место, где люди могут лучше сталкиваться с вопросами и сложностью мира. Близнецы часто хорошо с этим справляются. Я размышлял над этим целый час, но на самом деле часто он помогает хорошо обозначить нюансы. Мой кошмар заключается в том, что вместо этого Google учит Близнецов переключать коды, узнавать человека, задающего вопрос, в каком пузыре он хочет жить, и дает ему ответ, который его порадует. Это действительно тревожное будущее.
В ответ на это Робертс задает фантастический вопрос. Поскольку для того, чтобы быть полезными, поисковые системы являются дискриминационными или предвзятыми по самому своему определению, что может означать беспристрастный Google или Gemini? Этот вопрос побуждает Робертса заявить о своем пессимизме, поскольку проблема выходит за рамки чат-ботов с искусственным интеллектом и сосредоточена вокруг самого идеала беспристрастной поисковой системы. Это учит людей не расшифровывать истину из различной информации, вместо этого люди полагаются на результаты, которые им дают, особенно те, которые соответствуют их предубеждениям. Это оказывает дальнейшее пагубное влияние на демократию. Подводя итог, можно сказать, что, поскольку поисковые системы предвзяты по своей природе, решение Робертса заключается в том, что пользователи поисковых систем ведут себя более осторожно и внимательно.
Это разговор об ИИ, по крайней мере номинально, но на самом деле это гораздо более глубокий набор вопросов, связанных с тем, как мы думаем о нашем прошлом. Историю преподают так, как великие люди совершают великие дела, и давайте узнаем, кем они были. Современная историческая тенденция отчасти является реакцией на это, и у меня нет с этим проблем. Проблема, с которой я сталкиваюсь, заключается в самой идее беспристрастной истории. Что, черт возьми, это может быть? Вы не можете создать беспристрастную историю; вы не можете создать беспристрастную поисковую систему. Почти по определению, если оно должно быть полезным, оно является дискриминационным. По определению, это результат работы алгоритма, который должен был принимать решения… проблема для меня с культурной точки зрения заключается в том, что у нас есть идеал беспристрастной поисковой системы. Этого не может произойти, поэтому мы должны учить людей вдумчивому чтению… люди начинают не знать, каковы факты… они предполагают, что большинство вещей являются правдой, если они с ними согласны. Эта инфантилизация современного сознания – это дорога в ад, демократии будет трудно. Я не думаю, что это совпадение, что два кандидата, которые есть у нас в Соединенных Штатах, не являются теми, кого большинство людей назвало бы двумя наиболее квалифицированными людьми. Это указывает на нечто более фундаментальное.
Макардл предлагает аналогичное решение: увеличение количества людей, которые меньше сосредотачиваются на социальном умиротворении, когда отвечают на сложные социальные вопросы, и больше на поиске нюансов. Понимание сложности решения таких проблем, как расовое неравенство, является основой поиска решений.
Замечательная новая концепция, которую я только что узнал, — это люди, у которых высокий уровень разделения по сравнению с низким уровнем разделения. Люди с высоким уровнем разделения абстрагируют все вопросы от контекста, а люди с низким уровнем разделения отвечают на вопросы в социальном контексте, в котором они возникают. Что вам нужно, так это система с высоким уровнем разделения, а не попытка дать социально желательный ответ. Никто не является идеальным разъединителем, но он дает вам как можно больше нюансов.
В противовес пессимизму Робертса МакАрдл приводит аргументы в пользу наилучшего сценария. Она считает, что негативные последствия обязательно исходят от ИИ, подобно тому, как социальные сети привели к отмене культуры. Но человеческая порядочность победит этот вызов. Точка зрения Макардла заключается в защите либерального общества. Она рассматривает попытки фундаментально отклонить социальный порядок от принципов просвещения как неудачные, и новый социальный порядок, пытающийся сдвинуть окно приемлемых взглядов, видимых левым уклоном Google, также потерпит неудачу. Дух человеческого общения и разговора достаточно силен, чтобы поддерживать продуктивный диалог.
Я так думаю что долгосрочная причина для оптимизма заключается в том, что эти технологические проблемы приведут к созданию множества плохих вещей. Я даже представить себе не могу всего этого. Ты тоже не можешь. Если бы в 2012 году вы попросили меня предсказать отмену культуры из Твиттера, я бы этого точно не сделал. Но мы также на самом деле фундаментально приличный друг к другу снова и снова и снова, и мы ищем способы быть приличными друг к другу… Я на самом деле верю, что достаточное количество людей хотят того, что действительно важно — людей, которых вы любите, а также создания лучшего мира и свободного исследования. и наука, и все эти удивительные человеческие ценности… И вот, я думаю, в конце концов, что воля возможно, победим, если ИИ не превратит нас в скрепки.
Хотя это был увлекательный разговор, я закончил подкаст, не будучи убежден Макардлом в том, что предвзятость ИИ является значимой проблемой. В нескольких местах подкаста она обсуждала ответ Gemini, демонстрирующий явную левую предвзятость, а затем заявляла, что Google устранил проблему очень быстро, даже в тот же день. Например, она упомянула, что Близнецы больше не говорят, что мастэктомия частично обратима.
ИИ, который сказал мне, что мастэктомия обратима, теперь этого не говорит. На самом деле интересно, как быстро Google исправляет эти дыры.
Исходя из этого, кажется, что у Google есть набор ценностей, которые он хочет, чтобы их ИИ воплощал, и они просто решают проблемы. Более того, скачок, который делает Макардл в результате этого, по меньшей мере, радикален: «Сейчас мы говорим, что нельзя спорить о наиболее спорных и центральных проблемах, с которыми сталкивается общество». Предвзятость в социальных сетях в отношении правых людей была признано необоснованным иском и это далеко не самая большая угроза свободе слова. Есть гораздо лучший аргумент в пользу компаний, занимающихся социальными сетями. неспособность адекватно регулировать дезинформацию и ложные заявления о вакцинах и выборы 2020 года или неспособность принять меры против домогательство или правый экстремизм исходящие со своих платформ.
Точно так же отказ от культуры – это преувеличенная проблема. Лучшее место, где можно сосредоточиться на стремлении к сохранению свободы слова и выражения, — это не компании социальных сетей, запрещающие людям за разжигание ненависти. Законодательные органы штатов запрещают такие формы выражения ЛГБТК+, как тащить и Проект 2025-е тоталитарный и христианский националист стремится ограничить свободу слова вопреки консервативным принципам. Это гораздо важнее, чем отказ Близнецов написать любовное стихотворение для Брайана Кемпа. Свобода в Америке подвергается нападкам, но исходят они преимущественно от крайне правых, а не от Кремниевой долины.
Аргументация Макардла также вызывает вопрос о том, в какой степени корпорации несут ответственность перед организациями, помимо своих акционеров. Обязаны ли компании, работающие на ископаемом топливе, перевести производство энергии на экологически чистые источники, чтобы замедлить изменение климата? А как насчет ответственности корпораций платить своим работникам прожиточный минимум, даже если он выше равновесного? Строят ли застройщики, например, компании Гренфелл Тауэр , ответственный за установку спринклерных систем или строительство из более безопасных материалов, даже если это дороже? Если Кремниевая долина несет социальную ответственность за поддержание общественной справедливости и духа свободы слова, даже если это негативно влияет на ее акционеров, то этот принцип социальной ответственности должен быть распространен на все сферы корпоративной деятельности.
Связанные эпизоды EconTalk:
Меган МакАрдл об интернет-шейминге и онлайн-мобах
Ян Лесли о том, как быть человеком в эпоху искусственного интеллекта
Может ли искусственный интеллект быть моральным? С Полом Блумом
Цви Мовшовиц об искусственном интеллекте и циферблате прогресса
Марк Андрисен о том, почему ИИ спасет мир
Связанный контент:
Меган МакАрдл о катастрофах и пандемии ЭконТалк
Меган МакАрдл об Эдиповой ловушке ЭконТалк
Меган МакАрдл о принадлежности, доме и национальной идентичности ЭконТалк
Акшая Камалнатха Социальные движения, разнообразие и корпоративный краткосрочный подход в Эконлиб
Джонатан Раух об отмене культуры и свободы слова Подкаст «Великое противоядие»
Маленькая Нора Кисс Мониторинг социальных сетей в Законе и Свободе
…
EUROPEAN UNION 