Юваль Ной Харари, историк, философ и преподаватель Еврейского университета в Иерусалиме, опубликовал интересную статью об ИИ в Экономист («Юваль Ной Харари утверждает, что ИИ взломал операционную систему человеческой цивилизации», 28 апреля 2023 г.). Он представляет более изощренный аргумент об опасности ИИ, чем обычное луддитское запугивание. Несколько выдержек:

Забудьте о школьных сочинениях. Подумайте о следующей президентской гонке в США в 2024 году и попытайтесь представить влияние инструментов ИИ, которые можно использовать для массового производства политического контента, фальшивых новостей и писаний для новых культов. …

Хотя, насколько нам известно, все предыдущие [QAnon’s] капли были составлены людьми, а боты просто помогали их распространять, в будущем мы можем увидеть первые в истории культы, чьи почитаемые тексты были написаны нечеловеческим разумом. …

Для нас совершенно бессмысленно тратить время, пытаясь изменить заявленное мнение ИИ-бота, в то время как ИИ может оттачивать свои сообщения настолько точно, что имеет хорошие шансы повлиять на нас.

Благодаря своему владению языком ИИ может даже устанавливать близкие отношения с людьми и использовать силу близости, чтобы изменить наши мнения и мировоззрения. …

Что произойдет с ходом истории, когда ИИ возьмет верх над культурой и начнет создавать истории, мелодии, законы и религии? …

Если мы не будем осторожны, мы можем оказаться в ловушке за завесой иллюзий, которую мы не сможем оторвать — или даже осознать, что она существует. …

Точно так же, как фармацевтическая компания не может выпускать новые лекарства, не проверив их краткосрочные и долгосрочные побочные эффекты, технологические компании не должны выпускать новые инструменты ИИ, пока они не станут безопасными. Нам нужен аналог Управления по санитарному надзору за качеством пищевых продуктов и медикаментов для новых технологий.

Последнее, безусловно, не самое интересное: мне кажется, что это пугающая пропаганда ИИ-ботов. Такое доверие к государству напоминает мне о том, что написал Гай Тагвелл, новый дилер Рексфорд, в 1932 г. Американский экономический обзор статья:

Новые отрасли не возникнут просто так, как это произошло с автомобильной промышленностью; их нужно будет предвидеть, обосновать, чтобы они казались желательными чертами всей экономики, прежде чем их можно будет использовать.

Мы не знаем, насколько ИИ приблизится к человеческому интеллекту. Фридрих Хайек, о котором Харари, возможно, никогда не слышал, утверждал, что «ум и культура развивались одновременно, а не последовательно (из эпилога его Закон, законодательство и свобода ; его подчеркивает). Процесс занял несколько сотен тысяч лет, и маловероятно, что искусственный разум сможет продвинуться «во времена Трампа», как сказал бы Питер Наварро. Для улучшения ИИ в том виде, в каком мы его знаем, потребуются огромные ресурсы. Обучение ChatGPT-4 могло стоить 100 миллионов долларов, потребляя много вычислительной мощности и много электроэнергии. И стоимость растет пропорционально быстрее, чем интеллект. (См. «Крупные творческие модели ИИ изменят жизнь и рынки труда» Экономист 22 апреля 2023 г.) Я думаю, сомнительно, что искусственный разум когда-либо скажет, как Декарт: «Я мыслю, следовательно, я существую» (Я мыслю, следовательно, я ), за исключением плагиата французского философа.

Вот что я хотел бы сохранить или вычесть из аргумента Харари. Интеллектуальную историю человечества можно рассматривать как гонку за раскрытием тайн Вселенной, в том числе в последнее время за создание чего-то похожего на разум, одновременно с гонкой за образованием, чтобы масса людей не стала жертвой торговцев змеиным маслом и тираны. В той мере, в какой ИИ действительно приближается к человеческому интеллекту или дискурсу, вопрос заключается в том, будут ли люди к тому времени достаточно интеллектуально развиты, чтобы не быть обманутыми и подчиненными роботам или тиранам, которые будут их использовать. Если первая гонка будет выиграна раньше второй, будущее человечества будет поистине безрадостным.

Около 15% американских избирателей видят «веские доказательства» того, что выборы 2020 года были украдены, хотя эта доля, похоже, снижается. Во всем развитом мире еще больше верят в «социальную справедливость», не говоря уже об остальном мире, во власти более примитивного трайбализма. Идея Харари о том, что люди могут влюбляться в роботов с искусственным интеллектом, как индюки влюбляются в приманки для кур, интригует.

Медленное, но постоянное игнорирование классического либерализма в прошлом столетии или около того, интеллектуальная тьма, которая, кажется, опускается на 21-й век, и восхождение популистских лидеров, королей «демократии», предполагают, что гонка за созданием новых богов набирает больше оборотов, чем гонка за всеобщим образованием, знаниями и мудростью. Если это правда, то надвигается реальная проблема, как опасается Харари. Однако его очевидное решение, позволяющее государству (и его лидерам) контролировать ИИ, основано на трагической иллюзии, что оно защитит людей от роботов, а не выпустит роботов против непослушных людей. Риск, безусловно, намного ниже, если ИИ останется бесплатным и может использоваться отдельными лицами, корпорациями, (децентрализованными) правительствами и другими учреждениями.