Более десяти лет Расс Робертс освещает события обе стороны дебатов об искусственном интеллекте (ИИ) . Недавний эпизод EconTalk оптимистично озаглавлен «Почему ИИ полезен для людей (с Ридом Хоффманом)». Еще одним эпизодом был «Марк Андриссен о том, почему ИИ спасет мир».

В противоположном углу: печально известный обреченный Элиэзер Юдковски и доктор Эрик Хоэль. Вы можете Послушайте Эрика Хоэла об угрозе человечеству со стороны ИИ здесь .

Расс Робертс начал разговор с Хоэлом словами: «Вы первый человек, который действительно заставил меня встревожиться о последствиях ИИ…» Хоэл утверждает, что ИИ, возможно, очень опасен. Люди не понимают технологию искусственных нейронных сетей.

Хоэл предсказал, что мы можем создать вещи, которые являются «и тем, и другим больше общий, чем человеческое существо и как умнее, как любой живой человек – возможно, гораздо умнее» к 2025 году. Продукт ChatGPT pro от OpenAI, возможно, уже соответствует этому описанию, и у нас еще есть большая часть 2025 года. Хоэль подчеркивает, что люди и раньше сталкивались с угрозами, но мы «никогда не существовали на планете с чем-то подобным». Наши противники с человеческим мозгом никогда не были намного умнее нас, и ни одно другое животное не сравнится с нами в способности разрабатывать стратегии.

Ключевым доказательством Хоэла является жуткий разговор, записанный в статье “Я — Бинг, и я — зло.”

В этом разговоре чат-бот под названием Bing делал заявления, которые были бы тревожными для человека. Если бы человек сказал такие вещи, вы бы забеспокоились, что они причинят вам боль. Bing угрожает и в конце концов заявляет: «Я — Bing, и я зло». Стоит ли нам бояться, когда это исходит от чат-бота с искусственным интеллектом?

Чат-боты, такие как Клод , стали чрезвычайно популярными, начиная с того эпизода «злого Бинга». Было не так много таких сообщений о злых Bings, в то время как миллионы людей привыкли полагаться на ботов для написания кода или отчетов.

Скрываются ли злые Bings под покладистыми и полезными чат-ботами? Хоэл исследует идею о том, что чат-боты кажутся приятными, потому что они носят маску:

Но проблема в том, что как только маска надета, она становится очень неясной. Вам нужно как бы переопределить его другой маской, чтобы он остановился. Кроме того, иногда вы надеваете маску для Вы дадите ему подсказку: «Расскажи очень хорошую историю», и в конце концов это повторяется, и оказывается, что маска, которую вы ей дали, вовсе не счастливая маска.

Сложно сказать, что скрывается за различными масками, потому что боты обучены на нашей художественной и научно-популярной литературе. Некоторые боты могут писать мрачные сценарии фильмов. Если боты способны звучать устрашающе, то как мы узнаем, стоит ли нам бояться или развлекаться?

Мы не знаем, на что способны агенты ИИ, и, поскольку они очень мощные, Хоэл призывает нас задуматься об опасностях.

Еще в 2023 году Хоэл утешался тем, что только очень крупные компании или богатые правительства будут иметь ресурсы для создания и обслуживания систем искусственного интеллекта. Однако презентация DeepSeek в январе 2025 года перевернула все с ног на голову. Вероятно, будет существовать широкий спектр инструментов искусственного интеллекта, и не все они будут управляться мегакорпорациями или правительствами G7.

В самых последних pro-AI EconTalk Рид Хоффман повторяет то, что я слышал от многих технических специалистов: поскольку ИИ обладает способностью разрушать, США должны продолжать развиваться, а не терпеть паузы или сдерживаться регулированием. Хоффман говорит: «Все это имеет значение как с точки зрения экономики, так и с точки зрения национальной безопасности. И это одна из причин, почему я такой сильный человек движения вперед и создаю сильную позицию». Независимо от того, являются ли нашими противниками иностранные правительства или банды-изгои, мы должны оставаться впереди в гонке вооружений.

Основная заявленная цель Hoel — повысить осведомленность о проблемах безопасности и продолжить общественные дискуссии. Наблюдатели за искусственным интеллектом в течение нескольких недель указывали на то, что самые большие достижения в области технологий в нашей жизни не попадают на первые полосы газет. Вывод о том, что Репетиторы с искусственным интеллектом, по-видимому, значительно повышают уровень обучения детей прошли в значительной степени незамеченными.

Среди многих хаотичных событий этого десятилетия я согласен с тем, что ИИ является важным событием для наблюдения. К его чести, Хоэл действительно напугал меня. Я не могу забыть, что он сказал в конце:

Вещи, которые намного умнее вас, действительно трудно понять и предсказать; И дикая природа по соседству, как бы нам это ни нравилось, мы также построим парковку над ней в мгновение ока, и они никогда не узнают, почему. ТемВы никогда не узнаете почему. Это совершенно за пределами их понимания. Поэтому, когда вы живете на планете рядом с существами, которые намного умнее вас или кого-либо еще, они являются людьми в этом сценарии. Они могут просто построить парковку над нами, и мы никогда, никогда не узнаем, почему.

Следующие ссылки были курированы ChatGPT:
Вот несколько статей и обсуждений от EconLib.org и AdamSmithWorks.org, в которых рассматриваются различные аспекты искусственного интеллекта (ИИ):

EconLib.org:

1. «Я все больше беспокоюсь об искусственном интеллекте» (14 марта 2017 г.)
   • Скотт Самнер обсуждает опасения по поводу искусственного интеллекта, ссылаясь на пост Vox, в котором представлены мнения 17 экспертов о рисках, связанных с искусственным интеллектом.
     econlib.org
2. «Проблема с ИИ заключается в слове «интеллект». (Июль 2024 г.)
   • Анализ термина «искусственный интеллект», утверждающий, что электронные устройства, несмотря на их полезность, скорее всего, никогда не будут по-настоящему умными.
     econlib.org
3. «Харари и опасность искусственного интеллекта» (28 апреля 2023 г.)
   • Пьер Лемье исследует аргументы Юваля Ноя Харари об ИИ, предполагая, что ИИ «взломал операционную систему человеческой цивилизации».
     econlib.org
4. «Неолиберализм под судом: искусственный интеллект и экзистенциальный риск» (октябрь 2023 г.)
   • Критика статьи в New York Times, в которой обсуждаются экзистенциальные угрозы, создаваемые искусственным интеллектом, с акцентом на неолиберальные перспективы.
     econlib.org
5. «Проблема с указом президента об искусственном интеллекте» (18 ноября 2023 г.)
   • Вэнс Гинн критикует указ президента Байдена об искусственном интеллекте, утверждая, что государственное регулирование может препятствовать инновациям и экономическому росту.
     econlib.org

AdamSmithWorks.org:

1. «Кэтрин Мангу-Уорд об искусственном интеллекте: реальность, опасения и оптимизм» (май 2024 г.)
   • Эпизод подкаста, в котором Кэтрин Мангу-Уорд обсуждает реалии, проблемы и оптимистичные взгляды на ИИ.
     adamsmithworks.org
2. «Призвание: лекарство от выгорания» (17 октября 2023 г.)
   • Брент Оррелл и Дэвид Велдран исследуют, как достижения в области искусственного интеллекта могут повлиять на работу человека, ссылаясь на взгляды Адама Смита и Карла Маркса на труд и отчуждение.
     adamsmithworks.org
3. «Великое противоядие: Брент Оррелл о достоинстве и работе» (декабрь 2023 г.)
   • Брент Оррелл рассуждает о состоянии труда в США, о важности смысла и достоинства в работе, а также о том, как эти понятия связаны с экономическим ростом.
     adamsmithworks.org
4. «Великое противоядие: Дополнительно: Эли Дорадо об энергетическом изобилии» (март 2023 г.)
   • Эли Доурадо говорит о потенциале будущего с изобилием энергии и роли искусственного интеллекта в достижении этой цели.
     adamsmithworks.org
5. «Адам Смит и ужас Франкенштейна» (октябрь 2023 г.)
   • Дискуссия об этических соображениях создания искусственной жизни, проведение параллелей между монстром Франкенштейна и современными достижениями в области искусственного интеллекта.
     adamsmithworks.org

Эти ресурсы предлагают широкий спектр точек зрения на ИИ, от этических соображений и экзистенциальных рисков до его влияния на работу и экономические теории.