Вступление. [Recording date: May 1, 2024.]
Расс Робертс: Сегодня 1 мая 2024 года. Мой гость — философ и писатель Николас Бостром из Оксфордского университета. Это его второе появление на EconTalk. Впервые он был здесь в декабре 2014 года и рассказывал о своей книге. Суперинтеллект об опасностях искусственного интеллекта – ИИ – и он очень рано начал беспокоиться об этом.
Его новая книга и наша сегодняшняя тема – Глубокая утопия: жизнь и смысл в решенном мире . Ник, добро пожаловать обратно в EconTalk.
Николас Бостром: Спасибо. И вот оно, да. №2014. Прошло много времени.
Расс Робертс: Ага. И с тех пор я стал намного умнее. Я уверен, что ты тоже. Но ни один из нас не является сверхразумным; но есть кое-что интересное. Но это не наша тема.
Расс Робертс: Наша тема — ваша новая книга, и прежде чем мы начнем, я хочу сказать, что это чудесная книга. Это расширяет сознание. Это поэтично. Оно движется. Это смешно. Текст великолепен. Каждая страница полна идей. И речь идет о том, что вы называете «глубокой утопией» — мире, к которому мы, кажется, идем, мире невообразимого материального изобилия, роботов, искусственного интеллекта, способных делать все лучше, чем мы, что, похоже, ведет к миру почти если не буквально, бесконечный досуг.
И в таком мире вы, среди прочего, спрашиваете, что бы с нами тогда стало? Что придало бы нашей жизни смысл и цель в «решённом мире», как вы его называете? И что бы мы делали весь день?
И я думаю, как вы заметили, размышления об этих проблемах заставляют нас задуматься о нет -утопические проблемы — вопрос о том, как мы живем сейчас и что для многих из нас близко к утопии; и для многих не так близко.
Но давайте начнем с того, что попытаемся сказать что-нибудь очень обнадеживающее. Я думаю, что многие люди крайне обеспокоены идеей решенного мира – идеей свободного времени, которого мы всегда хотим. Поговорите о том, почему люди беспокоятся по этому поводу и почему, по вашему мнению, эти беспокойства не так тревожны, как думают некоторые.
Николас Бостром: Мы построили наше представление о себе и своем достоинстве в значительной степени на идее, что мы можем внести какой-то полезный вклад в мир, будь то в большом масштабе или просто в вашей семье или в вашем сообществе. Итак, если это основа вашей самооценки, если эту основу убрать, вы можете обнаружить под ногами своего рода вакуум, который будет сбивать с толку.
Итак, в решенном мире, где все практические проблемы уже решены, нам больше не нужно решать проблемы, или в той степени, в которой остаются какие-либо практические проблемы, о которых лучше бы позаботились продвинутые ИИ и роботы. И поэтому в любом случае не было бы ничего практического, для чего требовался бы человеческий труд.
Таким образом, это вынуждает к довольно радикальному пересмотру того, какой может быть основа хорошей человеческой жизни. И, несомненно, это потребует отказа от некоторых заветных представлений о том, что должна содержать жизнь. И я думаю, что это часть того, откуда могло возникнуть это чувство беспокойства.
Возможно, есть и более приземленные проблемы, которые возникнут у людей: если бы у них не было работы, как бы они зарабатывали на жизнь? Но те, которые я как бы отложил в этой книге, чтобы иметь возможность фактически добраться до того момента, когда мы сможем задаться вопросом о фундаментальных ценностях, которые поставлены на карту, предполагая, что мы решим все практические трудности, которые лежат между тем, где мы находимся сейчас, и этот гипотетический результат.
Расс Робертс: И это чем-то напоминает разговоры, которые некоторые люди вели вокруг идеи универсального базового дохода. [UBI] где многие люди предположили, что даже если бы мы могли, цитируем, «позволить» бюджету заботиться о людях на достаточно высоком минимальном уровне, это было бы ошибкой, потому что тогда у людей не было бы причин работать, и тогда они бы… Не знаю, цитируете вы это или нет, но есть определенное, я думаю, культурное ощущение, что праздные руки – это мастерская дьявола. Но вы не согласны, я думаю, и весьма красноречиво.
Николас Бостром: Ага. Что ж, я думаю, что для некоторых людей это может быть правдой в том, что больше свободного времени вредно, а некоторым людям, я думаю, нужно большое внешнее давление, чтобы сохранять вертикальное положение, с психологической точки зрения. И я, я думаю, сдержанно надеюсь, что, если бы это было единственное изменение — скажем, предположим, что произошел какой-то огромный экономический непредвиденный доход, такой как то, как какое-то государство Персидского залива или что-то в этом роде находит огромные богатства под землей, и тогда они смогут жить за счет ренты. От этого. Иногда это получается хорошо, а иногда не очень. Я сдержанно надеюсь, что, по крайней мере теоретически, мы могли бы добиться культурных изменений, которые позволили бы людям расти так, чтобы они хорошо проводили время, а не были продуктивными работниками. Я думаю, что школьная система сейчас, очевидно, в той степени, в которой она нацелена на какой-либо конкретный результат, нацелена на подготовку дисциплинированных работников. Л, как тебе сказали[?taught?] сидеть за своим столом. Вам поручают небольшие задачи, которые вы должны выполнить. Почему? Потому что учитель говорит вам это делать; а затем вам выставляют оценки и оценки, а в конце ставится штамп контроля качества.
А затем вы можете пойти работать в офисное здание или на фабрику, в зависимости от того, на каком уровне — я надеюсь, в свете будущего — это печальная модель того, каким может быть человеческое развитие. Это как бы необходимо сейчас, потому что там являются все эти работы, которые необходимо выполнить, поэтому нам нужны работники, которые их выполняют. Но если представить себе сценарий, в котором не были всю эту работу, которую необходимо было выполнить, тогда, я думаю, мы могли бы придумать лучшие способы воспитания детей, возможно, прививая им понимание искусства и литературы, изящное искусство беседы, чувство юмора, физическую активность, понимание природы, все эти вещи, которые в настоящее время отодвинуты на второй план.
Расс Робертс: И это… одна из моих любимых тем – то, что культура развивается. Это не под чьим-либо контролем. Он реагирует на все виды сил в мире, на экономические улучшения и так далее. И мы поговорим об этом подробнее, потому что это очень интересно… вы можете сказать несколько очень интересных вещей о том, как все может измениться в другом мире.
Я думаю, что всегда возникает интересный вопрос о скорости, с которой культура может меняться по сравнению со скоростью технологий. Если эта культура будет реагировать медленно, может возникнуть много страданий и проблем.
Пример, о котором я часто думаю, — это смартфоны. Когда появились смартфоны, я, как и другие, иногда говорил: «О, ну, наша культура изменится в отношении того, что вы можете делать». И это имеет измененный; и изменилось то, что вы можете сидеть там в одиночестве, глядя на свой телефон, отвечать на телефонные звонки посреди встреч и пролистывать ленту в социальных сетях, когда вы ужинаете, и всеми способами, которые мне не кажутся быть настолько совместимым с человеческим процветанием.
И я говорю это как человек, который делает некоторые из этих вещей время от времени. Итак, культурные нормы, я думаю, в конечном итоге воля измениться, но я думаю, что здесь вопрос в скорости, но, возможно, у нас есть много времени.
Николас Бостром: Ага. Итак, я не говорю, что мы бы использовать увеличившийся досуг для позитивного жизнеутверждения, и поэтому я[?] говоря, что теоретически такая возможность существует.
Итак, я думаю, что у этой луковицы есть несколько слоев, и то, что я считаю самым внешним слоем — именно здесь начинается и заканчивается большая часть этого разговора — мы рассматриваем некий сценарий умеренного увеличения автоматизации. Может быть, некоторые люди останутся безработными, и тогда, возможно, ответом на это будет перевоспитание или гибкий рынок труда, чтобы они могли найти работу. новый рабочие места.
Мол, сегодня у нас есть много рабочих мест, которых не было сто лет назад, когда почти все были фермерами, то есть аналогично этому. И затем, в сочетании с некоторой культурной адаптацией к новым технологиям. Итак, мы надеемся, что мы поощряем более позитивное использование. Итак, я думаю, если бы технология была в основном заморожена во времени, как сейчас, или на пару лет больше достижений, а затем просто приложений, я думаю, это был бы правильный вопрос и правильный ответ. [More to come, 9:51]
EUROPEAN UNION 