Крис Диксон, ранее инвестировавший в компании от Warby Parker к Kickstarter, однажды написал, что что-то большое в начале всегда выглядит как игрушка. И это точно правда в случае искусственного интеллекта, который начался с шахмат, и дошел до того, что заменил в этой игре людей на американском телешоу «Jeopardy!».

Но сегодня АІ стал настолько вездесущим, что мы часто и не узнаем его. Кроме возможности говорить к нашим телефонам и получать от них ответ, умные алгоритмы часто работают в тылу, обеспечивая нас вещами вроде профилактического обслуживания машин и автоматизацией основных задач программирования.

Поскольку технологии становятся все более мощными, они заодно заставляют нас задавать некоторые неудобные вопросы, снова оказываются в центре внимания научной фантастики или ночных дискуссий в общежитиях. Когда машины начинают делать вещи, которые традиционно считались чисто человеческими, нам следует переосмыслить, что значит быть человеком, и как оно быть машиной.

Что является оригинальным и креативным?

Это старая концепция известна под названием Теорема о бесконечных обезьянах. В основе лежит идея, что если вы имеете бесконечное количество обезьян, случайным образом бесконечно стучащих по клавиатуре, то рано или поздно у них получится какое-то произведение Шекспира или Толстого, или любой другой литературный шедевр.

Будущее за людьми, которые будут сотрудничать с другими людьми ради создания машин

Сегодня наши технологии уже достаточно сильны, чтобы стимулировать работу бесконечного количества обезьянок и создавать что-то, что в целом выглядит как оригинальная работа. Профессор музыки и композитор Дэвид Коуп смог создать алгоритмы, которые делали оригинальные музыкальные произведения, являющиеся настолько хорошими, что даже эксперты не ощущают разницы. Компании вроде Narrative Science способны продуцировать связные документы из сырых данных следующим образом.

Поэтому впереди интересная философская дискуссия о том, что квалифицировать как настоящее творение и по чему собственно судить. Если алгоритм случайным образом создает «Войну и мир», то сохраняется ли там то же значение? Является ли намерение автора ключевым компонентом творчества? Здравомыслящие люди могут не согласиться.

Впрочем, поскольку технология АІ становится все более распространенной и вездесущей, возникают некоторые практические вопросы. Например, аудиоотдел компании Amazon создал новые субтитры для аудиокниг. Издатели судятся, говорят, что это нарушение авторского права, и Amazon заявляет, что поскольку работы созданы искусственным интеллектом, то это полностью новое творение.

Когда творить могут машины, можно ли считать это оригинальным или креативным намерением? При каких условиях работу можно считать новой и оригинальной? Нам придется решить.

Предубеждения и прозрачность

В целом мы принимаем то, что люди имеют предубеждения. На самом деле Википедия насчитывает более 100 задокументированных предубеждений, влияющих на наши суждения. Маркетологи и продавцы пытаются эксплуатировать эти предубеждения, чтобы влиять на наши решения. И профессиональное обучение одновременно должно было ослабить эти предубеждения. Чтобы принимать хорошие решения, нам необходимо преодолеть эту нашу склонность.

Впрочем, как сильно бы мы не работали над тем, чтобы минимизировать предубеждения, мы не можем от них избавиться, и именно поэтому прозрачность так жизненно необходима для работы любой системы. Когда какого-то СЕО нанимают управлять компанией, например, он или она не может принимать решения беззаботно, потому что подотчетен совету директоров, представляющему акционеров. Все хранится и проверяется для обеспечения прозрачности.

Машины также имеют предубеждения, так же убедительные и сложные для искоренения. Недавно Amazon пришлось отказаться от системы АI, которая анализировала резюме, поскольку та предвзято относилась к кандидаткам-женщинам. Алгоритм Google, созданный для выявления языка ненависти, оказался расистским. Если две из самых современных фирм на планете не способны избавиться от предубеждений, есть ли надежда для остальных?

Поэтому нам нужно начать предъявлять те же вопросы к решениям машин, как и к людям. Какой информацией руководствовались при решении? На какой основе строили суждения? Насколько здесь нужен контроль и от кого? Мы все переживаем за то, кто и что влияет на наших детей, так что должны задаваться теми же вопросами и относительно наших алгоритмов.

Нравственная проблема

Веками философы дискутировали на тему, каков человек моральный, имея в виду то, насколько кто-то способен принимать и нести ответственность за моральные суждения. Например, в целом мы не считаем, что сумасшедшие люди могут быть моральными. Несовершеннолетние также считаются не могущими нести ответственность за свои действия.

И все же иногда вопрос нравственности не до конца понятен. Вспомните дилемму, известную под названием «троллейбусная проблема». Представьте себе, что видите троллейбус, который катится вниз по рельсам, готовясь сбить пять человек. Единственный способ спасти их — это потянуть за рычаг, который переведет транспорт на другую колею. Но если вы так сделаете, то один человек на том пути погибнет. Так что же вам делать?

По большей части «троллейбусную проблему» рассматривают на занятиях по философии для первокурсников или авангардных коктейльных вечеринках, не вынося по сути никаких решений. Впрочем, с подъемом таких технологий как самоуправляемые машины, решения вроде спасти жизнь пассажира или пешехода должны быть четко прописаны в созданных нами системах.

На более базовом уровне нам необходимо определиться, кто ответственен за решение, которое принимает алгоритм, особенно когда системы АІ становятся все более способными к тому образу мышления, которого люди понять не могут. Кто виноват в том, что решение, предусмотренное алгоритмами, приведет к чему-то плохому? По каким критериям это следует оценивать?

Навстречу человекомашинной соэволюции

Накануне индустриальной революции большинство людей зарабатывали себе на жизнь физическим трудом. Как и сегодня, ремесленники видели в механизации угрозу, что таковой и была и на самом деле. Сейчас у кузнецов или ткачей не так уж и много работы. Чего в свое время не поняли, так это того, что индустриализация создаст экономику знаний и спрос на высокооплачиваемую и исследовательскую работу.

Сегодня мы переживаем подобный сдвиг, но машины берут на себя уже исследовательские задачи. Так же как индустриальная революция обесценила определенные навыки и повысила ценность других, эра думающих машин является катализатором перехода от исследовательских умений к социальным. Будущее за людьми, которые будут сотрудничать с другими людьми ради создания машин, которые будут иметь ценность для других людей.

Технология, как отметил когда-то давно Маклюэн, является продолжением человека. Мы постоянно соэволюционируем с нашими творениями. Ценность никогда на самом деле не исчезает, а просто переходит в другое место. Поэтому когда мы используем технологии для автоматизации определенной задачи, люди должны найти способ создать ценность в любом другом месте, что создаст возможности для создания новых технологий.

Это то, как люди и машины соэволюционируют. Дилемма, с которой мы столкнулись сейчас, заключается в том, что когда машины заменят людей в задачах, когда-то считавщихся исключительно человеческими, мы должны заново определить нас самих и то, что поднимает деликатные вопросы наших отношений с нравственностью. Когда люди становятся богами, единственными, кого остается победить, являются они сами.

Перевод НВ

Новое Время обладает эксклюзивным правом на перевод и публикацию колонок Грега Сателла. Републикация полной версии текста запрещена

Оригинал

Присоединяйтесь к нашему телеграм-каналу Мнения Нового Времени