«Но вот! люди стали инструментами своих инструментов.»

— Генри Дэвид Торо, Уолден (1854)

В теории автоматизации существует нечто, называемое кентавром.

Представьте греческое мифическое существо: наполовину человек, наполовину лошадь. Хотя здесь лошадь — это сильное, неутомимое тело машины.

Представьте инженера-программиста, пишущего код с помощью ИИ, или писателя, использующего автозаполнение.

На протяжении истории мы создавали инструменты, которые ведут нас в этом направлении — технологии, которые увеличивают наш труд, повышают производительность или освобождают для более высоких целей.

Но наша последняя волна инструментов искусственного интеллекта, возможно, переворачивает эти отношения. Машина задаёт темп. Человек ведёт инициативу.

Такова критика автора и известного технологического критика Кори Доктороу в книге ‘Путеводитель Обратного Кентавра по жизни после ИИ».

Источник: Goodreads

В нём он спрашивает не только, что делает технология, но и кого она обслуживает — и кто в итоге её обслуживает.

И он думает, что мы всё перепутали.

Кори видит, как из искусственного интеллекта формируются обратные кентавры — люди, которых технологии заставляют работать в нечеловеческом темпе.

Представьте себе работника склада Amazon, который пытается сходить в туалет, пока системы заставляют его сканировать быстрее.

Или с радиологом, который сталкивается с постоянно растущей нагрузкой, поскольку автоматизация позволяет обрабатывать больше сканирований.

Называть высококвалифицированного радиолога «ногами» аппарата может показаться абсурдным.

Но метафора распространяется и на то, что экономист Дэн Дэвис называет «Подотчетность снижается ‘ для искусственного интеллекта.

Описание, аналогичное тому, как радиатор поглощает нежелательное тепло из системы. Как предупреждало одно медицинское исследование, ‘Человеческие клиницисты рискуют быть использованными как инструмент для принятия ответственности и одновременно лишёнными прав в процессе принятия решений.»

Исследование в Мельбурне показало, что с 2009 по 2022 год количество срезов изображений, которые радиологи «сканировали» в месяц, увеличилось на 399%. Почти всё это обусловлено автоматизацией.

В этом есть очевидные преимущества. Если ИИ помогает диагностировать больше пациентов или обнаруживает опухоль с твердой массой, которую иначе можно было бы упустить, это явно ценно.

Риск в том, что квалифицированные специалисты постепенно становятся не более чем зелёной галочкой рядом с решением ИИ. Формально ответственными, но всё более отстранёнными от логики.

Эта проблема становится острой, когда мы думаем о будущем поколении радиологов.

Можно разумно сказать: «Тогда у нас просто меньше радиологов; суть в том, чтобы выявлять рак, а не платить работникам».

Ахиллесова пята этого «человека в петле» — это явление, называемое автоматизационной слепотой.

То есть то, как работает наш мозг, делает невероятно затруднённым оставаться бдительным к вещам, которые редко случаются.

Таким образом, будущее работы, где мы становимся формальным штампом ИИ, — это то, где сервисы ухудшаются задолго до того, как станут лучше.

Это возвращает нас к проблемам, которые я выделил в статье Обратите внимание на пробел .

А именно, где ИИ вписывается в общество и наше представление о работе.

Дуглас Адамс из Путеводитель автостопом по галактике Слава прекрасно описывала наше отношение к технологиям. Он называл это тремя правилами:

1. Что угодно, когда ты родился: Кажется обычным — просто так устроен мир
2. Изобретено в возрасте 15–35 лет: Ощущается захватывающе и полно возможностей — достойно карьеры
3. Изобретён после 35 лет: Это противоречит естественному порядку — нарушает наш принцип работы

Возможно, для нас, находящихся в этой третьей группе, дискомфорт — это просто поколенческий характер. Но это не делает все опасения воображаемыми.

Что дальше

В этом месяце тревога по поводу ИИ появилась вместе с новой волной запусков продуктов на базе ИИ.

Крупнейшими из них стали агенты ИИ или инструменты «агентного ИИ», которые продвигались как ваш личный помощник.

На этой неделе OpenAI представил «Dots» — своего размытого нового агента искусственного интеллекта. Dots присоединяется к рядам Muse Meta, обеспечивая связь помощи с милым плюшевым мишкой, а не с холодной машинкой.

Источник: Meta Muse и OpenAI Dots

‘Что я могу снять с вашей тарелки? ‘ — первый вопрос, который Muse от Meta задала в своём технологическом демо в начале этого месяца.

Демо, в ходе которого цена акций Meta выросла на ~11,5% за день. Скачок, эквивалентен добавлению стоимости McDonald’s или Commonwealth Bank к их рыночной капитализации.

Внутри того, мамMoth Jump — это общее видение инвесторов, представляющих себе другой вид цифровой коммерции. Такой, где ваши полномочия делегирования будут испытаны.

‘Поставьте Muse цель — например, вести свой бизнес или найти новых клиентов — и она её выполняет», пообещал Meta в посте ранее на этой неделе.

Тем не менее, это не первый раз, когда мы видим этих агентов в действии или обещанных широкой аудитории. В технологической индустрии люди уже много лет управляют агентами.

В этом февральском снимке, вероятно, неудивительно, что около половины всего использования агентов приходится на программистов.

Источник: Axios

Всё, что я могу сказать — следите за новостями. Через несколько месяцев я вернусь, чтобы посмотреть, насколько далеко эти агенты распространились за пределы программной инженерии.

Но я также буду смотреть, кто сэкономит время.

Кто будет главой, а кто — ногами?

Кентавр и обратный кентавр могут работать на одной и той же технологии. Разница может зависеть от того, кто отдаёт приказы.