Искусственный интеллект уже изменил нашу жизнь: то, как мы работаем, проводим свободное время, бродим по Интернету и покупаем вещи. В то же время ИИ может быть невероятно странным. Например, решитесь ли вы назвать свой продукт или домашнего питомица так, как предложил машинный алгоритм, ведь чаще всего это просто случайный набор слов? Gizmodo напечатал интервью с доктором наук Джанель Шейн, которая ведет блог AIweirdness («странность ИИ»)
Обложка недавно вышедшей книги Джанель Шейн «Ты выглядишь как вещь, и я люблю тебя» об искусственном интеллекте. Как вы догадались, название сгенерировал ИИ.
– Как Вы заинтересовались темой искусственного интеллекта?
– Сразу после старшей школы я побывала на встрече, где один молодой ученый, изучающий эволюцию, рассказывал о своих исследованиях. Больше всего мне запомнилась часть о том, как машинные алгоритмы умеют решать проблемы неожиданным способом. При этом часто предложенный ими вариант является технически правильным, но совсем не тем решением, которое надеялся получить ученый. В моей книге описан забавный случай, когда ИИ разрабатывал системы линз для камер и микроскопов. Один из вариантов работал бы просто отлично, но вот беда: толщина линзы составляла 15 метров.
Позже мне попались на глаза рецепты поваренной книги, сгенерированные искусственным интеллектом. Многие из них здорово меня повеселили. По форме они напоминали рецепты, но по содержанию… Например, в ингредиентах был измельченный бурбон. Или же надо было вынуть пирог из духовки, который вы туда еще не поставили. Это снова привлекло мое внимание и сподвигло проводить собственные эксперименты с ИИ.
Позже Джанель Шейн сама попробовала написать кулинарную книгу с помощью нейросети. Для этого ученый использовала фреймворк с ресурса GitHub. Результаты оказались лучше, но абсурдностей тоже хватало. Например, «сахар в длинных гранулах», «1 испанская вода», «чашка кремовых сырных семян». А названия рецептов все так же напоминали описания для товаров на AliExpress.
– Когда машинный алгоритм решает проблему, он не может объяснить вам свои действия. А вот программист тратит много времени и сил, чтобы постоянно проверять, следует ли он поставленной цели и не истолковал ли неверно то, что нужно сделать. На самом деле мы даже не понимаем, насколько умны люди. Если человеку описать проблему, он скорее всего поймет, что именно вы от него хотите, или задаст уточняющие вопросы, чтобы прояснить непонятное. ИИ недостаточно умен, чтобы понять содержание задачи, поэтому в итоге может выдать совершенно неправильное решение.
Например, в моей книге описан случай, когда исследователи из Стэнфорда пытались обучили компьютер распознавать рак кожи на фотографиях. Но когда они проверили, что делал алгоритм, то обнаружили, что ИИ искал линейки вместо опухолей. А все дело в том, что на этапе обучения на многих снимках были линейки для измерения образований.
Отдельно мне нравится категория результатов, когда ИИ «взламывает» условия, в которые его поставили. Но это не потому что он слишком умный. Даже если мы вернемся к самым ранним компьютерным симуляциям, то они тоже понимали, как использовать недостатки в шаблоне.
Джанель Шейн – специалист по оптике. Училась в Мичиганском государственном и Сент-Эндрюсском университетах. Окончила аспирантуру Калифорнийского университета в Сан-Диего. Сотрудничает с CNN, The Guardian, The New York Times Magazine и The New York Times, выступала на TED 2019.
Например, в 1990-е годы один айтишник создал программу с целью побеждать всех своих противников в крестики-нолики. Якобы для того, чтобы игра была интересной, он сделал бесконечно большую доску. И действительно никто его не мог победить. Тогда другие программисты решили узнать, в чем же заключается его стратегия. Выяснилось, что независимо от того, каким был первый ход противника, ответ алгоритма состоял в том, чтобы выбрать действительно самую дальнюю координату. Следующим шагом соперника, конечно, было найти ход системы на огромной доске, но памяти у него на это не хватало. Происходил сбой и партия заканчивалась по техническим причинам. В другом примере ИИ было сказано устранить ошибки сортировки. Искусственный интеллект справился с задачей, полностью удалив список.
– А есть ли хорошие или, по крайней мере, неплохие приложения?
– Я лично считаю полезной автоматическую пометку фотографий. Она не идеальна, но достаточно мощная, чтобы найти снимок моей кошки или гостиной. Есть еще хорошие примеры. Та же фильтрация спама. Она не меняет по сути мой почтовый ящик, но является удобной функцией. Или способность программ делать приличную транскрипцию аудио… Такие приложения по сути меняют жизнь. Они не идеальны, но предоставляют услуги, которых у нас раньше не было.
Конечно, с каждым годом происходит усовершенствование ИИ. На фото – прогресс автоматической классификации изображений (процент ошибок по годам, сделанных ИИ и обученным человеком при выполнении одной той же задачи).
– Как выглядит будущее искусственного интеллекта?
– Это отличный инструмент, но для его использования все равно потребуются люди. Для ИИ нужен контролер, редактор. Например, возьмем языковой перевод. Профессионалы используют ИИ в качестве первого черновика. Сама по себе программа недостаточно хороша, чтобы действительно дать вам готовый продукт, но она может сэкономить кучу времени, помогая нам перевести текст. Другие алгоритмы собирают исследования, синтезируют информацию и строят из нее статьи. Редактору-человеку только в конце надо просмотреть готовый результат. Думаю, в будущем мы увидим все больше и больше подобных приложений ИИ. Также мы удостоверимся, что искусственный интеллект может работать в искусстве и музыке.
Конечно, есть алгоритмы ИИ, которые принимают решения о нас. О том, кто получит кредиты или доступ к сайту, как пометить наши фотографии или какую музыку нам порекомендовать. Но и мы принимаем решения об искусственном интеллекте. Например, может ли сайт распознавать наши лица, хотим ли мы использовать новую услугу, которая предлагает скрининг нянь по их профилям в социальных сетях и т. д. Это наше неоспоримое преимущество.
Полностью интервью можно почитать тут.
Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.
