Искусственный интеллект прошел путь от создания глупых изображений до создания неотличимо хороших портретов всего за пару лет. Теперь исследователи показывают, что в некоторых случаях изображения, созданные ИИ, даже более убедительны, чем реальная ситуация.

В мире, где технологии все больше стирают границы между реальным и искусственным, это вызывает беспокойство во многих отношениях.

Эксперименты с лицом

В новом исследовании ученые провели два эксперимента. В первом эксперименте 124 участника просмотрели 100 лиц, созданных искусственным интеллектом, и 100 фотографий реальных людей. Участников (все белые) попросили решить, было ли каждое лицо создано искусственным интеллектом или реальным, и насколько они уверены в себе по 100-балльной шкале.

Все портреты здесь изображали людей европеоидной внешности. Из человеческих изображений только 51% участников считались реальными. Но из изображений ИИ 66% были признаны реальными.

«Примечательно, что лица белых ИИ могут убедительно выглядеть более реальными, чем человеческие лица — и люди не осознают, что их обманывают», — отмечают исследователи в исследовании. «Проблема заключается в том, что люди, которых с наибольшей вероятностью могли обмануть лица ИИ, с наименьшей вероятностью обнаружили, что их обманывают», — добавляют они, поскольку эти участники продемонстрировали наибольшую уверенность в своих ответах.

Во втором эксперименте 610 участникам показали еще одну смесь искусственного интеллекта и человеческих лиц. Исследование углубилось в эту предвзятость, предлагая участникам оценить, какие особенности отличают ИИ от не-ИИ. Эксперимент показал, что небелые лица, сгенерированные ИИ, не получали такого же уровня ошибочной идентификации, как их белые коллеги, и были идентифицированы правильно примерно в половине случаев. Это несоответствие предполагает, что способность ИИ создавать реалистичные изображения неодинакова среди разных расовых групп.

«Здесь мы показываем, что белые (но не небелые) лица ИИ, что примечательно, чаще воспринимаются как человеческие, чем изображения реальных людей. Мы выявляем перцептивные качества лиц, которые способствуют этому феномену гиперреализма, включая пропорции лица, узнаваемость и запоминаемость», — отмечают исследователи.

Предвзятость, предвзятость

В последнее время мы много слышали об огромном потенциале генеративного ИИ, и это правда. Однако развитие технологий искусственного интеллекта также несет с собой множество проблем. Хотя способность ИИ создавать гиперреалистичные изображения открывает новые возможности в таких областях, как развлечения и виртуальная реальность, она также требует тщательного изучения этических последствий его использования.

Это исследование не только подчеркивает продвинутый уровень развития искусственного интеллекта в создании реалистичных изображений, но также подчеркивает значительную расовую предвзятость в этой технологии. Системы искусственного интеллекта, преимущественно обученные на наборах данных с белыми лицами, научились их копировать, в результате чего другие расовые группы недостаточно представлены и потенциально искажаются.

«Наше исследование подчеркивает два отдельных и критических предубеждения. Во-первых, генеративно-состязательные сети (GAN) ориентированы на статистические закономерности своих наиболее распространенных входных данных, что, как мы утверждаем, приводит к гиперреализму ИИ».

«Во-вторых, мы обнаружили доказательства расовой предвзятости белых в алгоритмическом обучении, которая приводит к расовым различиям в присутствии гиперреализма ИИ, что имеет серьезные последствия для использования лиц ИИ в Интернете и в науке».

Это не первый случай, когда в ИИ подчеркивается расовая предвзятость. Часто было продемонстрировано, что инструменты искусственного интеллекта по умолчанию используют опасные образы и предубеждения, и хотя генераторы изображений, такие как Stable Diffusion и DALL-E, прилагают усилия по уменьшению предвзятостей, эти предубеждения еще далеки от исчезновения.

Итак, из этой работы можно сделать два основных вывода. Во-первых, в современных системах искусственного интеллекта все еще преобладают предубеждения, и нам нужны более эффективные способы борьбы с этим. Во-вторых, наша способность определять, что создано ИИ, а что реально, недостаточно хороша.

«Учитывая, что люди не способны распознавать нынешние лица ИИ, обществу нужны инструменты, которые могут точно идентифицировать самозванцев ИИ», — заключают исследователи.

Исследование «Гиперреализм ИИ: почему лица ИИ воспринимаются как более реальные, чем человеческие» было опубликовано в журнале Психологическая наука .