Супербоул — одно из самых популярных спортивных событий во всем мире и одна из лучших рекламных возможностей. Для Google это возможность продемонстрировать, чем может быть полезен его флагманский искусственный интеллект Gemini. Разве что Близнецы. Он взял откровенно неверную информацию из одного источника и представил ее как достоверную.

С тех пор Google удалил эту часть из рекламы, но это еще одно напоминание о том, что искусственный интеллект не так надежен, как крупные технологические компании хотят, чтобы мы верили.

Не хватает гауды

Если вы думали, что помои ИИ — это то, на что попадется только ваша бабушка, что ж, подумайте еще раз: Google тоже попался на это.

Неделю назад поисковый гигант запустил новую рекламную кампанию к Суперкубку, продвигая «Google Workspace with Gemini». По сути, это обновление ИИ для существующих функций, таких как Документы или Таблицы. Кампания под названием «50 историй из 50 штатов» будет запускать индивидуальную рекламу Gemini, адаптированную для местных рынков, показывающую, как искусственный интеллект Google может помочь бизнесу. Дрянные моменты произошли для рекламы в Висконсине.

В рекламе владелец Cheese Mart в Висконсине попросил Gemini «описание копченой гауды, которое понравится любителям сыра». Если у вас есть магазин, Google хочет, чтобы вы использовали искусственный интеллект вместо того, чтобы писать собственные описания или нанимать копирайтера, который сделает это за вас. Gemini подготовила ответ, который был показан в этом видео и до сих пор упоминается на веб-сайте Cheese Mart.

Но ответ явно неправильный. В нем говорится, что Гауда является «одним из самых популярных сыров в мире, на долю которого приходится от 50 до 60 процентов мирового потребления сыра».

Это никак не может быть правдой

Тем временем Google удалил эту часть из своего объявления, но только после того, как социальные сети и журналисты начали высмеивать их. Вероятно, они даже не осознавали этого раньше.

Гауда — популярный сыр, и, честно говоря, не существует надежного глобального графика потребления сыра (хотя сейчас мы бы очень хотели его получить). Нет никаких сомнений в том, что Гауда является одним из самых популярных сыров, но ни на один сыр не приходится половина мирового потребления. Учитывая популярность моцареллы и чеддера, разнообразие сырных трендов по всему миру, у Гауды просто нет таких рычагов. С огромным количеством индийского панира или свежих сыров, которые так популярны в Южной Америке, это просто невозможно.

Извините, поклонники гауды, но сырная математика не складывается.

Грань , который первым сообщил об этом, даже пошел спросить профессора экономики сельского хозяйства в Корнельском университете по имени Эндрю Новакович, который подтвердил, что Gouda «определенно не самый широко потребляемый», хотя и отметил, что это может быть самым популярным вариантом.

Это не галлюцинация, это просто плагиат

Президент Google по облачным приложениям Джерри Дишлер хочет, чтобы вы знали, что это не галлюцинация. Дишлер опубликовал заметку в социальных сетях, в которой говорится, что заявление Gemini основано на «данных». В данном случае данные — это всего лишь несколько веб-сайтов, которые упоминают статистику без какого-либо источника.

Скорее всего, статистика поступила от cheese.com, который, похоже, является самым эффективным сырным сайтом в Google. На сайте нет упоминания о том, откуда взялась эта статистика.

Так что это не тот случай, когда ИИ выдумывает что-то, это тот случай, когда он берет информацию, которую другие пытались создать, и повторяет ее без проверки. Это функция, а не ошибка: вместо того, чтобы критически анализировать и проверять факты, ИИ, такие как Gemini, просто усиливают любую информацию, которую они находят, независимо от ее точности. Это не просто единичная ошибка; Это неотъемлемый недостаток в том, как модели искусственного интеллекта Google обучаются отдавать приоритет высокопоставленным источникам, а не фактической достоверности.

Это также напоминание о том, что эти модели не создают информацию, они просто берут информацию, созданную человеком, и настраивают ее (или, как в данном случае, просто переписывают ее). В настоящее время они функционируют скорее как высокоскоростные копипаст-машины вперемешку с текстовыми процессорами, чем как настоящий творческий движок.

Это забавный клип с искусственным интеллектом, но это также симптом гораздо более серьезной проблемы. Когда ИИ уверенно представляет дезинформацию в авторитетном контексте, он усиливает ложные нарративы, вводит пользователей в заблуждение и подрывает доверие к информационным системам. Если это не остановить, это может иметь серьезные последствия не только для маркетинговой чепухи, такой как описания сыра, но и для критически важных областей, таких как здравоохранение, наука и политика.

Конечно, помощник по письму Geimini отмечает, что это «вспомогательное средство для творческого письма, и оно не предназначено для того, чтобы быть фактическим», хотя, конечно, он делает это мелким шрифтом, который никто не проверяет.

Ошибка Гауды может быть неуместной, но это предупреждающий знак склонности ИИ к дезинформации. Если Google не может правильно понять даже факты о сыре, почему мы должны доверять его ИИ что-то более важное?