В прошлом месяце миллиардер Илон Маск запустил Grokipedia, платформу на основе искусственного интеллекта, чтобы составить конкуренцию онлайн-энциклопедии Википедия.

«Grokipedia превзойдет Википедию на несколько порядков по широте, глубине и точности», — написал Маск на X на следующий день после того, как его сайт заработал 27 октября.

Рекомендуемые истории

Список из 3 предметов Конец списка

В эпоху генеративного искусственного интеллекта и поисковых систем с помощью искусственного интеллекта Википедия остается хранилищем информации, созданным людьми.

Тем не менее, PolitiFact обнаружил, что статьи Grokipedia часто почти полностью взяты из Википедии. А когда записи различаются, качество информации и источники Grokipedia проблематичны и подвержены ошибкам, что делает ее менее надежным исследовательским инструментом.

31 октября Маск заявил в эпизоде подкаста «All-In», что его команда поручила чат-боту его компании, Grok, просмотреть 1 миллион лучших статей Википедии, а затем «добавить, изменить и удалить».

«Это означает, что нужно исследовать остальную часть Интернета, все, что находится в открытом доступе, и исправлять статьи в Википедии, исправлять ошибки, а также добавлять гораздо больше контекста», — сказал он в подкасте.

Статьи Grokipedia часто содержат текст «Проверено Гроком».

PolitiFact проанализировал статьи Grokipedia и обнаружил, что когда они включают язык, отличающийся от того, что появился в Википедии, новое содержание:

  • Не подкреплен цитатами;
  • Не предоставляет ссылок; или
  • Содержит вводящие в заблуждение или самоуверенные утверждения.

Grokipedia также часто удаляет контекст из своих статей.

Выборка из 885 279 статей Grokipedia показывает, что они подвержены аналогичному явлению, связанному с искусственным интеллектом, которое мы впервые увидели в мае, до презентации инструмента. Министр здравоохранения и социальных служб Роберт Ф. Кеннеди-младший выпустил доклад «Сделаем Америку снова здоровой», в котором содержалось несколько ошибочных цитат, в том числе ссылки на источники, которых не существовало.

Джозеф Ригл, адъюнкт-профессор коммуникационных исследований Северо-Восточного университета, сказал, что Grokipedia неправильно понимает сильные стороны Википедии и искусственного интеллекта.

«Достоинства Википедии заключаются в том, что она является результатом сообщества из тысяч людей, усердно работающих над созданием высококачественного контента», — сказал Ригл, в то время как ИИ полезен, когда он интерактивен и принимает сопротивление.

Сотни тысяч добровольцев по всему миру вносят свой вклад в Википедию, руководствуясь редакционной политикой и руководящими принципами платформы.

Фонд Викимедиа, некоммерческая организация, которая управляет Википедией, знает о проблеме копирования в Grokipedia.

«Даже Grokipedia нужна Википедия, чтобы существовать», — сказала Селена Деклеманн, директор по продуктам и технологиям Фонда Викимедиа, в заявлении для PolitiFact. «Контент Википедии имеет открытый исходный код по своей природе; Мы ожидаем, что он будет добросовестно использоваться для обучения. Этот вопрос особенно актуален, поскольку такие платформы, как Grokipedia, все чаще опираются на наши статьи, выборочно извлекая контент, написанный тысячами добровольцев, и фильтруя его через непрозрачные и неподотчетные алгоритмы».

Записи почти идентичны, за исключением неправильных или отсутствующих ссылок

Мы рассмотрели статьи Grokipedia на различные темы, включая науку, музыку и экономику. Во многих статьях, которые мы рассмотрели, Grokipedia ссылается на статьи Википедии со следующим утверждением: «Контент адаптирован из Википедии, лицензирован под лицензией Creative Commons Attribution-ShareAlike 4.0 License».

Это означает, что лицензирование Википедии позволяет Grokipedia копировать, распространять и адаптировать контент с указанием авторства. Он также требует, чтобы Grokipedia предоставляла такие же разрешения для своего адаптированного контента. (Есть некоторые статьи, которые не копируются из Википедии и не содержат этого утверждения, например, статья об Иосифе Сталине.)

Структура статей Grokipedia аналогична структуре Википедии, где внизу расположены списки литературы. Но в некоторых случаях Grokipedia копирует статьи из Википедии, опуская их цитаты и списки литературы.

Статья Grokipedia для «Понедельника», например, включает информацию об этимологии дня недели, связанных с ним религиозных обрядах и культурных отсылках. Но он не содержит никаких ссылок, кроме того, что он был адаптирован из Википедии.

Статья в Grokipedia на 96 процентов совпадала со статьей в Википедии «Понедельник», согласно Copyscape, средству проверки на плагиат. Статья в Википедии, однако, перечислила 22 Ссылки.

Иногда Grokipedia портит цитаты. В статье о «кульминационной точке» Грокипедия процитировала не ту главу книги, в которой военный теоретик Карл фон Клаузевиц представил эту концепцию. Остальной текст статьи скопирован из Википедии.

Одна из статей, которая значительно отличается от своего аналога в Википедии, — это статья о песне «Hello» британской певицы Адель. Многие элементы в списке ссылок Grokipedia — это ролики Instagram, которые предоставляют информацию из вторых рук без указания авторства и комментарии. Стандарты Википедии говорят, что такой пользовательский контент «в целом неприемлем в качестве источников».

В статье о канадском певце Файсте Грокипедия скопировала из Википедии, но добавила строку о том, что ее отец умер в мае 2021 года. В 2017 году журнал Vice составил рейтинг 60 лучших канадских инди-рок песен, в котором не упоминается смерть отца Файста, который был еще жив в том году.

Grokipedia не хватает прозрачности в исправлении ошибок

PolitiFact обнаружил как минимум один случай, когда Grokipedia представила вводящую в заблуждение информацию.

Статьи в Грокипедии и Википедии о «Нобелевской премии по физике» в основном совпадают, но одно предложение, добавленное Грокипедией, гласит: «Физика традиционно является первой наградой, вручаемой на церемонии вручения Нобелевской премии». В нем не было указано, и, похоже, это неверно: по крайней мере, в последние несколько лет Нобелевская премия по физиологии и медицине присуждалась первой.

«В отличие от Grokipedia, которая полагается на быстро генерируемый ИИ контент с ограниченной прозрачностью и надзором, процессы Википедии открыты для общественного обсуждения и тщательно документируют источники, стоящие за каждой статьей», — сказал Деклеманн.

Википедия позволяет любому вносить свой вклад и редактировать статьи, а также обеспечивает прозрачность, делая историю статьи доступной для просмотра. Некоторые волонтеры имеют расширенные разрешения и оснащены для борьбы с негативным поведением на платформе.

Тем не менее, Википедия попала под пристальное внимание после того, как редактор заблокировал изменения в статье на странице о геноциде в Газе.

На Grokipedia зарегистрированные пользователи могут предлагать правки к опубликованным статьям. Но в Grokipedia нет функции, позволяющей читателям видеть, какие изменения были сделаны. Непонятно, что происходит, когда возникают ошибки — исправляет ли их человек или грок, как эти изменения обдумываются и сколько времени требуется на обновление страниц.

Исследователь PolitiFact Кэрин Бэрд внесла свой вклад в этот отчет.