Документ, который я видел в Интернете на прошлой неделе, иллюстрирует тысячи других подобных документов. Он претендует на то, чтобы прославлять жизнь и мысли Томаса Джефферсона, и заканчивает литании несколькими цитатами из него. За исключением одного из них, который я знал, и некоторых, которые могли быть подлинными, остальные были подозрительными. Я протестировал два, выбранных более или менее случайно. Одно было пересказом, другое — фальшивкой.

Основная проблема такого рода предприятий, по-видимому, кроется в недействительном силлогизме: Утверждение п правда; Джефферсон делал только правдивые заявления; следовательно, Джефферсон мог сделать заявление п . Учитывая предпосылки, вывод верен, но бесполезен. Вывод «он сказал это» явно неверен.

Этот подход можно рассматривать как простой случай кругового рассуждения. Рассмотрим утверждение «Заявление п это правда, поэтому Джефферсон мог (или должен был) сказать это». Но откуда говорящий знает это утверждение? п правда? Я подозреваю, что он сказал бы, что это «потому что Джефферсон сказал это». Короче говоря, цитата принадлежит Джефферсону, потому что она правдива, и она верна, потому что она исходит от Джефферсона.

Кажется, что все политико-философское мировоззрение многих людей основано на ошибочной логике, круговых рассуждениях и ложной информации. Для некоторых других доверие им на слово имеет преимущество, заключающееся в подтверждении их прежних предубеждений. Предоставив каждому человеку свой печатный станок, социальные сети усугубили проблему.

Часто с исторической точки зрения очевидно, что цитата не может быть подлинной — когда, например, Цицерона цитируют о государственном дефиците, которого не могло быть во времена Римской республики. В остальных случаях следование простому принципу предотвращает опасность: если у цитаты нет достоверного источника, считайте, что она поддельная , намеренно или нет. (Некоторые источники более надежны, чем другие, независимо от того, повторяют ли они то, во что вы верите.) Человек, который хочет, чтобы вы поверили какому-либо утверждению и который испытывает к вам некоторое уважение, позаботится о том, чтобы это утверждение соответствовало некоторым минимальным стандартам истины.

Учитывая способность ИИ производить «глубинные фейки» — вместо обычных фейков, о которых я говорил, — нас ждет гораздо худшее. Можем ли мы надеяться, что люди смогут критически относиться к получаемой информации, не будучи циничными («Все — ложь, кроме того, что я знаю изнутри»)? Это не просто психологическая опасность. Для тех, кто думает, что имеет право мешать другим людям жить так, как они хотят, это смертельный политический риск.