Большинство из нас может подумать не так уж и много. Попробуйте разделить число 16 951 на 67, не доставая ручку и бумагу. Или калькулятор. Попробуйте делать еженедельные покупки без списка на обратной стороне чека за прошлую неделю. Или на телефоне.

Полагаясь на эти устройства, чтобы сделать нашу жизнь проще, делаем ли мы себя умнее или глупее? Не променяли ли мы повышение эффективности на постепенное приближение к идиотизму как вида?

Этот вопрос особенно важно учитывать в отношении технологии генеративного искусственного интеллекта (ИИ), такой как ChatGPT, чат-бот с искусственным интеллектом, принадлежащий технологической компании OpenAI, которым на момент написания статьи пользуются 300 миллионов человек каждую неделю.

Согласно недавней статье группы исследователей из Microsoft и Университета Карнеги-Меллона в Соединенных Штатах, ответ может быть положительным. Но это еще не все.

Хорошее мышление

Исследователи оценили, как пользователи воспринимают влияние генеративного ИИ на собственное критическое мышление.

Вообще говоря, критическое мышление связано с хорошим мышлением.

Один из способов сделать это – судить о наших собственных мыслительных процессах в соответствии с установленными нормами и методами хорошего рассуждения. Эти нормы включают в себя такие ценности, как точность, ясность, точность, широта, глубина, актуальность, значимость и убедительность аргументов.

Другие факторы, которые могут повлиять на качество мышления, включают влияние нашего существующего мировоззрения, когнитивные искажения и зависимость от неполных или неточных ментальных моделей.

Авторы недавнего исследования взяли на вооружение определение критического мышления, разработанное американским педагогом-психологом Бенджамином Блумом и его коллегами в 1956 году. На самом деле это вообще не определение. Скорее, это иерархический способ категоризации когнитивных навыков, включая вспоминание информации, понимание, применение, анализ, синтез и оценку.

Авторы заявляют, что они предпочитают эту категоризацию, также известную как «таксономия», потому что она проста и легка в применении. Однако с тех пор, как он был придуман, он вышел из моды и был дискредитирован Робертом Марцано и самим Блумом.

В частности, он предполагает, что существует иерархия когнитивных навыков, в которой так называемые навыки «высшего порядка» строятся на навыках «низшего порядка». Это не имеет ни логической, ни доказательной основы. Например, оценка, обычно рассматриваемая как кульминационный процесс или процесс более высокого порядка, может быть началом исследования или очень простой для выполнения в некоторых контекстах. Именно контекст, а не познание, определяет изощренность мышления.

Проблема с использованием этой таксономии в исследовании заключается в том, что многие продукты генеративного ИИ, по-видимому, также используют ее для управления своим собственным продуктом. Таким образом, вы можете интерпретировать это исследование как проверку того, является ли генеративный ИИ, кстати, эффективным в формировании того, как пользователи думают о критическом мышлении.

Кроме того, в таксономии Блума отсутствует фундаментальный аспект критического мышления: тот факт, что критически мыслящий человек не только выполняет эти и многие другие когнитивные навыки, но и хорошо их развивает. Они делают это, потому что у них есть всеобъемлющая забота о правде, которой нет у систем ИИ.

Более высокая уверенность в ИИ означает меньшее критическое мышление

Исследование, опубликованное ранее в этом году, выявило «значительную отрицательную корреляцию между частым использованием инструментов ИИ и способностями к критическому мышлению».

Новое исследование более подробно изучает эту идею. В ходе исследования было опрошено 319 работников умственного труда, таких как практикующие врачи, педагоги и инженеры, которые обсудили 936 задач, которые они выполняют с помощью генеративного ИИ. Интересно, что исследование показало, что пользователи считают, что они используют критическое мышление не столько при выполнении задачи, сколько при обеспечении надзора на этапах проверки и редактирования.

В условиях высоких ставок на работе желание выполнять высококачественную работу в сочетании со страхом перед репрессиями служит мощным мотиватором для пользователей, заставляющих их критически мыслить при анализе результатов работы ИИ.

Но в целом участники считают, что повышение эффективности с лихвой компенсирует усилия, затраченные на обеспечение такого надзора.

В 1990-хtudy обнаружил, что люди, которые были более уверены в ИИ, обычно демонстрировали менее критическое мышление, в то время как люди с более высокой уверенностью в себе, как правило, демонстрировали более критическое мышление.

Это говорит о том, что генеративный ИИ не вредит критическому мышлению — при условии, что оно у человека есть с самого начала.

Проблема заключается в том, что исследование слишком сильно полагалось на самоотчеты, которые могут быть подвержены целому ряду предубеждений и проблем интерпретации. Если отбросить это в сторону, критическое мышление было определено пользователями как «постановка четких целей, уточнение подсказок и оценка созданного контента в соответствии с конкретными критериями и стандартами».

«Критерии и стандарты» здесь относятся скорее к целям задачи, чем к целям критического мышления. Например, выходные данные соответствуют критериям, если они «соответствуют их запросам», и стандартам, если «сгенерированный артефакт является функциональным» для рабочего места.

В связи с этим возникает вопрос о том, действительно ли исследование измеряло критическое мышление.

Становление критического мышления

В новом исследовании подразумевается идея о том, что применение критического мышления на этапе надзора по меньшей мере лучше, чем нерефлексивная чрезмерная зависимость от генеративного ИИ.

Авторы рекомендуют разработчикам генеративного ИИ добавлять функции, чтобы вызвать критический контроль со стороны пользователей. Но достаточно ли этого?

Критическое мышление необходимо на каждом этапе до и во время использования ИИ — при формулировании вопросов и гипотез для проверки, а также при проверке результатов на предмет предвзятости и точности.

Единственный способ убедиться, что генеративный ИИ не навредит вашему критическому мышлению, — это стать критическим мыслителем, прежде чем использовать его.

Чтобы стать критическим мыслителем, необходимо выявлять и оспаривать невысказанные предположения, стоящие за утверждениями, и оценивать различные точки зрения. Это также требует практики систематического и методичного рассуждения и совместного рассуждения, чтобы проверить свои идеи и мышление с другими.

Мел и меловые доски помогли нам лучше разбираться в математике. Может ли генеративный ИИ помочь нам лучше мыслить критически? Возможно, если мы будем осторожны, мы сможем использовать генеративный ИИ, чтобы бросить вызов самим себе и улучшить наше критическое мышление.

Но в то же время всегда есть шаги, которые мы можем и должны предпринять, чтобы улучшить наше критическое мышление, вместо того, чтобы позволять искусственному интеллекту думать за нас.

Эта статья перепечатана из The Conversation под лицензией Creative Commons.