Мозги на аутсорсе: использование ИИ ослабляет разум

Голосовые ассистенты, чат-боты, обобщение поисковиками информации с разных страниц в исчерпывающие справки — ИИ уже сегодня может составить за людей расписание дня, написать письмо и ответить на любой вопрос. По сути он начинает мыслить за людей. Ученые выснили, что чем больше люди используют ИИ в работе, тем реже они применяют критическое мышление, а способность к непредвзятому анализу фактов ослабевает. О том, куда это может завести, — в материале ADPASS.

Как ИИ влияет на сознание

Новое исследование специалистов Microsoft и Университета Карнеги — Меллона, опубликованное в конце января, показывает, что по мере роста зависимости людей от генеративного ИИ в профессиональной деятельности они все реже прибегают к критическому мышлению. Это, в свою очередь, «может привести к ухудшению когнитивных способностей, которые следовало бы поддерживать».

Одним из ключевых парадоксов автоматизации является то, что, механизируя рутинные задачи и оставляя обработку исключительных случаев на усмотрение человека, вы лишаете его регулярных возможностей тренировать свое суждение и укреплять когнитивную «мускулатуру”, что со временем приводит к ее атрофии и неподготовленности, когда действительно возникает необходимость справляться с исключениями», — отмечают исследователи.

В исследовании приняли участие 319 работников умственного труда, которые предоставили 936 примеров использования генеративного ИИ в своей работе. Им предложили заполнить анкету, в которой необходимо было указать, какие инструменты и запросы они используют, насколько они доверяют возможностям ИИ в выполнении конкретных задач, насколько уверены в своей способности оценивать качество работы ИИ, а также в своей компетентности выполнять ту же задачу без помощи ИИ.

Среди приведенных в исследовании примеров — учитель, использующий генератор изображений DALL-E для создания иллюстраций к школьной презентации о гигиене рук; трейдер, применяющий ChatGPT для генерации рекомендаций по новым ресурсам и стратегиям, которые должны развить его навыки торговли; медсестра, проверяющая сгенерированную ChatGPT брошюру для пациентов с недавно диагностированным диабетом.

В целом участники исследования отметили: чем больше они доверяли ИИ выполнение задачи, тем меньше, по их собственным наблюдениям, задействовали критическое мышление. Если же их уверенность в результатах ИИ была ниже, они активнее оценивали, корректировали и улучшали его работу, а также старались минимизировать возможные ошибки.

«Данные показывают изменение характера когнитивной нагрузки по мере того, как специалисты переходят от выполнения задач к контролю за их исполнением при помощи генеративного ИИ, — говорится в исследовании. — Несмотря на повышение эффективности, ИИ может снижать уровень вовлеченности и критического осмысления, особенно при выполнении рутинных или низкорисковых задач, где пользователи полностью полагаются на ИИ. Это вызывает обеспокоенность по поводу долгосрочной зависимости и ослабления способности к самостоятельному решению проблем».

Манипулировать потребителями станет проще

Маркетологи и ретейлеры давно используют когнитивные уязвимости потребителей для управления их выбором. Предотвратить рациональный анализ призвана эмоциональная реклама с создающими сенсорные перегрузки яркими образами, громкими слоганами и предупреждениями вроде «предложение ограничено». Когнитивная усталость переводит людей в режим «автомата», поэтому в конце рабочего дня или после долгого просмотра контента пользователи чаще совершают импульсивные покупки. Когнитивная леность проявляется в доверии к первым попавшимся вариантам — маркетологи используют это, продвигая товары через значки «лучший выбор», «популярный товар» или «подобрали для вас», облегчая решение и снижая вероятность поиска альтернатив. Эти механизмы особенно эффективны в онлайн-среде, где алгоритмы часто подстраивают рекламу под уставших или отвлеченных пользователей.

Кроме того, исследование выявило, что пользователи, имеющие доступ к генеративному ИИ, получают, выполнив задачу, менее разнообразные результаты по сравнению с теми, кто работает без помощи ИИ. «Такая тенденция к схождению отражает недостаток личного, контекстного и критического осмысления выдаваемых ИИ решений, что можно рассматривать как ухудшение критического мышления», — уверены авторы исследования.

Ученые также выявили ряд факторов, влияющих на уровень критического осмысления и внимательность к результатам работы ИИ. Например, люди, испытывающие нехватку времени, склонны меньше анализировать качество выдачи, тогда как специалисты, работающие в «высокорисковых сценариях и сферах», больше задумываются о возможных последствиях ошибок ИИ и, соответственно, задействуют критическое мышление активнее.

ИИ касается всех

Критическое мышление — это способность анализировать, оценивать и синтезировать информацию для принятия обоснованных решений. Люди с высокими показателями критического мышления, согласно научным исследованиям, добиваются лучших результатов в учебе, успешнее справляются с работой и менее подвержены манипуляциям.

Может показаться, что эта способность необходима не всем и не всегда —, но это не так. Сравнивая условия ипотечных кредитов или автомобильных страховок, выбирая товары в супермаркете или на маркетплейсе, решая как добраться в нужное место — на метро, или на такси, планируя рабочий день для максимальной эффективности, размышляя о смысле фильма или книги — мы тоже мыслим критически.

Большинство не знает о проникновении нейросетей

Согласно недавнему исследованию Gallup и Telescope, 99% жителей США хотя бы раз в неделю используют продукты, которые не смогли бы работать без ИИ — голосовых ассистентов, навигационные приложения, рекомендации в стримингах или соцсетях и т.п. Однако почти две трети респондентов оказались не в курсе, что цифровой разум уже выполняет за них повседневные задачи: ответили утвердительно на вопрос об использовании за последние семь дней ИИ-инструментов только 36% опрошенных. При этом среди обладателей диплома колледжа или университета осведомленных о степени проникновения ИИ в нашу жизнь ненамного больше — 47%.

ИИ уже давно обогнал людей в скорости выполнения этих и многих других задач — и теперь стремительно догоняет людей в качестве результатов. Его использование становится нормой. С момента запуска в 2022 году ChatGPT взлетел в рейтингах и стал восьмым по посещаемости сайтом в мире, а также четвертым по популярности приложением на iPhone. По состоянию на начало января у этого ИИ-инструмента насчитывалось 300 миллионов активных пользователей в неделю и 123,5 миллиона активных пользователей в день.

Письмо, печатный станок, калькулятор, генеративная нейросеть

Как отмечают авторы работы, ограничивать применение ИИ во имя спасения нашего мыслительного потенциала было бы преждевременным. Они напоминают, что человечество всегда пользовалось возможностью переложить на новые технологии часть когнитивной нагрузки, и подобные опасения возникали при появлении каждой значимой технологической новации — начиная с изобретения письменности.

«Генеративный ИИ […] — это лишь последний в длинной череде инструментов, вызывающих вопросы о влиянии технологий на качество человеческого мышления, — пишут авторы. — В этот ряд входят письмо (которое критиковал Сократ), печатный станок (против которого выступали многие интеллектуалы XV-XVI вв.), калькуляторы (которым сопротивлялись учителя арифметики) и интернет».

Выводы о вреде искусственного интеллекта делать рано

Влияние на когнитивные функции интернета и гаджетов стало интересовать ученых более 10 лет назад. Дискуссию запустило в 2011 году широко обсуждавшееся в СМИ исследование. Там утверждалось: мы все чаще делегируем функции памяти цифровым сервисам, что ведет к деградации способности запоминать (и вспоминать) информацию. Но попытки двух других групп ученых воспроизвести результаты этой работы оказались неудачными — «эффект Google», хотя поверить в его существование очень легко, оказался неуловимым. Выводы исследователей Microsoft о воздействии ИИ на критическое мышление пока не успели получить независимого подтверждения —, но это наверняка не последнее исследование на эту тему.

Microsoft, как одна из крупнейших IT-компаний и ключевой инвестор OpenAI, объективно заинтересована в ускоренном развитии генеративного ИИ —, но и стремится избежать критики в связи с его возможными негативными эффектами. Вероятно, поэтому представляющие компанию исследователи предлагают учитывать проблему ослабления критического мышления при разработке ИИ-систем.

«Инструменты генеративного ИИ можно снабжать функциями, способствующими обучению пользователей, — например, объяснять логику решений ИИ, рекомендовать варианты доработки ответов или анализировать ошибки, — отмечают исследователи. — Эти функции могут укреплять ключевые навыки критического мышления, такие как анализ аргументации или проверка фактов по авторитетным источникам. Такой подход позволит позиционировать ИИ не как замену мышлению, а как партнера в развитии профессиональных навыков».

Автор: Николай Белый