Как зависимость от ИИ влияет на память, обучение и мышление

Исследователи всё чаще изучают явление, которое называют «когнитивной капитуляцией» — привычку регулярно передавать интеллектуальную работу чат-ботам. Такая зависимость может снижать способность человека самостоятельно рассуждать, проверять информацию и глубоко усваивать знания.

В одном исследовании с участием 1372 человек пользователи примерно в 75% случаев включали ошибочные рассуждения ИИ в собственную работу. Другая научная работа, подготовленная исследователями Университета Карнеги — Меллона, Массачусетского технологического института, Оксфорда, Калифорнийского университета в Лос-Анджелесе и Калифорнийского университета в Беркли, показала: участники, полагавшиеся на ИИ, выполняли задания хуже тех, кто не использовал большие языковые модели.

К похожему выводу пришли авторы исследования, в котором проанализировали данные более чем 25 тысяч китайских школьников и студентов за 30 месяцев. ИИ помогал им лучше справляться с домашними заданиями, однако результаты экзаменов, проходивших под контролем, ухудшались. По мнению исследователей, это может свидетельствовать о том, что постоянная передача учебной работы алгоритмам мешает формировать устойчивые знания и навыки.

ИИ может влиять на воспоминания

Отдельное направление исследований связано с воздействием сгенерированных материалов на память. Патти Маес, профессор Медиалаборатории Массачусетского технологического института, и её команда показывали участникам экспериментов настоящие фотографии, изображения, изменённые ИИ, и созданные нейросетями видеоролики на основе реальных снимков.

Участники, видевшие материалы, созданные или изменённые ИИ, чаще формировали искажённые воспоминания, чем люди из контрольной группы. При этом они были увереннее в достоверности своих воспоминаний. Иными словами, проблема заключалась не только в ошибках памяти, но и в неспособности заметить эти ошибки.

В другом эксперименте Маес участникам предложили написать эссе в трёх разных условиях: полностью самостоятельно, с помощью поиска Google или с использованием ChatGPT. Активность мозга измеряли электродами. Наиболее высокой она оказалась у тех, кто писал без ИИ, ниже — у пользователей поисковика, а минимальной — у группы ChatGPT. После завершения задания участникам, работавшим с ИИ, также было сложнее вспомнить содержание собственного текста.

Опасность не только в дезинформации

Эксперты давно предупреждают, что распространение дипфейков и другого синтетического контента может усилить дезинформацию. Новые исследования указывают на дополнительный риск: человеческая память оказывается уязвимой перед убедительными материалами, а уверенность в ошибочных воспоминаниях может затруднять их исправление.

Гидеон Наве, исследователь из Пенсильванского университета, считает, что подобные результаты описывают менее очевидный сценарий развития ИИ. Человечество может столкнуться не с восстанием сверхинтеллекта, а с постепенной деградацией собственных навыков из-за постоянной зависимости от технологии.

При этом исследования не означают, что ИИ бесполезен. Большие языковые модели могут помогать генерировать идеи, искать исходные материалы и улучшать черновики — особенно в задачах, соответствующих их сильным сторонам.

Работа, опубликованная в 2024 году в журнале Nature, показала, что совместная работа человека и ИИ может давать лучший результат, если человек изначально справляется с задачей лучше алгоритма. Если же ИИ превосходит пользователя, сотрудничество, напротив, может ухудшать итоговый результат. Вероятное объяснение состоит в том, что специалисты лучше замечают ошибки модели и способны критически оценивать её ответы, тогда как людям без достаточных знаний сложнее отличить убедительный текст от правильного.