Искусственный интеллект все глубже входит в образование и повседневную жизнь, однако это может иметь негативные последствия для человеческого мышления. Лидеры технологической индустрии часто сравнивают наш разум с машинами: Илон Маск призывает воспринимать мозг как «биологический компьютер», а глава Google DeepMind Демис Хассабис называет его «биологическим приближением к машине Тьюринга». Однако исследователь ИИ и основатель Cognitive Resonance Бенджамин Райли в статье для The Verge утверждает, что такой взгляд ошибочен, а постоянное использование ИИ способно ослаблять системы, которые формировали человеческое мышление на протяжении эволюции.
Представление о мозге как о своеобразном компьютере помогло пройти путь от первых вычислительных машин до нейронных сетей, но оно не учитывает всей сложности человеческой нервной системы. Автор ссылается на нейробиолога из Монреальского университета Пола Цисека, который предлагает рассматривать мозг как систему управления с обратной связью. Как отмечал еще на рубеже XIX и XX веков философ Джон Дьюи, на чьи идеи опирается Цисек, организм не просто получает сигналы от окружающей среды, а постоянно действует и изменяет эти сигналы в зависимости от доступных вариантов поведения.
Разницу между двумя моделями Райли объясняет на примере бейсболиста, который ловит мяч. Согласно вычислительной модели, игрок должен был бы бессознательно оценивать скорость мяча, гравитацию и другие параметры. Вместо этого модель с обратной связью предполагает более простую стратегию: удерживать мяч в одной точке поля зрения и двигаться так, чтобы сохранять это положение. Именно такая модель лучше согласуется с эволюцией, где новые формы поведения возникали в ответ на возможности среды.
Отдельную роль в этом процессе играет социальная природа человека. На протяжении сотен тысяч лет люди научились подражать движениям друг друга и передавать успешные методы выживания. Со временем появилась устная речь, произошел переход к земледелию, а затем возникли письменность и формальное образование. Лишь после прохождения этих этапов сформировались институты коллективного принятия решений, такие как рынки, правовые системы и демократия.
Райли сравнивает влияние ИИ на мышление с тем, как изменилось питание человека. Эволюция сформировала склонность искать жирную и калорийную пищу, которая когда-то была редкой, но сейчас стала общедоступной.
Аналогичная ситуация возникла с информацией. Автор называет ИИ «когнитивным хот-догом»: проблема появляется не от эпизодического использования технологии, а тогда, когда она становится постоянной частью «ментального рациона».
В отличие от предыдущих технологических скачков, таких как появление калькуляторов или письменности, человечество еще никогда не внедряло технологию, которая бы так откровенно имела целью вытеснение человеческого мышления. Как отмечает бывший инженер Google Франсуа Шолле, ИИ — это средство «когнитивной автоматизации», которое кодирует человеческие абстракции в программном обеспечении. Именно поэтому исследователи предлагают рассматривать большие языковые модели не как самостоятельных «интеллектуальных агентов», а как новый вид культурной и социальной технологии, позволяющей эксплуатировать информацию, накопленную другими людьми.
Особенно остро эта проблема проявляется в образовании. Вице-президент OpenAI по вопросам образования Лия Белски заявила, что учащиеся и студенты составляют более половины из 900 миллионов пользователей ChatGPT.
Компания Anthropic также запустила инициативу, предоставляющую учителям бесплатный доступ к премиум-моделям. Райли обращает внимание на парадокс: руководства университетов и школ агрессивно внедряют ИИ, несмотря на то, что сами студенты испытывают тревогу и гнев из-за этих инструментов.
Исследования подтверждают негативное влияние технологии: студенты используют ChatGPT, чтобы избегать напряженной умственной работы, а в Китае тысячи учеников фактически прекратили самостоятельно выполнять домашние задания. Этот процесс «когнитивного делегирования» может существенно ослабить социальную среду, поддерживающую автономное мышление.
В качестве альтернативы ученые предлагают «когнитивную иммунизацию» — сохранение институтов, поддерживающих активность человеческого мышления, поощряющих самостоятельное решение проблем и осознанный отказ от ИИ. Некоторые шаги в этом направлении уже предпринимаются: Норвегия запретила ИИ в школах для учащихся младше 13 лет, а в США аналогичные запреты ввели школьные округа Лос-Анджелеса и Нью-Йорка.
Райли подчеркивает, что системы контроля в человеческом мозге являются результатом миллионов лет биологической эволюции и тысячелетий культурного развития. по его мнению, для понимания человеческого мышления недостаточно рассматривать мозг только как вычислительную систему — необходимо учитывать его взаимодействие с окружающей средой и социальную природу человека.
Об угрозе потери навыков мышления в академической среде ранее предостерегал и американский историк Тимоти Снайдер. В конце сентября ученый призвал мировые университеты изменить подходы к преподаванию, вернув написание работ от руки и совместное чтение текстов непосредственно в аудитории.
