Индустрия ИИ часто сравнивает мозг с компьютером: Демис Хассабис называет его «биологическим приближением к машине Тьюринга», а Илон Маск — биологическим компьютером. Автор считает такое сравнение упрощением.
Вычислительная модель описывает мышление как алгоритм: вход, обработка, выход. Она помогла развить нейросети, но искажает картину. Джон фон Нейман сомневался, что она передаёт сложность нервной системы.
Нейробиолог Пол Сисек предлагает видеть в мозге систему обратной связи и контроля. Мы не просто получаем сигналы, а действуем, чтобы изменить их. Похоже разум описывал ещё Джон Дьюи.
Пример — ловля мяча в бейсболе. По вычислительной модели игрок бессознательно считает скорость и гравитацию. По модели обратной связи он просто держит мяч в одной точке поля зрения и двигается соответственно.
Эта модель лучше соответствует эволюции мозга: новые способности возникали вместе с новыми возможностями среды. Например, рост подвижности позвоночных привёл к появлению гиппокампа и эпизодической памяти.
Вторая важная петля обратной связи — социальная. Сотни тысяч лет назад предки научились подражать друг другу, затем появились язык, оседлость, письменность, школы, рынки, право и демократия.
Но культурные изменения иногда вредят. Жирная пища была редкой и ценной, и мы научились её запасать. Теперь её полно, и хот-дог забивает артерии. ИИ — когнитивный хот-дог: удобен сейчас, но подрывает способность формировать знания.
Вредно не разовое использование, а превращение ИИ в постоянный рацион. Именно к этому ведут техногиганты: OpenAI хвастается, что более половины из 900 млн ежемесячных пользователей ChatGPT — учащиеся, а Anthropic запустила «Claude for Teachers».
Франсуа Шолле называет ИИ инструментом «когнитивной автоматизации». Калькуляторы и письмо тоже автоматизировали задачи, но ещё никогда технологию не создавали так явно для замены человеческого мышления.
Данные из образования тревожны: студенты используют ChatGPT, чтобы избежать усилий, необходимых для прочных знаний. В Китае тысячи учащихся фактически перестали делать домашние задания, и это навредило обучению.
Есть и свидетельства, что учёба с LLM приучает ослаблять критическое мышление и в других ситуациях. Исследователи называют это когнитивным делегированием: чем шире оно распространяется, тем проще и привлекательнее становится.
Они предлагают «когнитивную иммунизацию»: самостоятельное решение задач, проверку, критические дискуссии и осознанные перерывы от ИИ. Такие институты мы называем школами.
Политика уже реагирует: Норвегия запретила почти любое использование ИИ в школе для детей до 13 лет, профсоюз учителей в США требует запретить чат-боты в начальной школе, запреты ввели Лос-Анджелес и Нью-Йорк.
Растёт и сопротивление: выпускники освистывают ораторов, хвалящих ИИ, а студенты Oberlin Luddite Club написали президенту университета открытое письмо против внедрения ИИ.
Системы контроля в мозге сформированы миллионами лет эволюции и тысячелетиями культуры. Нужно выйти за рамки компьютерной модели разума и не злоупотреблять когнитивным фастфудом.