Когнитивные ограничения ИИ: что мешает моделям мыслить по-настоящему
Генеративные и агентные системы уже умеют писать код, вести диалог и решать узкие задачи. Но при попытке использовать их в долгосрочных проектах или нестандартных ситуациях быстро обнаруживается: за внешней беглостью часто скрывается отсутствие устойчивого рассуждения, памяти и самоконтроля. Недавний обзор, представленный на arXiv (2608.02553), предпринял попытку систематизировать эти проблемы и наметить путь от «умных исполнителей» к системам с настоящими когнитивными способностями.
Авторы работы — Taye Akinrele, Sindhuja Penchala, Noorbakhsh Amiri Golilarz, Sudip Mittal и Shahram Rahimi — собрали и классифицировали исследования, посвящённые разрывам между текущими возможностями ИИ и тем, что требуется для когнитивного поведения. Вместо простого перечисления недостатков они предложили таксономию, которая охватывает пять ключевых измерений. Это не просто теоретическая схема: она позволяет разработчикам видеть, какие именно способности остаются фрагментированными и где стоит сосредоточить усилия.
Пять измерений когнитивного разрыва
Первое измерение — моделирование устойчивого состояния (persistent state modeling). Речь идёт о способности системы сохранять и обновлять внутреннюю картину мира на протяжении длительного времени. У большинства современных моделей контекст ограничен окном внимания, поэтому они «забывают» ранние взаимодействия или не могут правильно связать текущие события с прошлыми. Это критично для задач, требующих планирования и последовательных решений.
Второе измерение — целевая автономия (goal-directed autonomy). Модель может сформулировать цель, но удержать её в процессе выполнения сложного сценария — совсем другое дело. Часто агент отклоняется от намеченного плана при первом же неожиданном результате, потому что не умеет корректировать стратегию без внешнего вмешательства.
Третье измерение — самоконтроль и контроль (self-monitoring and control). Сюда входят способности оценивать собственные действия, замечать ошибки, сомневаться в ответах и регулировать уверенность. Современные генеративные модели часто демонстрируют неуместную самоуверенность, а механизмы внутренней проверки либо отсутствуют, либо работают лишь как дополнительный постпроцессинг.
Четвёртое — взаимодействие со средой (environment interaction). Чтобы действовать в реальном мире, агент должен не только получать обратную связь, но и активно экспериментировать, исследовать пространство состояний и извлекать пользу из неудач. Сейчас большинство систем обучаются на статических наборах данных и не умеют по-настоящему «щупать» среду в режиме реального времени.
Пятое измерение — обучение и адаптация (learning and adaptation). Это способность менять своё поведение на основе нового опыта, а не только дообучаться на размеченных примерах. Пожизненное обучение, перенос навыков между задачами и устойчивость к изменению условий остаются открытыми проблемами.
Архитектура ACIA и когнитивно-ориентированная оценка
Чтобы объединить все пять направлений, авторы предлагают концептуальную архитектуру Adaptive Cognitive Intelligence Architecture (ACIA). Это не готовый продукт, а скорее рамочное решение: она описывает, как модули устойчивого состояния, целеполагания, самоконтроля, взаимодействия со средой и обучения могут быть связаны в единую систему. Такая архитектура, по замыслу авторов, должна стать основой для будущих экспериментов и инженерных разработок.
Отдельное внимание в обзоре уделяется оценке, ориентированной на когнитивные способности (cognition-centric evaluation). Традиционные бенчмарки проверяют точность на отдельных задачах, но не измеряют, способна ли система поддерживать рассуждение на длинной дистанции, адаптироваться к новому или контролировать собственные действия. Новый подход предполагает, что тесты должны строиться вокруг именно этих когнитивных функций, иначе прогресс в области будет оцениваться некорректно.
Что дальше?
Таксономия из обзора — это попытка навести порядок в разрозненных исследованиях. Вместо того чтобы собирать отдельные «фишки» вроде улучшенной памяти или нового механизма внимания, разработчики получают общую карту проблем. Это особенно важно на пути к Cognitive AI и, в перспективе, к Artificial General Intelligence (AGI).
Пока же генеративные и агентные модели остаются мощными, но ограниченными инструментами. Они отлично справляются с задачами, где не требуются устойчивое состояние, внутренняя критика и длительное целеполагание. Однако настоящего мышления — с его способностью к саморегуляции, обучению на опыте и адаптации в непредсказуемой среде — им всё ещё не хватает. Систематизация этих ограничений — первый шаг к тому, чтобы превратить их из маркетингового обещания в инженерную реальность.
