Продвинутые языковые модели впечатляют тем, как ловко они оперируют текстом, поддерживают диалог и подстраиваются под стиль собеседника. Но как только задачу усложняют не "знанием слов", а необходимостью удерживать цель и подавлять автоматический ответ, их устойчивость резко падает. Именно это показало новое исследование, опубликованное в PNAS Nexus: при росте когнитивной нагрузки современные ИИ-системы демонстрируют почти полный срыв в классическом психологическом тесте на контроль внимания.
Чтобы понять, почему результат оказался таким показательным, важно различать "внимание" в инженерном и психологическом смысле. Популярные модели наподобие ChatGPT построены на трансформерной архитектуре, где есть механизм attention - математическая процедура, распределяющая "вес" между фрагментами входного текста при предсказании следующего слова. Это мощный инструмент обработки последовательностей, но он не тождественен человеческому вниманию как способности удерживать намерение, сопротивляться помехам и гибко переключаться между правилами.
Работу возглавил Сукету Патель - докторант в области сравнительной и когнитивной психологии в Graduate Center Городского университета Нью‑Йорка. Исследование выполнялось в лаборатории Джин Фан в Queens College (CUNY). По словам Пателя, бурная реакция на появление современных LLM подтолкнула команду проверить "когнитивность" этих систем более строгим и каноническим способом. Модели иногда демонстрировали яркие успехи на одних задачах и неожиданную слабость на других, а также были склонны к галлюцинациям и конфабуляциям - поэтому требовался тест, который не зависит от красивого текста и "обаяния" ответа.
Выбор пал на задачу Струпа - классический эксперимент 1930‑х годов, измеряющий способность справляться с конфликтующей информацией. В типичной версии человеку показывают слово (например, "СИНИЙ"), напечатанное чернилами другого цвета (например, красными), и просят назвать именно цвет чернил, а не прочитать слово. Ключевой момент здесь не "ум" и не рассуждение высокого уровня: задача напрямую бьет по конфликт-резолюции и торможению доминирующего, автоматического ответа.
У людей чтение слова - почти рефлекс: навык настолько натренирован, что срабатывает первым и сильнее всего, становясь так называемой преобладающей реакцией. Чтобы назвать цвет, требуется активное подавление этого импульса и удержание инструкции. Исследователи подчеркнули, что у ИИ ситуация отчасти аналогична: языковая модель "натренирована" прежде всего на распознавании и продолжении текста, а не на назывании визуального свойства, которое нужно извлечь из изображения и при этом не "скатиться" в чтение.
Команда проверила две ведущие системы: GPT‑4o от OpenAI и Claude 3.5 Sonnet от Anthropic. Моделям давали изображения со словами и просили либо прочитать сами слова, либо назвать физический цвет текста. Эксперимент включал пять условий: совпадающие слово и цвет (конгруэнтное), несовпадающие (инконгруэнтное), смешанное, нейтральные офисные слова, а также строки из буквы "X" (чтобы убрать смысловое чтение и оставить только визуальную обработку).
Главным рычагом усложнения стала не хитрость формулировок, а нагрузка на удержание цели. Исследователи варьировали количество стимулов в одном изображении - от 1 до 40 слов. Так они проверяли, способны ли модели сохранять правило ("называй цвет" или "читай слово") в длинном контексте, фильтруя помехи и не поддаваясь на конфликт.
На коротких наборах - один или пять элементов - обе модели вели себя похоже на людей: чтение слов давалось легко, а в режиме называния цвета наблюдалось ожидаемое небольшое ухудшение на несовпадениях. Но по мере роста списка проявилась принципиальная слабость: в инконгруэнтном условии, где нужно подавлять автоматическое "чтение", эффективность резко просела, а на длинных списках фактически "обрушилась". Иными словами, когда требовалась длительная, стабильная работа исполнительного контроля, системы не удерживали инструкцию на протяжении всего задания.
Авторы интерпретируют это как свидетельство того, что сегодняшним ИИ недостает человеческоподобного исполнительного контроля - компонента внимания, который позволяет переопределять "реакцию по умолчанию", удерживать цель и разрешать конфликт между конкурирующими сигналами. В человеческой психологии внимание часто описывают через три частично пересекающиеся системы: настороженность (alerting), ориентировку (orienting) и исполнительный контроль (executive control). Эксперимент был задуман как проверка того, есть ли у моделей функциональные аналоги всех трех - и именно третий компонент выглядит наиболее проблемным.
Почему это важно за пределами лаборатории? Потому что многие практические сценарии - от анализа документов до управления инструментами - требуют не просто "сгенерировать правдоподобный текст", а последовательно выполнять правило в присутствии помех. Длинный контекст, смешанные требования, противоречивые подсказки и визуально-текстовые конфликты - типичная реальность рабочих задач. Если система теряет цель по мере роста нагрузки, она может уверенно выдавать ответы, которые выглядят связно, но нарушают инструкцию.
Этот результат также подсвечивает разницу между "следованием инструкции" и "устойчивым контролем поведения". В диалоге модель может казаться дисциплинированной, пока задача короткая и однородная. Но когда в одном запросе много однотипных элементов или появляется регулярный конфликт (как в Струпе), проявляется иной режим работы: не "я держу цель", а "я реагирую на наиболее вероятный паттерн". Для языковой модели таким паттерном часто становится чтение слова - то, на чем она тренировалась больше всего.
Отдельный урок - про оценку "умности" ИИ. Тесты на общие знания, рассуждение или креативность часто допускают компенсаторные стратегии: модель может "обойти" задачу, угадать намерение или подстроиться под статистику. Канонические психологические парадигмы ценны тем, что они точечно проверяют конкретный механизм - например, торможение преобладающей реакции - и плохо поддаются "словесному обаянию". Поэтому подобные эксперименты могут стать важной частью будущих бенчмарков, особенно если речь идет о претензиях на зачатки общего интеллекта.
Есть и практические выводы для разработчиков. Если обрушение происходит при росте длины списка, значит, модели могут нуждаться в специализированных механизмах поддержания цели: явных внутренний "state", более жестких контроллеров, внешней памяти, проверок по ходу выполнения, а также в обучении, где вознаграждается не только правильный финальный ответ, но и стабильность правил на каждом шаге. В прикладных продуктах это может выражаться в разбиении задачи на блоки, промежуточной верификации и ограничении "пакетной" обработки конфликтных стимулов одним заходом.
Наконец, важно помнить об ограничениях таких сравнений. Трансформерное attention - это не тот же самый процесс, что нейронные сети человеческого мозга, и не факт, что ИИ обязан "копировать" биологию, чтобы быть эффективным. Но если цель - системы, способные надежно удерживать сложные намерения в реальном мире, то дефицит исполнительного контроля становится не философской проблемой, а инженерным риском: там, где нужен устойчивый самоконтроль, статистическая языковая беглость может оказаться недостаточной.
Исследование в PNAS Nexus дает четкий сигнал: нынешние передовые модели великолепно "разговаривают", но при росте когнитивной нагрузки - особенно когда требуется подавлять автоматическую реакцию и удерживать правило - они могут терять устойчивость почти полностью. И именно эта способность, а не красноречие, выглядит одним из ключевых узких мест на пути к более универсальному искусственному интеллекту.
