Claude и другие LLM сбиваются в длинных текстах
Исследователи из Allen Institute for AI показали, что даже сильные LLM заметно теряют точность, когда задача требует следить за цепочкой изменений в длинном контексте. На простых вариантах модели справляются уверенно, но на сложных сценариях результат у лучших систем падал до 13% и ниже.
Что именно проверяли исследователи
Команда Allen Institute for AI хотела понять не просто пределы больших языковых моделей, а то, где именно они начинают путаться в информации о состоянии объектов. В фокусе были задачи, похожие внешне, но отличающиеся по сложности: в одних достаточно найти нужный фрагмент текста, а в других нужно проследить, как объект менялся по ходу всей последовательности.
Это важно для реальных сценариев вроде чтения кода, анализа длинных инструкций или разбора историй с множеством персонажей и перемещений. В таких задачах недостаточно увидеть одно упоминание — нужно удержать в памяти всю цепочку изменений.
Почему «найти» и «отследить изменения» — не одно и то же
Авторы объясняют разницу на простых примерах. Если в тексте сказано, что Джон передал Мэри нож, то ответ можно получить, найдя последний релевантный эпизод. Но если перед этим Эдвард положил нож в рюкзак Джона, а потом предмет передавался дальше, модель должна собрать воедино несколько событий, чтобы определить итоговое состояние.
Именно такие задания относятся к state tracking — отслеживанию состояния. Для человека это похоже на слежение за вещью, которая многократно переходит из рук в руки, а для модели — на необходимость учитывать не только слова, но и историю изменений.
Что показал новый тест StateBench
Чтобы сравнить архитектуры честнее, исследователи собрали StateBench — набор тестов из четырех уровней. На первом уровне переменная получает значение и больше не меняется. На втором важно найти последнее обновление. На третьем новое значение зависит от предыдущего. На четвертом уже появляются связи между разными переменными, а задача становится заметно сложнее.
Интересная деталь в методике: авторы брали самые сложные последовательности и превращали их в более простые версии, сохраняя структуру данных и расположение операций. Так можно было сравнивать именно типы обновлений, а не случайные различия между примерами.
Как вели себя разные модели
В тестах участвовали открытые модели Olmo 3 с 7 млрд параметров и Olmo Hybrid того же размера, а также более компактные версии на 275 млн и 2,7 млрд параметров. Все они обучались на одинаковых данных, но ни одна не видела контексты длиннее 64 тысяч токенов. При этом часть тестов выходила за эти пределы.
Результат оказался довольно наглядным: почти все модели хорошо справлялись с самыми простыми заданиями, но на более сложных уровнях точность быстро падала. Особенно заметно различие проявилось между трансформерами и рекуррентными или гибридными архитектурами после специального обучения: чем длиннее последовательность, тем сильнее расходились их результаты. Для обычного пользователя это напоминание, что у ИИ есть слабое место — длинные цепочки взаимосвязанных изменений. Поэтому в рабочих задачах, где важна точность, лучше разбивать длинные процессы на части и проверять итог не одним запросом, а пошагово.