ChatGPT и окно контекста: почему 828 тысяч не всегда предел
В Codex на базе GPT-6.1 Sol пользователь увидел в настройках миллион токенов, а сам сервис в задачах показывал 828 400. Проверка показала: реальный порог длинного входа может быть выше, чем кажется по этому числу.
Откуда берётся число окна контекста
Автор заметки разобрался, как Codex определяет размер контекста, и нашёл его в кэше модели и в журналах задач. Для GPT-6.1 Sol сервис брал значение из каталога моделей: там есть обычное окно, максимальный предел и процент, по которому считается итоговое доступное окно.
Он проверил не один запуск, а сразу 40 последних задач. В 39 случаях для gpt-6.1-sol в событиях token_count фигурировало значение model_context_window: 828400. Это показывает, что число в интерфейсе — не просто ручная настройка, а параметр, который Codex получает от каталога модели и затем использует в работе.
Что показал тест с почти 900 тысячами токенов
Чтобы проверить границу на практике, автор временно подменил каталог моделей и поднял лимит до 900 000 токенов. После этого он прогнал синтетический ввод на 890 547 токенов с контрольными метками и получил успешный результат.
Но самый интересный момент в другом: контрольный запуск без правки тоже прошёл, хотя в нём Codex по-прежнему показывал окно 828 400. Тот же вход на 888 330 токенов был принят и обработан корректно. Значит, значение model_context_window не является жёстким потолком для одного очень длинного сообщения.
Что это значит для обычных пользователей
Из теста следует важный вывод: окно контекста в Codex — это не только про один входной текст, а скорее про объём истории, который система может держать до автоматического сжатия. Автор отдельно отмечает, что сам порог сжатия задаётся другим параметром — model_auto_compact_token_limit.
Для практики это полезно всем, кто работает с длинными файлами, большими переписками, кодом и черновиками документов. Если вы часто передаёте в ИИ много текста сразу, важно понимать разницу между «окном модели», «лимитом входа» и «сжатием истории»: по одному числу в настройках нельзя судить о реальной границе без проверки на своём сценарии.
Где здесь помогает ChatGPT и похожие сервисы
В таких задачах ИИ удобен не только для ответа на вопрос, но и для анализа больших объёмов данных: длинных логов, черновиков, спецификаций, переписок и инструкций. Это экономит время сотрудникам, маркетологам, студентам и разработчикам, которым нужно быстро понять, что именно система может «удержать» в памяти.
Если вы работаете с длинными документами, полезно тестировать сервис на своих примерах: сколько текста он принимает, где начинает сокращать историю и не теряются ли важные детали. Именно на практике, а не по одной цифре в настройках, лучше всего видно, подходит ли инструмент под вашу задачу.