Всё про ChatGPT

Как OpenAI ускоряет ChatGPT с помощью Performance Factory

Инженерная стойка с мониторами и распечатанными схемами рабочих процессов для ускорения ChatGPT

OpenAI рассказала о Performance Factory — системе, которая сама находит и помогает чинить проблемы с производительностью ChatGPT. По сути, это конвейер из рабочих процессов и Codex-агентов, который экономит время инженеров и быстрее возвращает сервису нормальную скорость.

Что такое Performance Factory

OpenAI создала Performance Factory, чтобы не тратить на разбор замедлений ChatGPT столько ручной работы, сколько раньше. Система работает в облаке и использует Codex и другие модели, чтобы автоматически искать причины падения скорости, собирать выводы и передавать задачу дальше по этапам.

Для обычного пользователя смысл простой: когда сервис начинает тормозить, команда может быстрее понять, что случилось, и быстрее выпустить исправление. Для бизнеса это важный пример того, как ИИ уже помогает не только генерировать текст, но и поддерживать сложные сервисы в рабочем состоянии.

Как раньше искали проблемы и что изменилось

До Codex инженерам приходилось вручную смотреть метрики, логи, трассировки, код и поведение серверов. Это занимало много времени и требовало глубокого знания системы: нужные сигналы легко было пропустить, а повторяющиеся проблемы приходилось разбирать снова и снова. Со временем команда собрала более 30 инструментов для таких расследований.

Потом Codex стал помощником: инженеры могли задавать ему вопрос о причине замедления и вместе разбирать проблему даже в незнакомом участке системы. Следующий шаг — перевод типовых действий в повторяемые навыки, например perf-forensics, который подсказывает агенту, какими инструментами пользоваться и как проверять возможные причины, включая изменения в деплое или конфигурации.

Как работает первый автоматизированный сценарий

Первый рабочий процесс в Performance Factory называется Regression Workflow. Когда срабатывает алерт о снижении производительности, агент начинает расследование, записывает выводы в задачу и предлагает исправление, которое затем проверяет инженер. После выкладки другой агент снова подхватывает ту же задачу и смотрит, вернулась ли скорость к норме.

За чуть больше чем три месяца этот процесс провел более 1 700 расследований и помог определить первопричину свыше 600 случаев. В среднем это 17 автоматических расследований в день. Для команд разработки это хороший ориентир: рутинные проверки можно вынести в систему, а людям оставить только решение действительно сложных случаев.

Зачем это может быть полезно не только OpenAI

Performance Factory показывает важный тренд: ИИ все чаще становится не просто чат-ассистентом, а частью внутренней операционной системы компании. Если процесс повторяется, его можно описать, разложить на шаги, подключить агента и встроить контроль человека там, где это действительно нужно.

Такой подход пригодится не только в инженерии. Похожие схемы можно применять в поддержке клиентов, аналитике, маркетинге и работе с данными: сначала автоматизировать поиск проблемы, потом — подготовку решения, а затем проверку результата. Именно поэтому сервисы на базе ИИ становятся полезны не только разработчикам, но и обычным командам, которым важно быстрее разбирать задачи и не терять время на рутину.

Частые вопросы

Что такое Performance Factory у OpenAI?
Это система автоматизированных рабочих процессов, которая помогает находить и устранять проблемы с производительностью в ChatGPT и других сервисах OpenAI.
Как в ней участвует Codex?
Codex запускает расследования, ищет причины замедлений, предлагает исправления и помогает проверять, сработало ли решение после выкладки.
Сколько задач уже обработал первый workflow?
За немногим более трех месяцев он провел свыше 1 700 расследований и определил первопричину более 600 случаев.
Чем это полезно обычным пользователям?
Пользователи не видят внутренние процессы, но в итоге получают более быстрый и стабильный ChatGPT, потому что команда быстрее находит и чинит проблемы.

Читайте также

Попробовать Lord GPT бесплатно →