Промпты лучше хранить как код, а не как строку
В одной из команд 203 килобайта промптов хранятся не в коде, а в YAML-файлах в репозитории — с ревью, историей изменений и выкладкой вместе с релизом. Такой подход помогает не терять контроль над тем, как именно модель отвечает, и быстрее безопасно улучшать качество выдачи.
Почему промпт — это не просто текст
Авторы статьи подчеркивают: промпт в рабочем проекте — это не отдельная фраза, а целый набор настроек, который определяет поведение системы. В одном файле могут жить провайдер, модель, параметры генерации, шаблоны на разных языках и ожидаемый формат ответа.
Это важно на практике, потому что один и тот же текст с разной температурой уже дает разный результат. Если часть настроек лежит в коде, а часть — в файле, потом трудно восстановить вчерашнее поведение и понять, что именно изменилось.
Почему промпты вынесли в репозиторий
Сначала командa попробовала редактировать промпты через админку, но быстро столкнулась с типичными проблемами: на проде и стейдже расходились версии, было непонятно, кто и зачем правил текст, а откат делался почти вручную. Git решил эти вопросы: появился ревью-процесс, история правок и понятный дифф.
За это пришлось заплатить тем, что править промпт теперь может только тот, кто умеет работать с коммитами. Для команды это оказалось приемлемой ценой, потому что промпт меняют часто и небольшими итерациями, а не раз в спринт.
Шаблоны, безопасность и локали
Внутри промпта используется шаблонизатор: в пример взят Blade, который позволяет подставлять историю сообщений, условия и циклы. Но здесь есть важная граница безопасности: сначала рендерится доверенный шаблон из репозитория, а уже потом в готовый текст подставляются пользовательские данные.
Это сделано специально, чтобы не допустить инъекций. Если дать пользователю влиять на сам шаблон, можно случайно открыть доступ к серверным данным. Отдельно авторы отмечают, что промпты существуют в нескольких локалях, и это не просто перевод: для разных языков часто нужны свои инструкции, формат и ограничения. Поэтому полезно проверять, что шаблоны есть во всех версиях, а набор подстановок в них совпадает.
Что дает такой подход бизнесу и команде
Для бизнеса это способ сделать ИИ-поведение управляемым: можно отдельно версионировать качество ответов, безопасно откатывать изменения и тестировать разные варианты без хаоса в продакшене. Для команды поддержки, маркетинга или продукта это особенно ценно, когда модель отвечает на обращения клиентов, пишет тексты или помогает с классификацией запросов.
Еще один вывод из статьи — в промптах стоит сразу закладывать работу с моделями, которые поддерживают JSON-схемы по-разному. Если система умеет деградировать по нескольким уровням поддержки, ей проще переживать смену провайдера или версии модели без полной переделки логики.