ChatGPT и корпоративный AI Firewall: что требуют заказчики
Корпоративный ИИ уже живёт не только в одном пилотном отделе: к моделям идут запросы из IDE, внутренних ассистентов, агентных сценариев и даже из «теневых» чатов сотрудников. Из-за этого заказчики всё чаще просят не просто фильтр для ChatGPT, а полноценный контур контроля с защитой данных, денег и доступа к инструментам.
Почему обычного фильтра уже мало
В компаниях генеративный ИИ стал частью повседневной работы, а не отдельным экспериментом. Поэтому и риски стали практическими: промпт-инъекции, утечка персональных данных во внешнюю модель, лишние траты токенов и действия ИИ-агента без нужных прав.
Именно из-за этого CISO и владельцы ИТ-систем смотрят не на одну функцию «ловить jailbreak», а на всю схему управления. Им важно понимать, где стоит точка контроля, что будет при сбое анализа и как быстро заметить, если какой-то сервисный аккаунт начал сжигать бюджет.
Каким заказчики хотят видеть AI Firewall
По сути речь идёт о контроле в разрыв трафика: через API-шлюз, прозрачный прокси, sidecar, браузерное расширение или клиент на конечной точке. При этом защита не должна ломать работу ассистентов и агентов, а также должна выявлять сотрудников, которые обходят корпоративный контур и идут в публичные ИИ-чаты.
Отдельное требование — каталог моделей. За одним названием может стоять локальный vLLM, GigaChat или внешний провайдер, и у каждого варианта должны быть свои правила, лимиты, стоимость и метка размещения. Обычно заказчики сразу закладывают поддержку Anthropic, OpenAI, DeepSeek, а также GigaChat, YandexGPT, Ollama, vLLM и llama.cpp.
Что ещё входит в жёсткие требования
Важная часть — многоступенчатый конвейер безопасности: нормализация, правила, небольшие модели, затем отдельная проверка спорных случаев. Система должна учитывать русскоязычную морфологию, гомоглифы, вложенные инъекции из файлов и почты, а также данные из RAG, OCR, речи и офисных форматов.
Не меньше внимания уделяют данным и деньгам. Заказчики хотят маскирование ИНН, СНИЛС, паспортов, полисов и других чувствительных сведений, причём не только в самом ответе, но и в истории диалога и кратком саммари. Плюс нужны роли, команды, квоты и бюджетные лимиты, которые проверяются до вызова модели, чтобы не допустить лишние запросы и не потерять контроль над расходами.