Как запустить локальный генератор картинок на sd-server
В четвёртой части руководства по локальному AI-стеку автор показывает, как собрать stable-diffusion.cpp и поднять сервер генерации изображений на порту 8888. В итоге получается локальный генератор, доступный из сети LAN, без облачных сервисов.
Почему для картинок нужны сразу три файла
stable-diffusion.cpp устроен не так, как обычные языковые модели: для запуска одной картинки ему мало только основной модели. Здесь нужны три обязательных компонента — сама diffusion-модель, VAE и текстовый энкодер (LLM). Если убрать хотя бы один из них, сервер не стартует и выдаёт ошибку про не загруженный VAE или text encoder.
Смысл этой схемы простой. Диффузионная модель отвечает за сам процесс создания изображения из шума, VAE переводит латентное представление в пиксели, а текстовый энкодер превращает промпт в понятный модели вектор. Именно поэтому для картинок набор файлов больше, чем для чата, но зато можно переиспользовать часть компонентов между разными моделями одной архитектуры и экономить место на диске.
Как разложить модели по папкам
В статье показан удобный способ хранения файлов. Diffusion-модели лежат в models/media/ как есть, VAE — в отдельной папке models/media/vae/<модель>/, а text encoder — в общей папке models/ вместе с чат-моделями. Для некоторых моделей может понадобиться ещё tokenizer, который можно положить рядом с VAE и указать отдельно.
Для запуска автор приводит три ключевых флага: --diffusion-model, --vae и --llm. Без любого из них загрузка не получится. Перед стартом полезно проверить, что все файлы действительно на месте, с помощью команды ls, чтобы не тратить время на поиск ошибки уже после запуска сервера.
Какие модели оставили после тестов
Автор протестировал пять диффузионных моделей и в итоге оставил две: Z-Image Turbo и Mage-Flow Turbo. Именно они лучше всего закрывают основные задачи и работают достаточно быстро. Z-Image оказался удобен для быстрых итераций: примерно 11 минут на картинку 576×1024, хорошая композиция и точная передача цвета и одежды.
Mage-Flow Turbo дольше держать на CPU не приходится, хотя сама модель тяжелее: примерно 7 минут на изображение при четырёх шагах. Она особенно хорошо справилась с epic-сценами, драконами, кристаллами и светом, а ещё неплохо показала себя в anime. Остальные варианты либо слишком медленные, либо чаще ловят нехватку памяти, либо дают заметно хуже результат на практике.
Чем это полезно в обычной работе
Такой локальный сервер пригодится тем, кто хочет генерировать картинки без внешних облачных сервисов и держать всё у себя в сети. Это удобно для экспериментов с промптами, быстрых черновиков для маркетинга, тестов визуальных идей и повторяемых задач, где важно не платить за каждый запуск и не зависеть от чужой платформы.
По сути, это практичный вариант для тех, кто хочет собрать свой небольшой генератор изображений на Linux и использовать его в локальной сети. Если вы уже работаете с ИИ-сервисами для текста, то следующий шаг — собрать аналогичный рабочий инструмент и для картинок, чтобы ускорить рутину внутри команды.