Как один человек собрал свою платформу ChatGPT на домашнем железе
История разработчика, который начал с простого телеграм-бота с одной моделью, а за два года превратил его в полноценную AI-платформу. Сейчас система работает на домашнем железе под столом и уже умеет обслуживать несколько каналов, биллинг, голос и поиск по документам.
От кривого бота к полноценной платформе
Всё началось 26 августа 2024 года, когда автор получил первый токен у BotFather и сделал очень простой Telegram-бот. Он работал с одной моделью, не умел нормально хранить контекст и ломался на длинных сообщениях, но этим ботом уже пользовались дети и знакомые. После этого проект постепенно начал разрастаться.
Спустя два года из этой идеи выросла AI-платформа с веб-приложением, шестью каналами доставки, биллингом, голосовым агентом и RAG по документам. Сейчас в основе лежат 66 контейнеров на двух нодах, а рядом живут собственный CI, хелпдеск и GPU-нода с локальными моделями. Всё это размещено дома — на железе, которое стоит под столом.
Для обычного человека в этой истории важна не «крутость» инфраструктуры, а практический вывод: даже небольшой личный проект может незаметно превратиться в сервис с почти промышленными требованиями. Чем больше пользователей и сценариев, тем быстрее становится понятно, зачем нужны очереди, отдельные сервисы, резервирование и своя маршрутизация.
Зачем здесь микросервисы и отдельная сеть
Автор объясняет, что ядро платформы всё равно осталось монолитом на FastAPI, а контейнеры нужны не ради моды, а чтобы разносить по отдельным частям риск падений. Например, Telegram, VK, MAX, Discord, веб и интеграционный шлюз для n8n работают как отдельные входы. Если один канал упадёт, остальные продолжают жить.
Отдельно вынесены биллинг, медиа и файлы, воркеры очередей, голосовой агент, веб-поиск, детектор типов файлов и антивирус для загрузок. Вокруг ядра — PostgreSQL 17, Redis, MinIO и Qdrant. Такой подход полезен не только для больших команд: если вы делаете сервис для работы, учёбы или клиентов, разбиение по зонам отказа помогает не терять всё сразу из-за одной ошибки.
Самая необычная часть — домашняя сеть с BGP и MikroTik. Российский трафик идёт напрямую, а зарубежные AI-провайдеры маршрутизируются через несколько туннелей и ECMP. Это нужно, чтобы российские сервисы работали без лишней задержки, а зарубежные — стабильно и с резервированием. По сути, автор построил у себя дома схему, которая упрощает доступ к разным AI-сервисам и снижает число ручных настроек.
Что может пригодиться тем, кто делает AI-сервисы
Отдельный смысл статьи — экономика. Автор считает, что облако с GPU-инстансами для такой платформы обошлось бы примерно в 40–80 тысяч рублей в месяц даже при нулевом числе пользователей. Поэтому для соло-проекта без инвестиций домашнее железо оказывается логичным вариантом: один раз вложиться в оборудование и дальше платить в основном за электричество.
Есть и практический урок про обслуживание. Однажды Telegram-боты замолчали почти на сутки, хотя MAX и VK продолжали работать. Причина оказалась не в Telegram и не в туннелях, а в обновлении systemd-networkd, которое удалило чужие policy routing rules. Снаружи всё выглядело почти нормально, а проблема скрывалась глубже. Для бизнеса это важный сигнал: если у вас есть AI-бот, сервис поддержки или внутренняя автоматизация, нужно продумывать не только модели и интерфейс, но и то, как сеть, обновления и маршруты поведут себя после перезапуска.
В финале автор прямо пишет, что публикует опыт ещё и затем, чтобы получить комментарии и подсказки о возможных ошибках. Это хороший пример того, как сложный AI-проект можно развивать итерациями: сначала простой бот, потом каналы, хранилища, поиск по документам и, наконец, собственная инфраструктура, где всё под контролем.