ChatGPT и AnythingLLM: чат по своим документам без подписки
AnythingLLM предлагает собрать приватный чат по своим файлам и не зависеть от подписки OpenAI. Инструмент умеет работать с документами локально или через облачные модели и подходит тем, кому нужно быстро искать ответы внутри своей базы знаний.
Что умеет AnythingLLM и зачем он нужен
AnythingLLM — это open-source приложение, которое превращает папку с PDF, договорами, конспектами и внутренними инструкциями в рабочую базу знаний. Вместо того чтобы вручную пересылать файлы в ChatGPT и упираться в лимит контекста, пользователь загружает документы в workspace и задаёт вопросы по ним прямо в чате.
Полезнее всего это для юристов, аналитиков, разработчиков и небольших команд, у которых много текстов, но нет желания отдавать их в публичные облака. Приложение можно поставить на Mac, Windows или Linux как десктоп-версию, а можно развернуть на сервере через Docker и использовать в командной работе.
Как оно работает с документами и моделями
В AnythingLLM есть два режима работы с файлами. Если просто прикрепить документ к чату, его полный текст попадёт в контекст модели, и это быстро упрётся в ограничения. Более удобный вариант — Embed: документ режется на фрагменты, превращается в векторное представление и ищется только по релевантным кускам. Это и есть практический RAG-подход, который помогает работать даже с объёмными материалами.
По умолчанию векторы хранятся во встроенной LanceDB, но при необходимости можно подключить и другие базы: PGVector, Chroma, Milvus, Pinecone, Qdrant, Weaviate и AstraDB. Само приложение умеет работать с Ollama, OpenAI, Anthropic, Google, Azure и Bedrock, а через Generic OpenAI подключаются и совместимые шлюзы, включая Bothub.
Что нового и где есть нюансы
В версии 1.13.0 появился Model Router: он может сам выбирать, какую модель отправить на конкретный запрос. Простые вопросы можно отдавать более дешёвой модели, а сложные — флагманской облачной, при этом правила настраивает сам пользователь. В той же версии добавили Scheduled Jobs, чтобы агент мог запускаться по расписанию и делать повторяющиеся задачи без участия человека.
При этом у AnythingLLM есть порог входа: нужно разобраться с чанкингом, эмбеддингами и настройками поиска. Ещё важно следить за обновлениями безопасности — в 2026 году обнаружили несколько уязвимостей, включая CVE-2026-48116, которая может позволить выполнить произвольную команду внутри Docker-контейнера. Для тех, кто хочет быстро попробовать сервис без подписки OpenAI и лишних сложностей, такой инструмент может стать удобной альтернативой для работы с собственными документами.