Claude и локальные LLM проверили перевод книг на RTX 5060 Ti
Автор сравнил локальные языковые модели с облачными сервисами на переводе текстов на русский — от новостей и техдоков до художественной литературы и древних трактатов. Главный вывод простой: для обычных задач качество уже близко к практическому, но сложные тексты все еще требуют сильной модели, редактуры и времени.
Что именно тестировали
Проверка строилась не на одном примере, а на разных типах текстов и языков. В тест попали английский, испанский, китайский и иврит, а сами материалы включали новости, медицину, техдокументацию, форумы, художественные главы, стихи и даже очень старые религиозные и философские тексты.
Чтобы оценка была честнее, автор сначала делал эталонный перевод через Claude, а затем просил Claude и OpenAI выступить в роли судей и сравнить результаты локальных моделей. Отдельно измеряли качество и скорость: для браузера важна быстрая работа, а книгу можно переводить и ночью, если результат того стоит.
Какие модели и железо использовались
Тестировали локальные модели на довольно скромной, по меркам таких задач, машине: NVIDIA GeForce RTX 5060 Ti с 16 GB VRAM, Core Ultra 7 265 и 96 GB DDR5. Автор специально хотел понять, на что можно рассчитывать без облака, когда важны бюджет, стабильность доступа и ограничения по копирайту.
Среди участников особенно выделилась Qwen3.8-Flash-Next. Она стала одним из лидеров почти во всех категориях: хорошо справлялась с английским, испанским, китайским, ивритом и классическим ивритом. При этом модель требует много оперативной памяти, но даже в более компактных режимах способна выдавать заметную скорость.
Где локальные модели уже полезны, а где нет
По результатам теста локальный ИИ уже может закрывать повседневный перевод сайтов, статей и не слишком специфичных текстов. Для чтения по работе, для быстрого понимания документа или статьи этого часто достаточно, особенно если нужен не литературный шедевр, а понятный смысл.
Но сложная художественная проза, стилистические нюансы, местные реалии и особенно древние или странные тексты по-прежнему остаются проблемой. Автор отдельно отметил, что на части материалов модели могут оставлять непереведенные фрагменты или путаться в режиме рассуждения, а самым сложным для локального перевода оказался один из каббалистических текстов.