ТГУ выложил 8 бесплатных лекций по NLP и трансформерам
Доцент ТГУ Михаил Пожидаев опубликовал серию из восьми лекций по обработке естественного языка — от базовых приёмов до GPT и оценки качества моделей. Записи доступны бесплатно, а курс будет полезен тем, кто хочет разобраться, как устроены современные языковые модели без лишней теории вокруг.
Что вошло в курс
В основе курса — около десяти часов записанных лекций, сделанных по материалам живых занятий в Томском государственном университете. Автор подчёркивает, что много лет делает акцент на трансформерах — именно они лежат в основе большинства современных языковых моделей.
В первой части разбираются базовые вещи: токенизация, сегментация, стемминг, лемматизация, TF-IDF и алгоритм Витерби. Дальше курс постепенно переходит к векторам слов, рекуррентным сетям, механизму внимания, устройству трансформера и GPT, а в конце — к тому, как оценивать качество языковых моделей и почему в этой теме так много споров.
Чем это может быть полезно
Курс рассчитан не только на студентов, но и на тех, кто работает с текстами, продуктами или ИИ-инструментами и хочет понимать, что скрывается за знакомыми словами вроде attention, embeddings, RAG или tool calling. Такое понимание помогает лучше выбирать сервисы, точнее ставить задачи разработчикам и не путаться в маркетинговых обещаниях.
Отдельно автор оставил один блок про harness — по его словам, этой теме сегодня и так уделяют очень много внимания, поэтому она рассмотрена только в рамках одной лекции. Такой подход делает курс более приземлённым: сначала даётся фундамент, а уже потом — более свежие прикладные темы вроде агентов, памяти и оркестрации.
Как посмотреть записи
Все восемь лекций выложены на сайте marigostra.ru и доступны свободно: их можно смотреть онлайн или скачивать. Материалы распространяются по лицензии CC BY-NC 4.0.
Публикация записей согласована с руководством ТГУ, а сам Михаил Пожидаев просит оставлять замечания и предложения по курсу. По его словам, цель публикации — сделать обучение лучше и со временем доработать содержание на основе обратной связи.