Обучающее приложение, которое пошагово показывает, как устроены языковые модели — от простого чат-бота до обучения трансформера с нуля.
Пользователь проходит пять разделов: простой чат-бот на правилах, нейросеть с обратным распространением ошибки, токенизатор, обучение векторных представлений слов и обучение GPT-подобной модели — с рабочим кодом, который можно запустить локально. Подходит тем, кто хочет разобраться в основах машинного обучения через практику, а не только теорию.
Описание автора:An interactive app that walks through every stage of the LLM pipeline, from pattern matching to training a transformer from scratch, with working code you can run locally.