Моя первая LoRA

Поставил тут обучаться свою самую первую нейросеточку! Ещё дней 10 будет обучаться :)

На самом деле это не совсем самостоятельная сеточка, а если правильно говорить - LoRA (Low-Rank Adaptation) к Qwen 3.5. Но всё же, для меня, человека не имеющего отношения к ИИ лабам - ощущение, что в космос полетел!

Кратко: взял несколько существующих датасетов с HF, добавил своей специфичной синтетики, нормализовал всё в один стабильный датасет (назвал, ultimate ибо вышел в итоге прям большой!). Вместе с GLM накидали адекватный Jupyter Notebook для обучения и пошла жара!

На самом деле был ещё один этап - тестовый прогон небольшого куска датасета примерно на 2.5 часа, за который хотя бы проверили что вся эта конструкция работает и Loss потихоньку сходится (ну как по тихоньку, сначала скакнул конечно, а потом уже потихоньку :) ). На графике выше не видно, но там буквально на первых 50 шагов средний loss рухнул с 1.5 до почти целевого 0.9 и там и топчется дальше. Вроде как, это хорошо и обучение идёт весьма стабильно!

Походу дела осознал уровень своей некомпетентности в вопросе и насколько же мне не хватает фундаментальных знаний в этой области. Но это не беда. Учиться новому я люблю и умею. Благо, книги соответствующие имеются, а бо́льшего мне и не надо!

Что за сеточка, расскажу наверное потом, когда эксперимент закончится или удачно или нет.