ai_learning/modules/14_llm_finetuning/README.md

Модуль 14. Fine-tuning и специализированные LLM

Плановый срок: недели 33–35.

Предварительные знания

Токенизация, causal LM, attention и оценка генерации из модуля 13, training loop и базовый PyTorch.

Цели

• понимать pretraining, supervised fine-tuning, PEFT/LoRA и quantization
• готовить качественный датасет инструкций
• отличать fine-tuning знаний от RAG и выбирать подход

Уроки

1. Pretraining, instruction tuning, preference alignment и data curation
2. Full fine-tuning, LoRA/QLoRA и quantization
3. Evaluation, hallucinations, RAG, безопасность и лицензии

Термины модуля: глоссарий.

Для каждого урока: прочитайте теорию, воспроизведите ключевой пример своими руками и запишите три тезиса без подсказки. Формулы из этого модуля нужно уметь связать с кодом и наблюдаемым поведением модели.

Задания

• assignments/01_dataset.md — Датасет для узкой LLM
• assignments/02_lora.md — LoRA fine-tuning малой модели
• assignments/03_rag_vs_finetune.md — RAG или fine-tuning

Завершение модуля

Модуль завершён, когда все задания удовлетворяют критериям приёмки, вы можете объяснить основные решения без ноутбука и получили review.