ai_learning/THEORY_INDEX.md

# Индекс теоретических материалов

Здесь собраны все **59 конспектов модулей 00–17** и четыре общие
фундаментальные главы. Читайте конспекты офлайн по порядку, затем переходите к
заданиям соответствующего модуля. Обозначения сверяйте с
[`common/NOTATION.md`](common/NOTATION.md), термины — с
[`GLOSSARY.md`](GLOSSARY.md).

## Общие фундаментальные главы

Рекомендуемый порядок:

1. [Дифференциальное и матричное исчисление](common/foundations/calculus_and_matrix_calculus.md)  
   Предпосылки: школьная алгебра, обозначения.
2. [Численная устойчивость](common/foundations/numerical_stability.md)  
   Предпосылки: базовая алгебра и представление чисел в компьютере.
3. [Сложность и вычисления](common/foundations/complexity_and_computation.md)  
   Предпосылки: базовый Python.
4. [Теория информации](common/foundations/information_theory.md)  
   Предпосылки: модуль 03 или базовая теория вероятностей.

Шаблон новых конспектов: [`common/NOTE_TEMPLATE.md`](common/NOTE_TEMPLATE.md).
Он включает мотивацию, интуицию, определения, выводы, пример, связь с Python,
ошибки, резюме и связанные материалы — без вопросов для самопроверки.

## Модули 00–17

### 00. Среда и Git

Предпосылки: отсутствуют.

1. [Python-окружения, зависимости и устройство проекта](modules/00_environment/notes/01_python_environments.md)
2. [Git: коммиты, ветки, diff и исключение больших данных](modules/00_environment/notes/02_git_reproducibility.md)
3. [Jupyter и модули: seed, конфигурация и логирование](modules/00_environment/notes/03_jupyter_seeds_logging.md)

### 01. Python и NumPy

Предпосылки: модуль 00; полезна глава о сложности.

1. [Функции, классы, итераторы, comprehensions и исключения](modules/01_python_numpy/notes/01_python_data_model.md)
2. [Массивы NumPy: shape, axis, dtype, indexing и broadcasting](modules/01_python_numpy/notes/02_numpy_arrays.md)
3. [Векторизация, сложность, профилирование и модульные тесты](modules/01_python_numpy/notes/03_vectorization_testing.md)

### 02. Линейная алгебра

Предпосылки: модуль 01; обозначения и базовая алгебра.

1. [Векторы, нормы, скалярное произведение, проекции и косинус](modules/02_math_linear_algebra/notes/01_vector_geometry.md)
2. [Матрицы, ранг, обратная матрица и системы уравнений](modules/02_math_linear_algebra/notes/02_matrices_systems_rank.md)
3. [Собственные значения, SVD, обусловленность и мост к PCA](modules/02_math_linear_algebra/notes/03_eigen_svd_conditioning.md)

### 03. Вероятность и статистика

Предпосылки: модули 01–02.

1. [Вероятность, Байес, ожидание и распределения](modules/03_probability_statistics/notes/01_probability_bayes_distributions.md)
2. [Выборки, LLN, CLT, bootstrap и доверительные интервалы](modules/03_probability_statistics/notes/02_sampling_lln_clt_bootstrap_ci.md)
3. [Проверка гипотез, p-value, мощность и A/B-тесты](modules/03_probability_statistics/notes/03_hypothesis_testing_ab.md)

### 04. Оптимизация

Предпосылки: модули 02–03; глава об исчислении.

1. [Производные, градиент и поверхности потерь](modules/04_optimization/notes/01_derivatives_and_loss_surfaces.md)
2. [GD, SGD, momentum, RMSProp и Adam](modules/04_optimization/notes/02_optimizers.md)
3. [L1, L2, Elastic Net, early stopping и bias–variance](modules/04_optimization/notes/03_regularization_bias_variance.md)

### 05. Данные и визуализация

Предпосылки: модули 01 и 03.

1. [pandas и качество табличных данных](modules/05_data_and_visualization/notes/01_pandas_and_data_quality.md)
2. [Распределения, выбросы, зависимости и визуальная честность](modules/05_data_and_visualization/notes/02_distributions_outliers_visual_honesty.md)
3. [Feature engineering, pipelines и data leakage](modules/05_data_and_visualization/notes/03_feature_engineering_pipelines_leakage.md)

### 06. Классический ML

Предпосылки: модули 02–05; глава о теории информации.

1. [Разбиения данных, кросс-валидация и baseline](modules/06_classical_ml/notes/01_validation_and_baselines.md)
2. [Линейные модели, kNN, Naive Bayes и SVM](modules/06_classical_ml/notes/02_models.md)
3. [Метрики, пороги, калибровка и дисбаланс](modules/06_classical_ml/notes/03_metrics_thresholds_and_calibration.md)

### 07. Деревья и бустинг

Предпосылки: модули 05–06.

1. [Дерево решений: критерии разбиения и pruning](modules/07_trees_and_boosting/notes/01_split_criteria_and_pruning.md)
2. [Bagging, Random Forest и out-of-bag оценка](modules/07_trees_and_boosting/notes/02_bagging_random_forest_oob.md)
3. [Градиентный бустинг](modules/07_trees_and_boosting/notes/03_gradient_boosting.md)

### 08. Unsupervised learning

Предпосылки: модули 02–06.

1. [Классификация и кластеризация](modules/08_unsupervised_learning/notes/01_clustering_vs_classification.md)
2. [k-means, иерархическая кластеризация и DBSCAN](modules/08_unsupervised_learning/notes/02_clustering_algorithms.md)
3. [PCA, t-SNE, UMAP и визуализация размерности](modules/08_unsupervised_learning/notes/03_dimensionality_reduction.md)
4. [Поиск аномалий без надёжной разметки](modules/08_unsupervised_learning/notes/04_anomaly_detection.md)

### 09. Нейросети

Предпосылки: модули 02–04 и 06; главы об исчислении и устойчивости.

1. [Перцептрон, MLP, XOR и универсальная аппроксимация](modules/09_neural_networks/notes/01_perceptron_mlp_xor.md)
2. [Вычислительные графы, backpropagation и autodiff](modules/09_neural_networks/notes/02_backprop_autodiff.md)
3. [Активации, инициализация, нормализация и dropout](modules/09_neural_networks/notes/03_activations_initialization_regularization.md)

### 10. Computer Vision

Предпосылки: модуль 09; модули 05–06 для данных и оценки.

1. [Свёртки, pooling, augmentation и CNN](modules/10_computer_vision/notes/01_convolutions_and_cnn.md)
2. [LeNet, AlexNet, VGG, ResNet и skip connections](modules/10_computer_vision/notes/02_classic_architectures_and_resnet.md)
3. [ImageNet pretraining, transfer learning и fine-tuning](modules/10_computer_vision/notes/03_pretraining_and_transfer.md)
4. [Выбор архитектуры под качество, данные, latency и память](modules/10_computer_vision/notes/04_architecture_selection.md)
5. [Основы detection и segmentation](modules/10_computer_vision/notes/05_detection_and_segmentation.md)

### 11. Звук, речь и музыка

Предпосылки: модули 02–03 и 09.

1. [Дискретный звук: sampling, aliasing, channels и PCM](modules/11_audio_speech_music/notes/01_discrete_audio.md)
2. [Fourier transform, STFT, mel-спектрограммы и augmentation](modules/11_audio_speech_music/notes/02_spectral_analysis.md)
3. [Распознавание речи: рекуррентные сети, CTC, encoder-decoder и Whisper](modules/11_audio_speech_music/notes/03_speech_recognition.md)
4. [Музыкальные события: tempo, beat, onset и tempogram](modules/11_audio_speech_music/notes/04_music_events.md)
5. [Формат `.osu`, timing points, hit objects и сложность](modules/11_audio_speech_music/notes/05_osu_mapping.md)

### 12. Рукописный текст

Предпосылки: модули 09–10; глава о теории информации.

1. [Латентные модели: autoencoder и VAE](modules/12_generative_handwriting/notes/01_autoencoders_vae.md)
2. [GAN и diffusion: цели, обучение и типичные сбои](modules/12_generative_handwriting/notes/02_gan_diffusion.md)
3. [Условная генерация глифов, композиция строк и читаемость](modules/12_generative_handwriting/notes/03_conditional_glyphs.md)

### 13. NLP и Transformers

Предпосылки: модули 03–04 и 09; глава о теории информации.

1. [Токенизация, эмбеддинги и причинное языковое моделирование](modules/13_nlp_transformers/notes/01_tokenization_embeddings_language_modeling.md)
2. [Scaled dot-product attention, multi-head attention и Transformer-блок](modules/13_nlp_transformers/notes/02_attention_and_transformer_block.md)
3. [Encoder/decoder, BERT и GPT, perplexity и генерация](modules/13_nlp_transformers/notes/03_architectures_evaluation_generation.md)

### 14. Fine-tuning LLM

Предпосылки: модуль 13.

1. [Pretraining, instruction tuning и подготовка данных](modules/14_llm_finetuning/notes/01_pretraining_instruction_data.md)
2. [Full fine-tuning, LoRA, QLoRA, quantization и забывание](modules/14_llm_finetuning/notes/02_full_finetuning_lora_qlora.md)
3. [Оценка LLM, галлюцинации, RAG, безопасность и лицензии](modules/14_llm_finetuning/notes/03_evaluation_rag_safety.md)

### 15. ML Engineering

Предпосылки: модули 00–06 и один прикладной модуль 10–14.

1. [Production-проект: структура, конфигурация, контракты и тесты](modules/15_ml_engineering/notes/01_production_project_contracts_testing.md)
2. [Инференс: batch, online API, Docker, ONNX и эксплуатационные свойства](modules/15_ml_engineering/notes/02_inference_api_docker_onnx.md)
3. [Model registry, experiment tracking и CI](modules/15_ml_engineering/notes/03_registry_tracking_ci.md)

### 16. MLOps

Предпосылки: модуль 15 и опыт обучения хотя бы одной модели.

1. [Experiment tracking, artifacts, lineage и версионирование](modules/16_mlops_monitoring/notes/01_artifacts_lineage_versioning.md)
2. [Data drift, concept drift, observability и delayed labels](modules/16_mlops_monitoring/notes/02_drift_observability_delayed_labels.md)
3. [CI/CD/CT, canary, shadow, rollback и governance](modules/16_mlops_monitoring/notes/03_cicd_ct_rollout_governance.md)

### 17. Capstone

Предпосылки: модули 00–16; допускается выбрать профильную ветку 10–14.

1. [Постановка задачи, ограничения, baseline и план экспериментов](modules/17_capstone/notes/01_problem_baseline_experiment_plan.md)
2. [Воспроизводимое исследование, обучение и error analysis](modules/17_capstone/notes/02_reproducible_research_error_analysis.md)
3. [Сервис, документация, demo, model card и защита проекта](modules/17_capstone/notes/03_service_docs_demo_model_card_defense.md)