ai_learning/modules/06_classical_ml/glossary.md

38 lines
3.4 KiB
Markdown
Raw Permalink Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

# Глоссарий модуля 06
- **Baseline** — простое воспроизводимое решение для проверки полезности модели.
- **Train / validation / test** — части данных для fit, выбора решений и
однократной итоговой оценки соответственно.
- **Кросс-валидация (CV)** — оценка процедуры по нескольким чередующимся holdout.
- **Nested CV** — внешний цикл оценки и внутренний цикл подбора.
- **Стратификация** — сохранение долей классов в разбиениях.
- **Утечка данных** — использование информации, недоступной при реальном прогнозе.
- **Параметр** — величина, оцениваемая алгоритмом на train.
- **Гиперпараметр** — настройка процедуры обучения, выбираемая на validation.
- **Эмпирический риск** — средняя loss на конечной выборке.
- **Регуляризация** — ограничение сложности через штраф или ограничение параметров.
- **Ridge / Lasso** — линейные модели с \(L_2\)-/\(L_1\)-штрафом.
- **Logit** — логарифм отношения шансов: \(\log[p/(1-p)]\).
- **kNN** — предсказание по ответам ближайших обучающих объектов.
- **Naive Bayes** — байесовский классификатор с условной независимостью признаков.
- **SVM** — модель максимального зазора с hinge loss.
- **Опорный вектор** — объект на границе зазора или нарушающий её.
- **Ядро** — функция скалярного произведения в неявном пространстве признаков.
- **Precision / recall** — доля верных среди срабатываний / найденных среди
истинно положительных.
- **ROC-AUC** — вероятность верно ранжировать случайную положительно-отрицательную
пару.
- **PR-AUC** — качество компромисса precision–recall по порогам.
- **Log loss** — отрицательное логарифмическое правдоподобие вероятностей.
- **Калибровка** — соответствие заявленной вероятности наблюдаемой частоте.
- **Порог** — правило преобразования непрерывного score в дискретное решение.
- **Дисбаланс классов** — существенно разные частоты классов.
- **Prior shift** — изменение долей классов при неизменных распределениях
признаков внутри классов.
## Главы
1. [`notes/01_validation_and_baselines.md`](notes/01_validation_and_baselines.md)
2. [`notes/02_models.md`](notes/02_models.md)
3. [`notes/03_metrics_thresholds_and_calibration.md`](notes/03_metrics_thresholds_and_calibration.md)