3.4 KiB
3.4 KiB
Глоссарий модуля 06
- Baseline — простое воспроизводимое решение для проверки полезности модели.
- Train / validation / test — части данных для fit, выбора решений и однократной итоговой оценки соответственно.
- Кросс-валидация (CV) — оценка процедуры по нескольким чередующимся holdout.
- Nested CV — внешний цикл оценки и внутренний цикл подбора.
- Стратификация — сохранение долей классов в разбиениях.
- Утечка данных — использование информации, недоступной при реальном прогнозе.
- Параметр — величина, оцениваемая алгоритмом на train.
- Гиперпараметр — настройка процедуры обучения, выбираемая на validation.
- Эмпирический риск — средняя loss на конечной выборке.
- Регуляризация — ограничение сложности через штраф или ограничение параметров.
- Ridge / Lasso — линейные модели с (L_2)-/(L_1)-штрафом.
- Logit — логарифм отношения шансов:
\log[p/(1-p)]. - kNN — предсказание по ответам ближайших обучающих объектов.
- Naive Bayes — байесовский классификатор с условной независимостью признаков.
- SVM — модель максимального зазора с hinge loss.
- Опорный вектор — объект на границе зазора или нарушающий её.
- Ядро — функция скалярного произведения в неявном пространстве признаков.
- Precision / recall — доля верных среди срабатываний / найденных среди истинно положительных.
- ROC-AUC — вероятность верно ранжировать случайную положительно-отрицательную пару.
- PR-AUC — качество компромисса precision–recall по порогам.
- Log loss — отрицательное логарифмическое правдоподобие вероятностей.
- Калибровка — соответствие заявленной вероятности наблюдаемой частоте.
- Порог — правило преобразования непрерывного score в дискретное решение.
- Дисбаланс классов — существенно разные частоты классов.
- Prior shift — изменение долей классов при неизменных распределениях признаков внутри классов.