ai_learning/modules/04_optimization/assignments/03_regularization.md

42 lines
2.2 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

# L1 против L2
## Теория перед выполнением
Перед началом прочитайте:
- [`03_regularization_bias_variance.md`](../notes/03_regularization_bias_variance.md)
## Цель
Обучить модели на данных с шумовыми и коррелированными признаками.
## Что сделать
1. Сформулировать ожидаемый результат до запуска эксперимента.
2. Реализовать простой baseline.
3. Реализовать основной метод самостоятельно настолько, насколько требует задание.
4. Добавить автоматические проверки ключевых вычислений.
5. Провести эксперимент, сохранить метрики и примеры ошибок.
6. Заполнить отчёт по `common/REPORT_TEMPLATE.md`.
## Результат
Сравнение коэффициентов, качества и sparsity для L1/L2/Elastic Net.
Решение разместите рядом в `solution/`. Не коммитьте большие данные,
веса или секреты.
## Критерии приёмки
- Объяснено, почему L1 зануляет веса, а стандартного универсального «L3» почти не используют.
- Код читаем, разбит на функции и запускается по инструкции.
- Выводы подтверждаются измерениями и не выходят за пределы эксперимента.
## Вопросы для самопроверки
- Почему выбран именно этот метод и какой baseline он должен превзойти?
- Где здесь возможна утечка данных или некорректная оценка?
- Как изменится результат при других данных или ограничениях?
- Какую ошибку модели вы считаете наиболее важной и почему?