ai_learning/modules/04_optimization/assignments/03_regularization.md

2.2 KiB
Raw Permalink Blame History

L1 против L2

Теория перед выполнением

Перед началом прочитайте:

Цель

Обучить модели на данных с шумовыми и коррелированными признаками.

Что сделать

  1. Сформулировать ожидаемый результат до запуска эксперимента.
  2. Реализовать простой baseline.
  3. Реализовать основной метод самостоятельно настолько, насколько требует задание.
  4. Добавить автоматические проверки ключевых вычислений.
  5. Провести эксперимент, сохранить метрики и примеры ошибок.
  6. Заполнить отчёт по common/REPORT_TEMPLATE.md.

Результат

Сравнение коэффициентов, качества и sparsity для L1/L2/Elastic Net.

Решение разместите рядом в solution/. Не коммитьте большие данные, веса или секреты.

Критерии приёмки

  • Объяснено, почему L1 зануляет веса, а стандартного универсального «L3» почти не используют.
  • Код читаем, разбит на функции и запускается по инструкции.
  • Выводы подтверждаются измерениями и не выходят за пределы эксперимента.

Вопросы для самопроверки

  • Почему выбран именно этот метод и какой baseline он должен превзойти?
  • Где здесь возможна утечка данных или некорректная оценка?
  • Как изменится результат при других данных или ограничениях?
  • Какую ошибку модели вы считаете наиболее важной и почему?