ai_learning/modules/07_trees_and_boosting/assignments/03_explainability.md

2.1 KiB
Raw Blame History

Интерпретация бустинга

Теория перед выполнением

Перед началом прочитайте:

Цель

Сравнить permutation importance и SHAP на модели.

Что сделать

  1. Сформулировать ожидаемый результат до запуска эксперимента.
  2. Реализовать простой baseline.
  3. Реализовать основной метод самостоятельно настолько, насколько требует задание.
  4. Добавить автоматические проверки ключевых вычислений.
  5. Провести эксперимент, сохранить метрики и примеры ошибок.
  6. Заполнить отчёт по common/REPORT_TEMPLATE.md.

Результат

Глобальные и локальные объяснения, проверка коррелированных признаков.

Решение разместите рядом в solution/. Не коммитьте большие данные, веса или секреты.

Критерии приёмки

  • Отмечено, что важность не доказывает причинность и может быть нестабильной.
  • Код читаем, разбит на функции и запускается по инструкции.
  • Выводы подтверждаются измерениями и не выходят за пределы эксперимента.

Вопросы для самопроверки

  • Почему выбран именно этот метод и какой baseline он должен превзойти?
  • Где здесь возможна утечка данных или некорректная оценка?
  • Как изменится результат при других данных или ограничениях?
  • Какую ошибку модели вы считаете наиболее важной и почему?