2.2 KiB
2.2 KiB
Разбор A/B-теста
Теория перед выполнением
Перед началом прочитайте:
Цель
Смоделировать эксперимент, выбрать метрику, проверить гипотезу и оценить эффект.
Что сделать
- Сформулировать ожидаемый результат до запуска эксперимента.
- Реализовать простой baseline.
- Реализовать основной метод самостоятельно настолько, насколько требует задание.
- Добавить автоматические проверки ключевых вычислений.
- Провести эксперимент, сохранить метрики и примеры ошибок.
- Заполнить отчёт по
common/REPORT_TEMPLATE.md.
Результат
Отчёт с CI, p-value, effect size и решением.
Решение разместите рядом в solution/. Не коммитьте большие данные,
веса или секреты.
Критерии приёмки
- Решение учитывает практическую, а не только статистическую значимость.
- Код читаем, разбит на функции и запускается по инструкции.
- Выводы подтверждаются измерениями и не выходят за пределы эксперимента.
Вопросы для самопроверки
- Почему выбран именно этот метод и какой baseline он должен превзойти?
- Где здесь возможна утечка данных или некорректная оценка?
- Как изменится результат при других данных или ограничениях?
- Какую ошибку модели вы считаете наиболее важной и почему?