2.2 KiB
2.2 KiB
GD и SGD с нуля
Теория перед выполнением
Перед началом прочитайте:
Цель
Минимизировать квадратичную функцию полным, стохастическим и mini-batch градиентным спуском.
Что сделать
- Сформулировать ожидаемый результат до запуска эксперимента.
- Реализовать простой baseline.
- Реализовать основной метод самостоятельно настолько, насколько требует задание.
- Добавить автоматические проверки ключевых вычислений.
- Провести эксперимент, сохранить метрики и примеры ошибок.
- Заполнить отчёт по
common/REPORT_TEMPLATE.md.
Результат
Траектории оптимизации, графики loss и сравнение методов.
Решение разместите рядом в solution/. Не коммитьте большие данные,
веса или секреты.
Критерии приёмки
- Показано влияние learning rate и шума; есть критерий остановки.
- Код читаем, разбит на функции и запускается по инструкции.
- Выводы подтверждаются измерениями и не выходят за пределы эксперимента.
Вопросы для самопроверки
- Почему выбран именно этот метод и какой baseline он должен превзойти?
- Где здесь возможна утечка данных или некорректная оценка?
- Как изменится результат при других данных или ограничениях?
- Какую ошибку модели вы считаете наиболее важной и почему?