2.2 KiB
2.2 KiB
Self-attention с нуля
Теория перед выполнением
Прочитайте позиционную информацию и scaled dot-product/multi-head attention.
Цель
Реализовать scaled dot-product и multi-head attention с causal mask.
Что сделать
- Сформулировать ожидаемый результат до запуска эксперимента.
- Реализовать простой baseline.
- Реализовать основной метод самостоятельно настолько, насколько требует задание.
- Добавить автоматические проверки ключевых вычислений.
- Провести эксперимент, сохранить метрики и примеры ошибок.
- Заполнить отчёт по
common/REPORT_TEMPLATE.md.
Результат
NumPy/PyTorch-реализация, shape-тесты и визуализация attention.
Решение разместите рядом в solution/. Не коммитьте большие данные,
веса или секреты.
Критерии приёмки
- Маска не пропускает будущие токены; scaling выполнен по
sqrt(d_k). - Код читаем, разбит на функции и запускается по инструкции.
- Выводы подтверждаются измерениями и не выходят за пределы эксперимента.
Вопросы для самопроверки
- Почему выбран именно этот метод и какой baseline он должен превзойти?
- Где здесь возможна утечка данных или некорректная оценка?
- Как изменится результат при других данных или ограничениях?
- Какую ошибку модели вы считаете наиболее важной и почему?