TRANSFORMER-attention-is-all-you-need

Состояние проекта: Неизвестно

From-scratch PyTorch reimplementation of the "Attention Is All You Need" Transformer (23M params) with pretraining + fine-tuning experiments.

Исследуемое ПО или оборудование
Unknown
Тип работы
Восстановление исходного кода
Основной публичный репозиторий
github.com/rajesh-bb/transformer-attention-is-all-you-need
1Звёзды на GitHub

Проекты отсортированы по последнему зафиксированному числу звёзд репозитория. Звёзды отражают интерес, а не готовность проекта. Отсутствующие значения остаются неизвестными.

Метаданные репозитория требуют обновления. Сохранённая запись доступна.

О проекте и его задачах

From-scratch PyTorch reimplementation of the "Attention Is All You Need" Transformer (23M params) with pretraining + fine-tuning experiments.

Приём стороннего участия

Правила участия неизвестны

Правила использования ИИ
Не указаны

Системы участников по документации

Окружение участника не описано

Заявленный прогресс

Прогресс не опубликован

Исходники, сборка и релизы