TRANSFORMER-attention-is-all-you-need
État du projet: InconnuFrom-scratch PyTorch reimplementation of the "Attention Is All You Need" Transformer (23M params) with pretraining + fine-tuning experiments.
- Logiciel ou matériel étudié
- Type de travail
- Dépôt public principal
- github.com/rajesh-bb/transformer-attention-is-all-you-need
Les projets sont classés selon le dernier nombre d’étoiles relevé sur leur dépôt. Les étoiles reflètent l’intérêt, pas l’avancement. Les valeurs manquantes restent inconnues.
Les métadonnées du dépôt doivent être actualisées. La fiche en cache reste disponible.
Présentation et périmètre
From-scratch PyTorch reimplementation of the "Attention Is All You Need" Transformer (23M params) with pretraining + fine-tuning experiments.
Accueil des contributions
Règles de contribution inconnues
- Règles sur les contributions assistées par IA
- Non précisé
Systèmes documentés pour contribuer
Configuration pour contribuer non documentée
Avancement communiqué
Avancement non communiqué
Code source, compilations et versions
- Ouvrir le dépôt · github.comgithub.com/rajesh-bb/transformer-attention-is-all-you-need