TRANSFORMER-attention-is-all-you-need

Projektstatus: Unbekannt

From-scratch PyTorch reimplementation of the "Attention Is All You Need" Transformer (23M params) with pretraining + fine-tuning experiments.

Untersuchte Software oder Hardware
Unknown
Arbeitsansatz
Quellcode-Rekonstruktion
Öffentliches Hauptrepository
github.com/rajesh-bb/transformer-attention-is-all-you-need
1Sterne auf GitHub

Projekte werden nach der zuletzt erfassten Anzahl an Repository-Sternen sortiert. Sterne zeigen Interesse, keinen Fortschritt. Fehlende Werte bleiben unbekannt.

Die Repository-Metadaten müssen aktualisiert werden. Der gespeicherte Eintrag bleibt verfügbar.

Über das Projekt und seinen Umfang

From-scratch PyTorch reimplementation of the "Attention Is All You Need" Transformer (23M params) with pretraining + fine-tuning experiments.

Möglichkeiten zur Mitarbeit

Regeln zur Mitarbeit unbekannt

Regeln für KI-unterstützte Beiträge
Nicht angegeben

Dokumentierte Systeme für Mitwirkende

Arbeitsumgebung nicht dokumentiert

Gemeldeter Fortschritt

Kein Fortschritt gemeldet

Quellen, Builds und Veröffentlichungen