TRANSFORMER-attention-is-all-you-need
Стан проєкту: НевідомоFrom-scratch PyTorch reimplementation of the "Attention Is All You Need" Transformer (23M params) with pretraining + fine-tuning experiments.
- Досліджуване ПЗ або обладнання
- Тип роботи
- Основний публічний репозиторій
- github.com/rajesh-bb/transformer-attention-is-all-you-need
Проєкти впорядковано за останньою зафіксованою кількістю зірок репозиторію. Зірки показують зацікавленість, а не поступ роботи. Відсутні значення залишаються невідомими.
Метадані репозиторію потребують оновлення. Збережений запис залишається доступним.
Про проєкт і його завдання
From-scratch PyTorch reimplementation of the "Attention Is All You Need" Transformer (23M params) with pretraining + fine-tuning experiments.
Можливість долучитися
Правила участі невідомі
- Правила використання ШІ
- Не зазначено
Системи учасників за документацією
Середовище учасника не описано
Заявлений прогрес
Прогрес не опубліковано
Вихідний код, збирання та релізи
- Відкрити репозиторій · github.comgithub.com/rajesh-bb/transformer-attention-is-all-you-need