tinyvllm
プロジェクトの状況: 不明Minimal reimplementation of the vLLM inference engine: PagedAttention, continuous batching, speculative decoding
- 対象のソフトウェア・ハードウェア
- 取り組みの種類
- メインの公開リポジトリ
- github.com/zarktt/tinyvllm
最後に取得したリポジトリのスター数順に表示します。スター数は関心の高さを示すもので、完成度ではありません。取得できていない値は不明と表示します。
概要と対象範囲
Minimal reimplementation of the vLLM inference engine: PagedAttention, continuous batching, speculative decoding
協力の受け入れ状況
受け入れ方針は不明
- AIを利用した貢献の方針
- 明記なし
参加環境として資料に記載されているOS
参加環境の記録がないプロジェクト
報告されている進捗
進捗の報告なし
ソース・ビルド・リリース
- リポジトリを開く · github.comgithub.com/zarktt/tinyvllm