tokenspeed: 概要
lightseekorg/tokenspeed は 2026-05-06 に GitHub で作成されたリポジトリです。2026-10-09 時点のスター数は 2,201 です。
以下の箇条書きは、README の文を訳さずに原文のまま抜き出したものです(当サイトによる要約・評価ではありません)。
- 原文(README): Scheduler: C++ control plane and Python execution plane.
- 原文(README): The execution plane is implemented in Python, enabling fast iteration and lowering the cognitive load for researchers and engineers.
- 原文(README): Entrypoint: SMG-integrated AsyncLLM for low-overhead CPU-side request handling.
🎯 成熟度の目安(README の記載)
README に開発段階(alpha・beta・experimental など)の記載は見つかりませんでした。作成日とスター数は冒頭の記載のとおりです。
主な機能と構成(README の原文)
- 原文(README): Request lifecycle, KV cache ownership, and overlap timing are encoded as a finite-state machine, with safe KV resource reuse enforced by the type system at compile time.
- 原文(README): TokenSpeed also treats kernels as a first-class, modular subsystem, separating them from the core engine through a portable public API, centralized registry and selection model, and an extensible plugin mechanism for heterogeneous accelerators.
インストール(README からの転記)
README にインストール手順のコードブロックが見つかりませんでした。導入方法は README を確認してください。
ライセンス
- ライセンス: MIT License(SPDX: MIT)
- 確認先: LICENSE ファイル
この節はライセンスの名称と確認先を示すもので、法的な助言ではありません。利用の可否は、LICENSE ファイルの本文と利用する状況に照らして確認してください。
