NANO-VLLM LAB
Sequence 状态机
操作一个请求，观察 WAITING、RUNNING、FINISHED 以及 prompt / completion / cached token 的变化。
请求对象
WAITING→RUNNING→FINISHED
总 token0
Prompt token0
Completion token0
尚未创建。
操作一个请求，观察 WAITING、RUNNING、FINISHED 以及 prompt / completion / cached token 的变化。