Prefill 与 Decode 的两种工作负载

Prefill 一次处理许多 prompt token；Decode 每个活跃序列每轮通常只生成一个新 token。