NANO-VLLM LAB

Attention 与 slot_mapping

用一个极小的注意力例子观察 Q·K 分数,同时把新 K/V 写入指定缓存槽位。

概念模拟,不执行真实模型

注意力权重

KV Cache slots

等待操作。