KV Cache

分块KV Cache压缩让长上下文更省显存，却可能让信息因所处“相位”不同而被区别对待；最高40.2个百分点的差距，藏在平均分看不见的位置。