高效模型与推理加速 / CVPR2026
门控 KalmaNet:通过测试时岭回归实现的衰减记忆层
Gated KalmaNet: A Fading Memory Layer through Test-time Ridge Regression
GKA 用测试时岭回归加输入相关门控替代 softmax 注意力,在常数内存、线性复杂度下保留完整历史,可直接替换 ViT/混合架构中的注意力层;其 bfloat16 下的数值稳定化与分块切比雪夫迭代、自定义反向 kernel 对低精度长序列视觉骨干训练有直接复用价值。
线性状态空间模型测试时回归切比雪夫迭代