Tag · 2 篇
逐层分析
分布 可解释性与可视化1鲁棒性与安全1
01 02
模型何时真正做出决策？映射预训练神经网络中的逐层决策时间线
When Do Models Actually Decide? Mapping the Layer-Wise Decision Timeline in Pretrained Neural Networks
该论文通过逐层线性探针揭示了预训练ResNet在前向传播中决策形成的层间时间线，为设计基于稳定性的早退机制提供了量化依据，并指出简单图像可能在网络早期即被决定，这对视觉模型推理加速和动态计算分配有直接启发。
LaSM：用于防御 GUI 智能体弹窗攻击的逐层缩放机制
LaSM: Layer-wise Scaling Mechanism for Defending Pop-up Attack on GUI Agents
对做多模态大模型智能体或视觉语言模型安全的研究者，这篇论文给出一个免训练、推理时即可用的防御手段：通过逐层放大关键层的注意力与 MLP 模块，把模型显著性重新拉回任务相关区域；其「逐层注意力分歧」分析也可直接迁移到其他视觉注入攻击（如对抗 patch、干扰物注入）的脆弱性诊断上。