Tag · 2 篇
越狱攻击防御
01 02
面向视觉语言模型越狱防御的零空间投影原则性引导
Principled Steering via Null-space Projection for Jailbreak Defense in Vision-Language Models
把零空间投影引入激活引导：在良性子空间内保持零扰动、仅在潜在有害方向上诱导拒答，为视觉语言模型的推理期安全对齐提供了一个可复用、有理论保证的干预手段，可直接迁移到其他多模态模型的安全加固。
EcoAlign：一种经济理性的高效 LVLM 对齐框架
EcoAlign: An Economically Rational Framework for Efficient LVLM Alignment
把 LVLM 的推理过程建模为带预算约束的思维图搜索，用前向净现值式打分和短板原则约束路径安全，可作为视觉语言模型推理时防御越狱的可复用框架，也可用于在有限算力下权衡安全与效用的解码策略设计。