Tag · 3 篇

多模态大模型安全

分布鲁棒性与安全2视觉语言模型1

SineProject: Machine Unlearning for Stable Vision-Language Alignment

对做多模态大模型安全对齐的研究者，这篇论文指出遗忘训练会破坏投影器的雅可比条件数，并给出用正弦调制可训练参数稳定跨模态嵌入的轻量方案，可直接用于视觉语言模型的知识擦除与安全微调。

EcoAlign: An Economically Rational Framework for Efficient LVLM Alignment

把 LVLM 的推理过程建模为带预算约束的思维图搜索，用前向净现值式打分和短板原则约束路径安全，可作为视觉语言模型推理时防御越狱的可复用框架，也可用于在有限算力下权衡安全与效用的解码策略设计。

ARGUS: Defending Against Multimodal Indirect Prompt Injection via Steering Instruction-Following Behavior

对做多模态大模型视觉侧安全的人，这篇给出了一个与模态无关的表征空间干预手段：在指令遵循子空间内搜索与效用退化方向解耦的引导方向，并配合自适应强度与按需触发的轻量检测，可直接迁移到图像/视频输入下的越狱与注入防御。