Tag · 2 篇
视觉语言模型安全
01 02
TreeTeaming：通过分层策略探索对视觉语言模型进行自主红队测试
TreeTeaming: Autonomous Red-Teaming of Vision-Language Models via Hierarchical Strategy Exploration
提出基于LLM编排器的树状策略探索框架，可自动发现视觉语言模型的多模态越狱攻击路径，为评估和提升VLM安全性提供可复用的红队测试方法。
面向视觉语言模型越狱防御的零空间投影原则性引导
Principled Steering via Null-space Projection for Jailbreak Defense in Vision-Language Models
把零空间投影引入激活引导：在良性子空间内保持零扰动、仅在潜在有害方向上诱导拒答，为视觉语言模型的推理期安全对齐提供了一个可复用、有理论保证的干预手段，可直接迁移到其他多模态模型的安全加固。