Tag · 5 篇

红队测试

TreeTeaming: Autonomous Red-Teaming of Vision-Language Models via Hierarchical Strategy Exploration

提出基于LLM编排器的树状策略探索框架，可自动发现视觉语言模型的多模态越狱攻击路径，为评估和提升VLM安全性提供可复用的红队测试方法。

TEAR: Temporal-aware Automated Red-teaming for Text-to-Video Models

对做视频生成的人，这篇给出了一个可复用的安全评测范式：把「时序动态」当作攻击面，用两阶段训练加在线偏好学习自动搜索文本无害但触发违规视频的提示词，可直接用来给自己的 T2V 模型做红队体检或构造安全对齐数据。

LLaVAShield: Safeguarding Multimodal Multi-Turn Dialogues in Vision-Language Models

为视觉语言模型提供多模态多轮对话的安全审核器与 MMDS 基准，可直接用于评测和加固 VLM 在交互式多轮场景下的输入与回复安全性，并提供 MMRT 自动化红队生成框架来构造对抗性多模态对话。

GenBreak: Red Teaming Text-to-Image Generation Using Large Language Models

对做 T2I 安全评测的人，这篇给出了一个可复用的红队提示词生成范式：用监督微调加多奖励强化学习训练一个 LLM 攻击者，同时优化提示词的隐蔽性与生成图像的毒性，可直接用于黑盒评测商用 T2I 生成器的安全对齐强度。

Adversarial Style Optimization: Enhancing VLM Jailbreaks by GRPO-based Stylistic Triggers Optimization

提出了一种基于GRPO优化图像编辑模型来叠加风格触发器的即插即用模块，可增强现有视觉越狱攻击的成功率，为多模态大模型的安全评估和红队测试提供了可复用的风格扰动优化框架。