不安全内容生成

当理解成为风险：新兴图像生成范式中的真实性与安全风险

When Understanding Becomes a Risk: Authenticity and Safety Risks in the Emerging Image Generation Paradigm

论文系统对比了MLLM与扩散模型在生成不安全内容和虚假图像上的安全风险，并揭示现有虚假图像检测器对MLLM生成图像识别困难、且可通过更长描述性输入绕过。对视觉安全研究者而言，这提示需要针对MLLM生成范式设计新的检测与防御方法，并重新评估现有检测器的泛化性。