RA-Bench: Can We Defend Against AI-Generated Video Attacks on Real-World Crisis Events? 精读
AI视频生成器已能伪造战争、灾害等危机场景,但现有检测器的真实防御能力从未在贴近真实攻击链的场景下被检验。NUS、西安电子科大、HKUST等19机构60人团队构建RA-Bench:1830条真实危机视频锚点+首帧条件化I2V生成的16056条配对视频,覆盖4开源+5闭源生成器。三维度系统评测发现全面失守:传统检测器AUC从公开基准67.6–98.6%跌至43.9–57.3%;六位评审员全判“真实”的HumanProof子集上Gemini仅54.7%;社会传播模拟(转码+降采样+新闻台标)使微调MLLM的假视频召回从46.0%崩溃至1.4%。检测排名与公开基准相关性仅0.26——现有检测体系在真实危机场景已实质失效。