近日,西安电子科技大学与军事科学院联合培养博士生李超的研究成果“Optimizing Latent Variables in Integrating Transfer and Query Based Attack Framework”被国际顶级期刊《IEEE Transactions on Pattern Analysis and Machine Intelligence》(TPAMI)收录并发表,通讯作者为我校人工智能学院王晗丁教授和军事科学院姚雯研究员。
论文信息如下:Chao Li,Tingsong Jiang,Handing Wang,Wen Yao,Donghua Wang:Optimizing Latent Variables in Integrating Transfer and Query Based Attack Framework, TPAMI, online, 2024.9.
论文链接:https://ieeexplore.ieee.org/document/10681296.
该研究深入探讨了深度学习模型面临的安全性问题,聚焦黑盒攻击场景,提出了一种联合迁移攻击和查询攻击的集成框架,解决了对抗样本迁移性差、黑盒查询率较高等难题。该集成框架主要分为两个部分:
(1)利用迁移攻击的思想,通过后接白盒模型,训练能够输出对抗干扰的生成器,并将对抗干扰迁移到黑盒模型上进行攻击,降低模型查询次数。
(2)利用查询攻击的思想,使用进化算法优化生成器的输入以提高对抗样本的迁移性。该集成攻击框架具有灵活度高、可扩展性强等特点,通过调整生成器输出可以适配不同的对抗攻击任务。
TPAMI作为人工智能领域最具影响力的学术期刊之一,在全球范围内享有盛誉,其最新影响因子为20.8,收录的研究成果通常代表了该领域的最高水平。该研究成果反映了西电与军科院在联合培养高水平科研人才方面所取得的显著成效。